Anthropic высокопоставленные лица срочно в Вашингтон для переговоров о снятии запрета на экспорт Fable 5 и Mythos 5

Администрация Трампа 13 июня ввела экспортные ограничения на две флагманские модели ИИ компании Anthropic — Fable 5 и Mythos 5, запретив любым иностранным правительствам, компаниям и частным лицам (включая иностранных сотрудников Anthropic) доступ к этим моделям. Для обеспечения соответствия Anthropic немедленно полностью отключила обе модели. После этого сооснователь и главный технический директор компании Том Браун (Tom Brown), а также руководитель отдела публичной политики Сара Хек (Sarah Heck) были направлены в Вашингтон для проведения ежедневных онлайн-совещаний с министром торговли Говардом Лютником (Howard Lutnick), директором национальной кибербезопасности Шоном Кэрнкроссом (Sean Cairncross) и другими правительственными чиновниками. Непосредственным поводом для запрета, как сообщается, стали разведданные о возможном доступе китайской группы к Mythos 5, а также обнаружение исследователями Amazon способа обхода защиты («джейлбрейка») этой модели.

Со стороны правительства директор по политике в области ИИ Белого дома Дэвид Сакс (David Sacks) публично обвинил генерального директора Anthropic Дарио Амодея (Dario Amodei) в том, что он ставит коммерческое развертывание выше безопасности и проявляет пассивность в сотрудничестве. Амодей провел три раунда переговоров с несколькими чиновниками, утверждая, что выявленные уязвимости не представляют собой настоящий «джейлбрейк», позволяющий обойти защитные барьеры. Затем Anthropic выступила с заявлением, в котором сообщила, что получила лишь устные доказательства о «потенциальном, ограниченном и не универсальном способе взлома», причем выявленная уязвимость была «относительно простой», а другие открытые модели также могли обнаруживать аналогичные слабые места без необходимости взлома. В заявлении предупреждалось: «Если этот стандарт будет повсеместно применяться в отрасли, это фактически остановит развертывание новых моделей всеми поставщиками передовых ИИ». Сообщается, что обе стороны заинтересованы в достижении компромисса, и наиболее вероятным путем решения считается прямое взаимодействие инженеров Anthropic с правительственными исследователями безопасности. Это также первый случай, когда ведущая американская ИИ-компания была вынуждена вести переговоры с правительством через механизм экспортного контроля, чтобы получить доступ к рынку для своих самых передовых моделей.

The Wall Street Journal | Washington Examiner