Anthropic не достиг соглашения с Белым домом по Claude Fable 5: экспортные ограничения остаются

После срочных обсуждений в Вашингтоне администрация Дональда Трампа сохранила ограничения на флагманскую модель Anthropic, посчитав возможным обход её защитных мер.

В результате переговоров в понедельник между администрацией Белого дома и компанией Anthropic не удалось достичь согласия по модели Claude Fable 5: экспортные ограничения, введённые ранее из-за опасений обхода защитных механизмов, остаются в силе.

В обсуждении участвовали представители Белого дома, Министерства торговли США и связанных с ними исследовательских организаций, включая Центр стандартов и инноваций в области искусственного интеллекта и Офис национального директора по кибербезопасности. Также к встречам дистанционно подключались высокопоставленные чиновники, среди которых министр торговли США Говард Лютник.

Со стороны Anthropic в переговорах участвовали сооснователь и директор по вычислительным системам Том Браун и глава отдела внешних связей Сара Хек. В Вашингтон также прибыли руководитель команды комплексной проверки безопасности (red-teaming) Логан Грэм и старший исследователь безопасности Николас Карлини.

Ключевой момент разногласий — оценка риска «джейлбрейка», то есть обхода встроенных ограничений модели через специально сформулированные запросы. Администрация США полагает, что такие обходы могут предоставить доступ к расширенным возможностям модели Mythos, на которой основана Fable 5, фактически устраняя заложенные ограничения.

Anthropic в последние дни настаивает на том, что эти опасения преувеличены и не отражают реальный уровень защищенности модели. Позиция компании поддерживается некоторыми независимыми специалистами по кибербезопасности, которые направили регуляторам открытое письмо с критикой введенных ограничений.

Тем не менее, после анализа уязвимостей, на которые указали американские ведомства, включая участие Агентства национальной безопасности США (NSA), администрация пришла к выводу, что некоторые защитные меры действительно могут быть обойдены. Это и стало причиной введения экспортных ограничений.

Также обсуждается возможность возвращения Fable 5 на потребительский рынок, однако, по словам источников, это станет возможным только при полном устранении рисков обхода защитных мер.

Ситуация усложняется более широким контекстом: Anthropic уже ведет споры с Пентагоном по поводу использования своих моделей для военных задач, а инвесторы компании пытаются оценить влияние конфликта с регуляторами на её будущие перспективы.

На фоне разногласий усиливается и политический эффект: случай с Fable 5 фактически создает прецедент взаимодействия крупных лабораторий ИИ с государством. Для отрасли это означает переход к более раннему и более плотному вовлечению регуляторов в разработку и запуск передовых моделей.

Результаты переговоров пока не меняют ситуацию: Claude Fable 5 остается под ограничениями, а спор о том, где проходит граница между «защитными механизмами» и «условной безопасностью», фактически только усиливается.