WSJ: Ограничения на модель Anthropic Fable 5 вызваны вмешательством Amazon

Согласно источникам, сигналы от CEO Amazon Энди Джесси стали причиной для решения администрации Трампа ограничить доступ к мощнейшим ИИ-моделям Anthropic

Решение администрации Дональда Трампа ограничить доступ иностранным пользователям к самым мощным моделям искусственного интеллекта компании Anthropic было принято после предупреждений от Amazon. Об этом сообщает The Wall Street Journal, ссылаясь на источники, владеющие информацией о ситуации.

По информации собеседников издания, генеральный директор Amazon Энди Джесси (Andy Jassy) проинформировал министра финансов США Скотта Бессента (Scott Bessent) и других должностных лиц о том, что специалисты компании смогли заставить модель Fable 5 выдавать данные, которые могут быть использованы для подготовки кибератак и должны были оставаться недоступными для пользователей.

После этих заявлений представители Белого дома провели встречу для обсуждения потенциальных рисков, а эксперты по безопасности начали проверку выводов Amazon. По словам источников, чиновники потребовали от Anthropic устранить выявленные проблемы или временно отключить модель. В итоге власти пришли к выводу, что самым быстрым решением для снижения рисков станет ограничение доступа к системе для иностранных правительств, компаний и частных лиц. Несмотря на опасения, что такие меры могут замедлить развитие отрасли, Дональд Трамп одобрил это решение.

Дополнительные вопросы у чиновников возникли после обсуждений с генеральным директором компании Дарио Амодеи. Некоторые участники переговоров сочли, что Anthropic не проявляет достаточной готовности к сотрудничеству с государственными специалистами по безопасности.

В ответ на действия правительства Anthropic объявила о полном отключении доступа к моделям Mythos и Fable для всех пользователей, чтобы обеспечить соблюдение новых требований. В компании предупредили, что это может затруднить работу организаций по всему миру, использующих данные инструменты для поиска уязвимостей в программном обеспечении. Кроме того, многие сотрудники Anthropic родились за пределами США, в результате чего ограничения фактически лишили часть специалистов доступа к новейшим моделям.

Ситуация выглядит странной ещё и потому, что Amazon остаётся одним из крупнейших инвесторов Anthropic. Корпорация не только вложила значительные средства в стартап, но и предоставляет ему вычислительную инфраструктуру и микросхемы для центров обработки данных. При этом сама Amazon использует современные ИИ-системы для анализа программного обеспечения и поиска уязвимостей.

Anthropic утверждает, что выявленные проблемы не представляют серьёзной угрозы. Компания заявляет, что возможности, обнаруженные Amazon, относятся к относительно простым сценариям и не являются полноценным обходом встроенных защитных механизмов. По словам представителей стартапа, аналогичные результаты могут демонстрировать и другие доступные модели искусственного интеллекта.

Некоторые независимые эксперты разделяют схожее мнение. Согласно отчету Amazon, с которым ознакомились специалисты по кибербезопасности, Fable смогла выявить уязвимости как минимум в четырёх программных продуктах после получения специальной последовательности запросов. Однако основатель компании GreyNoise Intelligence Эндрю Моррис (Andrew Morris) отметил, что это ещё далеко от получения действительно опасной информации, которая могла бы быть использована для осуществления реальных атак.

Тем не менее, опасения вызвало другое свойство модели. Anthropic известна тем, что её системы способны не только находить программные ошибки, но и помогать создавать код для их эксплуатации. По словам Морриса, исследователи Amazon не смогли получить доступ к этой функциональности, так как она остаётся защищённой встроенными ограничениями.

События последних дней стали очередным эпизодом продолжительного конфликта между Anthropic и администрацией Трампа. Белый дом многократно критиковал компанию за её подход к вопросам безопасности и связи с представителями предыдущей администрации США. Дополнительное напряжение возникло вокруг использования технологий Anthropic американскими военными структурами. Спор уже привёл к судебным разбирательствам между компанией и государственными ведомствами.

По мнению ряда аналитиков, история с Fable и Mythos демонстрирует усиливающееся влияние американских властей на рынок искусственного интеллекта. Вместе с недавними инициативами по усилению государственного контроля над передовыми моделями этот случай показывает, как быстро новые данные о возможностях ИИ могут влиять не только на регулирование отрасли, но и на положение крупнейших технологических компаний.