США потребовали от Anthropic отключить мощные модели Fable 5 и Mythos 5 из-за угрозы безопасности

Они были выпущены всего несколько дней назад

Компания Anthropic приостановила работу своих самых мощных моделей искусственного интеллекта, Fable 5 и Mythos 5, после того как власти США выразили опасения по поводу безопасности всего через несколько дней после их публичного релиза.

«В соответствии с этим указанием мы вынуждены отключить Fable 5 и Mythos 5 для всех пользователей, чтобы обеспечить соблюдение требований», — отметила компания, добавив, что в уведомлении не содержались конкретные детали, касающиеся обеспокоенности в сфере национальной безопасности.

«Насколько нам известно, правительство считает, что у него появилась информация о способе обхода или «взлома» Fable 5, — сообщила компания. — Мы проанализировали демонстрацию применения этой конкретной техники для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы заметили, что другие общедоступные модели также способны их выявлять без необходимости обхода защиты».

Перед выходом Claude Fable 5 компания продвигала различные «защитные меры», которые она внедрила для предотвращения кибератак. Anthropic сообщила, что предоставила предварительный доступ к инструменту лишь ограниченному числу организаций, поскольку он был настолько продвинутым, что мог представлять угрозу из-за своей способности взламывать компьютерные системы.

Компания отметила, что модель была «слишком мощной» даже до официального релиза Claude Fable 5, что некоторые критики расценили как преувеличение и маркетинговый ход.

«Способности Fable превосходят возможности любой модели, которую мы когда-либо создавали», — заявила компания.

Anthropic — это американская компания в области искусственного интеллекта, известная разработкой популярной линейки нейросетей Claude. Она была основана в 2021 году бывшими руководителями OpenAI — братом и сестрой Дарио и Даниэлой Амодеи.