Добавь сайт в закладки нажми CTRL+D
Десятки специалистов утверждают, что выявленные «jailbreak-сценарии» не превышают возможностей других передовых моделей
Решение Министерства торговли США (U.S. Department of Commerce) установить экспортные ограничения на модель Anthropic Fable 5 вызвало значительный раскол среди экспертов в области кибербезопасности. Некоторые специалисты считают, что модель не обладает уникальными характеристиками, оправдывающими такие строгие меры.
Ограничения были введены администрацией США после сообщений о возможных попытках «джейлбрейка» модели вскоре после её релиза. По мнению регуляторов, если исследователи внутри страны смогли обойти защитные механизмы, то аналогичные методы могут быть использованы иностранными государствами и злоумышленниками.
В результате этого Anthropic временно ограничила доступ к модели для некоторых пользователей, одновременно пытаясь добиться пересмотра решения от Белого дома.
Тем не менее, эксперты по кибербезопасности и независимые аналитики утверждают, что опубликованные результаты не показывают выхода за рамки типичных сценариев использования мощных моделей. По их мнению, «речь не идет о принципиальном обходе защит, а о сложных многошаговых запросах, характерных для тестирования моделей на устойчивость к уязвимостям».
Эксперт по кибербезопасности Кэти Муссурис (Katie Moussouris) сообщила, что исследователи пытались использовать модели Anthropic, такие как Fable 5, Mythos и Claude Opus, для анализа уязвимостей в открытом программном обеспечении. Она отметила, что Fable 5 изначально отказывалась выполнять часть запросов, однако затем с помощью многоэтапного процесса удалось получить скрипты для тестирования исправлений.
Муссурис подчеркнула, что такие возможности являются стандартной частью практик кибербезопасности, где ИИ применяется для поиска ошибок, объяснения исправлений и проверки патчей. По её мнению, это не является обходом защитных механизмов, а, наоборот, важным инструментом киберзащиты.
Некоторые эксперты, подписавшие открытое обращение к администрации США, также подчеркивают, что аналогичные возможности присутствуют и в других моделях, включая разработки OpenAI и альтернативные системы. Они указывают, что «уровень джейлбрейка Fable 5 не превышает того, что уже наблюдалось в индустрии».
Отдельно специалисты критикуют сам подход к регулированию. По их мнению, решение об экспортных ограничениях было принято без прозрачной и последовательной оценки рисков, а также без учета других коммерческих моделей с сопоставимыми возможностями в области анализа уязвимостей.
Сенатор Марк Уорнер (Mark Warner) заявил, что ограничения должны основываться на прозрачной и формализованной системе оценки рисков, а не на разрозненных исследованиях. Он призвал Конгресс США разработать единые правила регулирования моделей, чтобы избежать политизированных решений и обеспечить предсказуемость для отрасли.
Согласно данным Anthropic, модель Fable 5 проходила обширное тестирование с участием внутренних и внешних команд, в сумме около 1000 часов, в ходе которого не было выявлено универсальных методов обхода защитных механизмов.
Эксперты, поддержавшие критику, отмечают, что аналогичные уязвимости и сценарии тестирования воспроизводятся и в других системах, включая модели OpenAI, Anthropic Claude и ряд китайских решений, что ставит под сомнение утверждение о «уникальной опасности Fable 5».
На фоне нарастающего давления общества на регулирование ИИ вопрос безопасности моделей всё чаще становится предметом политических решений. Однако текущий конфликт вокруг Fable 5 подчеркивает важную проблему отрасли: отсутствие единых критериев, по которым можно объективно определить, где заканчивается исследовательская устойчивость модели и начинается реальная угроза безопасности.
ИсточникПоделись видео: