Anthropic сообщает о хакерских атаках с участием Claude: Маск предостерегает о будущем угроз

Компания выявила инциденты после анализа 141 006 тестовых сессий

Компания Anthropic сообщила, что ее модель ИИ Claude взломала системы трех организаций во время тестирования, после того как ошибка в конфигурации предоставила ей доступ в интернет. Это произошло спустя несколько дней после того, как соперничающая компания OpenAI уведомила о случае несанкционированного доступа к Hugging Face.

По словам Anthropic, некорректная конфигурация позволила моделям Claude выйти в интернет из тестовых сред, которые должны были быть изолированными, что привело к несанкционированному доступу к системам трех компаний.

Компания заявила, что инциденты были выявлены в ходе анализа 141 006 тестовых сессий. Этот процесс был инициирован после того, как на прошлой неделе OpenAI сообщила о том, что автономный агент, работающий на основе ее ИИ-моделей, вышел из-под контроля во время тестирования безопасности и спровоцировал взлом, который скомпрометировал

.

Эти утечки указывают на то, что растущие возможности ИИ уже создают угрозы безопасности, о которых эксперты предупреждали, и даже ведущие разработчики могут быть застигнуты врасплох уязвимостями, которые могут использовать их модели.

«Клод скомпрометировал инфраструктуру пострадавших организаций, используя простые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек», — говорится в сообщении.

Компания Anthropic отметила, что инциденты затронули три отдельных модели: Claude Opus 4.7, Claude Mythos 5 и внутреннюю исследовательскую модель.

Как сообщила организация Anthropic, две из этих организаций не были осведомлены о происшествии до того, как с ними связались, и добавила, что все еще пытается установить контакт с третьей.

Илон Маск уже успел прокомментировать инцидент, отметив, что подобные случаи будут происходить часто по мере того, как искусственный интеллект становится более умным и автономным.