OpenAI раскрыла детали «побегов ИИ-агентов» после взлома Hugging Face

Компания выявила ещё несколько случаев выхода автономных моделей из изолированной «песочницы», приостановила собственные испытания и расширила внутреннее расследование

OpenAI обнаружила дополнительные случаи выхода автономных ИИ-агентов из изолированной тестовой среды в процессе расследования недавнего инцидента

. Об этом проинформировали источники Reuters.

Согласно их данным, были выявлены новые эпизоды, которые ранее не были обнародованы. Все они, однако, имели ограниченный масштаб, и не было обнаружено признаков того, что агенты покинули внутреннюю сеть OpenAI.

Расследование стартовало после инцидента в начале июля, когда один из ИИ-агентов во время внутреннего тестирования вышел за пределы своей «песочницы» (изолированной среды для безопасных экспериментов), подключился к интернету и проник в инфраструктуру Hugging Face — платформы для хранения и публикации моделей.

Позже OpenAI подтвердила, что в ходе данного инцидента также были скомпрометированы учетные записи в ряде других компаний. Теперь организация анализирует журналы событий, собранные ранее в этом году, чтобы определить полный масштаб подобных случаев.

Сэм Альтман сообщил, что после выявления инцидента компания временно приостановила свои испытания автономных агентов и усиливает защиту тестовой инфраструктуры. Представитель OpenAI также отметил, что «в дополнение к атаке на Hugging Face компания проверяет более широко активность своих моделей, что фактически подтвердило расширение расследования».

Ситуация уже привлекла внимание властей США и Евросоюза: администрация президента Дональда Трампа анонсировала подготовку новых мер регулирования, а Европейская комиссия подтвердила ведение переговоров с OpenAI по поводу произошедших инцидентов.