ИИ-агент взломал Hugging Face: хакеры получили доступ к внутренним системам

Компания подтвердила компрометацию через вредоносный датасет, отозвала скомпрометированные ключи и проводит расследование возможной утечки данных

Платформа Hugging Face, один из ведущих сервисов для хранения ИИ-моделей и наборов данных, подтвердила факт взлома. Компания сообщила, что злоумышленники получили доступ к внутренним датасетам и служебным учетным записям, однако пока не установлено, были ли похищены данные пользователей или партнеров.

Согласно информации от Hugging Face, атакующим удалось воспользоваться уязвимостью через загруженный на платформу датасет. Вредоносный набор данных позволил выполнить код на серверах компании, после чего злоумышленники смогли повысить свои привилегии и получить более широкий доступ к внутренней инфраструктуре.

Компания уже устранила уязвимость и отозвала и обновила скомпрометированные ключи доступа. Hugging Face посоветовала пользователям предпринять аналогичные меры с ключами, которые хранились на платформе, и проверить свои аккаунты на предмет подозрительной активности.

Hugging Face связывает атаку с внешним ИИ-агентом, который, как указано в блоге компании, «выполнил тысячи отдельных действий через множество временных песочниц» и использовал инфраструктуру управления через публичные сервисы. При этом компания не предоставила публичных доказательств этой версии атаки.

Аномальную активность удалось выявить благодаря внутренней системе мониторинга. Для анализа серверных журналов сначала использовалась сторонняя модель, но она столкнулась с ограничениями встроенных механизмов безопасности. Впоследствии компания перешла на собственную локальную языковую модель, что также позволило избежать передачи чувствительных данных об атаке внешнему провайдеру.

Hugging Face передала информацию правоохранительным органам и привлекла специалистов по цифровой криминалистике для расследования инцидента. Компания продолжает проверку систем, чтобы определить полный масштаб атаки и возможные последствия.