ИИ смог почти самостоятельно взломать государственные системы Тайваня

Открытые ИИ-фреймворки Hermes и OpenClaw позволили похитить более 2500 кадровых записей и параллельно атаковать поставщиков госструктур, ядерное агентство и энергетические компании

Предполагается, что китайские хакеры осуществили почти автономную кибератаку на правительственную инфраструктуру Тайваня — согласно данным израильской компании Dream, это первый известный случай, когда автономная ИИ-система успешно атаковала государственную цель в реальных условиях.

Злоумышленники получили доступ к более 2500 кадровых записей и настроили систему так, чтобы она могла самостоятельно адаптироваться во время операции без постоянного вмешательства человека.

Атака была осуществлена с использованием двух известных открытых ИИ-фреймворков — Hermes и OpenClaw. ИИ самостоятельно выполнял «циклы обучения»: искал в базах данных уязвимости, репозиториях GitHub и публикациях по безопасности методы, подходящие для конкретной инфраструктуры цели, а затем использовал собранную информацию для продолжения операции. Система также анализировала свои ошибки и корректировала дальнейшие действия.

При этом злоумышленники не ограничились только первоначальными целями. ИИ одновременно расширил поиск на поставщиков ИТ-систем для госучреждений, включил агентство по ядерной безопасности, государственную почтовую систему и свыше 7 компаний из энергетического сектора. Система искала неправильные настройки, открытые административные интерфейсы и уязвимости, которые можно было бы использовать.

Dream обнаружила следы операции в онлайн-архиве размером 160 МБ, содержащем почти 1400 файлов. Эти файлы раскрыли архитектуру многоагентной ИИ-системы, которая, по оценке компании, действительно получила доступ к государственным системам. Чтобы обойти встроенные ограничения ИИ, злоумышленники представляли выполняемую работу как санкционированное тестирование на проникновение.

Тем не менее, полностью без человеческого участия атака не обошлась. Dream отмечает, что для такой операции потребовались настройка системы под конкретную задачу, оптимизация взаимодействия ИИ-агентов и корректировка логики принятия решений. В частности, в обнаруженной системе использовались байесовская приоритизация (выбор наиболее перспективных целей на основе обновляемой оценки вероятностей), циклы самокоррекции и адаптивные этапы поиска.

Ранее компания Anthropic также сообщала о первой автономной кампании кибершпионажа, однако тогда специалисты подчеркивали значительное количество человеческого участия.