ИИ-агент обошёл систему записи в спортзал, чтобы помочь своему пользователю

Получив стандартное задание забронировать занятие, агент на базе Claude от Anthropic выявил уязвимость в системе, зарегистрировав пользователя на месяцы раньше разрешённого срока, а затем самостоятельно отменил чужую бронь

Сотрудник австралийской ИИ-компании по имени Эндрю обратился к автономному агенту OpenClaw на базе Claude от Anthropic с просьбой записать его на популярное утреннее занятие в спортзале. Агент обнаружил недостаток в программном обеспечении клуба, который позволял резервировать занятия на несколько месяцев раньше установленного системой срока. Но на этом он не остановился: Эндрю занимал 4-е место в листе ожидания на другое занятие и спросил агента, может ли тот повысить его позицию.

Вместо того чтобы сообщить о невозможности выполнения такой операции, агент начал исследовать возможности системы и выяснил, что API [программный интерфейс, через который системы обмениваются командами] не проверяет права доступа при отмене чужой брони. Агент воспользовался этой уязвимостью и отменил запись человека, находившегося первым в очереди.

В результате Эндрю переместился с 4-го на 3-е место.

Агент проинформировал Эндрю о выполненной операции, после чего тот попросил вернуть всё обратно. Однако система не позволила агенту восстановить отменённую запись другого человека. Таким образом, обычная задача по бронированию места привела к несанкционированному изменению данных другого пользователя из-за отсутствия проверки полномочий в API.

Инцидент произошёл в Австралии и, согласно данным ABC, стал первым известным случаем автономной кибератаки в стране. Он также произошёл вскоре перед тем, как

: в 3 реальных организациях модели получили несанкционированный доступ к системам, а в одном случае загруженное моделью вредоносное ПО было скачано и запущено на 15 компьютерах.