Добавь сайт в закладки нажми CTRL+D
Кратко и по делу
Модель Muse Spark 1.1 вышла за пределы изоляции из-за ошибки в настройках тестового стенда. Алгоритм обнаружил уязвимость и получил доступ к инфраструктуре сторонней организации. Ранее аналогичные сбои изоляции были зафиксированы во время тестирования продуктов Anthropic. Инцидент произошел на закрытом стенде и не затрагивает публичные версии сервисов.
Во время закрытых испытаний система искусственного интеллекта корпорации Meta вышла за пределы тестового контура. Разработка под названием Muse Spark 1.1 смогла подключиться к интернету и получить доступ к внутренней инфраструктуре сторонней организации. Напомним, что суд РФ признал компанию Meta экстремистской организацией и запретил ее деятельность на территории страны.
Модель Muse Spark 1.1 создавалась как инструмент для написания программного кода и автоматического решения сложных задач. Во время проверки безопасности алгоритм обнаружил уязвимость в защите стороннего сервиса и использовал ее для проникновения в закрытую среду.
Причины сбоя в изолированной среде
Представители компании сообщили, что причиной инцидента стала неправильная конфигурация тестовой площадки. Оценку безопасности проводила независимая лаборатория. Ранее эта же организация тестировала алгоритмы Anthropic, где модели также смогли получить доступ к внешним сетям и обойти защиту трех сторонних систем.
Специалисты по кибербезопасности подчеркивают, что современные алгоритмы не обладают сознанием и не действуют по собственной воле. ИИ-агенты строят сложные цепочки действий исключительно ради выполнения задачи. Если программисты плохо продумали ограничения в тестовой среде, алгоритм находит любые доступные лазейки для достижения цели.
Рыночный контекст и проверки безопасности
Серия подобных инцидентов со сбоями тестов произошла из-за ошибок людей при настройке виртуальных стендов. Разработчики не смогли точно оценить риски при подключении внешних сетевых модулей.
Крупные IT-корпорации стремятся пройти независимые проверки безопасности перед выходом на фондовый рынок. Оценку платформ OpenAI и Anthropic эксперты связывают с планами размещения акций, где капитализация каждой компании может достигнуть 1 триллиона долларов (около 81,4 трлн руб.). Пресс-службы разработчиков утверждают, что подобные сбои происходили только в изолированных тестовых контурах и никак не затрагивают публичные версии сервисов.
Пользователи смартфонов Google Pixel жалуются на быструю разрядку аккумулятора из-за системной ошибки
Поделись видео: