Слабые правила безопасности ИИ увеличивают риски для пользователей, выяснили ученые

Математическая модель продемонстрировала, что требования исключительно к создателям конечных сервисов побуждают разработчиков базовых ИИ-моделей отказываться от собственных проверок и аудита

Исследователи из Корнеллского университета (Cornell University) и Университета Карнеги — Меллона (Carnegie Mellon University) доказали, что недостаточные меры безопасности ИИ, ответственность за которые возложена только на создателей конечных приложений, порождают продукты с более высоким уровнем опасности, чем полное отсутствие регулирования.

Авторы исследования смоделировали цепь поставок ИИ-инструментов, разделив её на два уровня: компании, разрабатывающие универсальные базовые модели, и сторонние организации, которые адаптируют эти нейросети для специфических задач, таких как медицинская диагностика или клиентский сервис. Модель оценивает общую безопасность и эффективность продуктов при введении регуляторами минимальных требований на различных этапах разработки.

Опасный эффект возникает в сценарии, когда заниженная планка безопасности устанавливается исключительно для создателей конечных сервисов. В таком случае у поставщиков базовых нейросетей пропадают стимулы инвестировать в собственные защитные системы и независимый аудит.

Главный автор исследования Бенджамин Лоуфер (Benjamin Laufer) из подразделения Корнелл Тек (Cornell Tech) отметил, что «законы становятся инструментом, позволяющим крупным компаниям перекладывать финансовое и техническое бремя безопасности на узкоспециализированных разработчиков приложений, создавая эффект "бесплатного проезда"».

В своём исследовании Бенджамин Лоуфер и его коллеги охарактеризовали безопасность в широком смысле, включая риски причинения вреда пользователям, в том числе генерацию токсичного контента чат-ботами. Учёные подчеркнули, что в условиях существующей неопределённости, когда большинство законопроектов о регулировании ИИ находятся в разработке, крайне важно математически анализировать искажения экономических стимулов в коммерческих компаниях.

Модель наглядно демонстрирует системную проблему управления в сложных сервисах на базе ИИ. Ответственность в таких системах распределена между обучением основной модели, её точной настройкой, дизайном интерфейса и операционным мониторингом. Законодательные нормы, накладывающие юридические обязательства только на один уровень цепи, создают разрыв между организациями, способными эффективно устранить риски, и компаниями, обязанными документировать соответствие стандартам.

Работа предлагает формальную математическую основу для распределения ответственности за безопасность нейросетей между разработчиками и внедряющими организациями. Хотя выводы исследования являются теоретической моделью, а не измерениями практик конкретных ИИ-корпораций, полученные результаты предоставляют регуляторам и специалистам по управлению рисками ориентиры для формирования аудиторских стандартов и предотвращения уклонения крупных поставщиков от проверок.