Google реорганизует команду по оценке рисков ИИ в DeepMind для усиления безопасности

90 специалистов, анализирующих риски Gemini, включая химические, биологические и ядерные угрозы, с сентября перейдут в подразделение, отвечающее за государственную политику и взаимодействие с властями

Google переводит 90 специалистов из команды AI Responsibility в Google DeepMind в отдел Global Affairs, который занимается государственными связями, лоббированием и публичной политикой. По информации Quartz, переход должен завершиться в начале сентября. Команда оценивает модели Google на предмет рисков, связанных с химическим, биологическим, радиологическим и ядерным оружием, а также исследует поведение пользователей и психологическое влияние чат-ботов.

Функция оценки рисков моделей будет находиться вне лаборатории, которая непосредственно разрабатывает эти модели. Некоторые сотрудники команды выразили обеспокоенность, что это может ограничить независимость и доступ к разработчикам DeepMind.

Вице-президент Google DeepMind Хелен Кинг, возглавляющая команду, отметила, что её область работы не изменится, а доступ к DeepMind, вычислительной инфраструктуре и прежнему количеству сотрудников останется прежним. Она также подчеркнула, что публикация результатов исследований в сторонних источниках останется важной и будет поддерживаться.

В Google объяснили реорганизацию необходимостью объединить команды, занимающиеся безопасностью и ответственностью при разработке ИИ, чтобы усилить их влияние на безопасность моделей и продуктов.