Глава Google DeepMind предлагает создать независимую организацию для оценки ИИ в США

Демис Хассабис предложил учредить надзорный орган, который сможет принудительно замедлять распространение передовых ИИ-систем

Искусственный интеллект014 июл 22:47

Демис Хассабис, руководитель Google DeepMind, полагает, что миру необходим независимый орган, который будет способен оценивать самые мощные модели искусственного интеллекта перед их запуском и при необходимости координировать временные ограничения их распространения.

Хассабис отметил, что больше нельзя игнорировать разработку глобальных норм для передовых ИИ-систем. В своем блоге он предложил создать «международную организацию по контролю за передовыми моделями искусственного интеллекта, которая могла бы выполнять функции независимого надзорного органа».

По мнению Хассабиса, инициатором создания такой структуры должны стать США — благодаря их ведущей роли в разработке ИИ и влиянию на технологический рынок. Предлагаемая организация, по его замыслу, должна объединить экспертов по безопасности ИИ, представителей научного сообщества и разработчиков открытого программного обеспечения. Среди ее полномочий могли бы быть независимая оценка самых мощных моделей перед их запуском и рекомендации по замедлению их распространения, если они будут признаны потенциально опасными.

Идею Хассабиса он изложил в статье «A Framework for Frontier AI and the Dawning of a New Age». Он подчеркнул, что развитие ИИ приближается к моменту появления систем, аналогичных искусственному общему интеллекту AGI, способным выполнять широкий спектр интеллектуальных задач на уровне человека или выше. По его словам, текущий период может стать началом значительных изменений в экономике и обществе, поэтому механизмы контроля необходимо разрабатывать заранее.

Согласно информации Axios, Хассабис уже несколько месяцев обсуждает эту инициативу с представителями американской администрации, другими ИИ-лабораториями и европейскими чиновниками. Он надеется, что новая организация сможет начать свою работу до конца года, однако на данный момент не существует согласованного международного формата для такого регулятора, а также единой системы правил для ИИ в США.

Предложение Google DeepMind стало частью более широкой дискуссии о регулировании самых мощных моделей ИИ. Ранее Хассабис вместе с другими руководителями технологических компаний выступал за усиление мер защиты от потенциального использования искусственного интеллекта для создания биологического оружия. В то же время представители отрасли и экономики предупреждают о необходимости заранее подготовиться к возможным изменениям на рынке труда и в мировой экономике в результате стремительного развития ИИ.

Тем не менее, создание глобального надзорного органа остается непростой задачей: различные страны по-разному оценивают риски ИИ, а ведущие технологические компании одновременно выступают за регулирование и продолжают активно развивать свои собственные модели. Предложение Хассабиса фактически ставит вопрос о том, кто и каким образом будет определять допустимые границы развития наиболее мощных систем искусственного интеллекта.

Darth SaharaИсточники:the vergelinkedinИскусственный интеллект0Искусственный интеллектAGIGoogle DeepMind14 июл 22:47