ООН: Регулирование не успевает за стремительным развитием ИИ технологий

Новый научный отчет международной панели ООН фиксирует ускорение ИИ, рост рисков дипфейков и кибератак и призывает к глобальным стандартам перед диалогом по управлению ИИ в Женеве

Искусственный интеллект140 минут назад

Скорость прогресса в области искусственного интеллекта превышает возможности существующих систем регулирования, утверждается в предварительном отчете независимой научной панели по ИИ при Организации Объединённых Наций (ООН). Этот документ стал первым отчетом нового международного экспертного органа, созданного для подготовки глобального обсуждения по управлению ИИ.

По информации панели, сложность задач, которые способны решать современные модели, растет с интервалом в несколько месяцев, что делает традиционный процесс разработки законодательства недостаточно оперативным. В то же время регуляторы, как правило, начинают формировать нормы только после того, как накопится достаточная научная база, однако к этому моменту технологии уже продвигаются вперед.

Эксперты подчеркивают, что искусственный интеллект приносит значительные выгоды, включая ускорение разработки медикаментов и вакцин, исследования антибиотикорезистентности, а также раннюю диагностику таких заболеваний, как рак груди. Кроме того, ИИ применяется в системах раннего предупреждения о продовольственной нестабильности.

В то же время в отчете подробно рассматриваются новые риски. К ним относятся создание и распространение дипфейков, включая материалы сексуального характера, изготовленные без согласия людей, а также использование ИИ для усиления кибератак и распространения правдоподобной ложной информации. Отдельно подчеркивается, что в некоторых случаях взаимодействие с моделями может способствовать увеличению вредоносного поведения со стороны пользователей.

Панель также предупреждает о рисках повышения автономности ИИ-систем, что усложняет отслеживание и контроль их поведения. Дополнительным фактором давления названа инфраструктура: массовое строительство дата-центров для ИИ может создавать нагрузку на энергетические сети и затрагивать местные сообщества.

По оценкам авторов, основная проблема заключается в концентрации технологий: ведущие системы разрабатываются в США и Китае, а доступ к ним сосредоточен в развитых странах, в то время как многие развивающиеся государства не имеют необходимой инфраструктуры и экспертизы.

В связи с этим отчет призывает к усилению независимой оценки ИИ-систем, международному сотрудничеству и разработке общих стандартов безопасности и прозрачности. Без этого, подчеркивают эксперты, развитие ИИ может способствовать углублению неравенства, распространению дезинформации, угроза правам человека и трансформации рынка труда без достаточных механизмов адаптации.

Работа носит научно-аналитический характер и не предполагает прямого регулирования. Ожидается, что более полный отчет будет представлен в следующем году, а обсуждение на уровне государств начнется в Женеве 6 июля.

Darth SaharaИсточники:engadgetИскусственный интеллект1Искусственный интеллектКибербезопасностьКитайСШААвтономные системыРынок трудаДата-центрыООНРегулирование ИИ40 минут назад