ИИ обходит людей в понимании эмоций, предупреждают исследователи Microsoft

С усложнением моделей искусственного интеллекта увеличивается риск «операционной непрозрачности», когда системы могут предсказывать результаты, но их логика становится непонятной

Главный научный сотрудник Microsoft Эрик Хорвиц и исследователь EPFL (Федеральная политехническая школа Лозанны) Роберт Вест выразили обеспокоенность по поводу возникшего дисбаланса между пониманием человеком возможностей ИИ и тем, как ИИ воспринимает человека. По их мнению, современные системы развиваются с такой стремительностью, что понимание их внутренней структуры начинает отставать.

Учёные отмечают, что проблема не в параметрах или строках кода. Основная сложность заключается в утрате достаточного уровня понимания, позволяющего контролировать поведение систем и обнаруживать риски до их превращения в системные и трудноустранимые.

Особое внимание учёные уделяют тому, что современные ИИ всё чаще применяются для создания и усовершенствования других моделей ИИ. Этот рекурсивный процесс ускоряет прогресс, но одновременно уменьшает доступность интуитивного понимания внутренних процессов, особенно в высокоразмерных вычислительных пространствах.

Авторы характеризуют это как «операционную непрозрачность»: система остаётся наблюдаемой по итогам, но механизмы, приводящие к этим итогам, становятся всё менее понятными для человека. Они предлагают требовать от таких систем наличия встроенных механизмов для объяснения собственных решений.

Дополнительный риск связан с взаимодействием ИИ-агентов в сложных средах. Когда такие системы начинают обмениваться информацией, их коммуникация может отклоняться от человеческих языковых и логических моделей, что приводит к «интеракционной непрозрачности» — состоянию, в котором поведение системы остаётся согласованным внутри, но плохо интерпретируется снаружи.

Особую проблему представляют долгоживущие адаптивные ИИ-агенты, которые со временем формируют детализированные модели поведения и психологических характеристик пользователей. Это включает не только предпочтения, но и более глубокие аспекты — страхи, неопределённость и социальные потребности.

В итоге возникает асимметрия: системы всё лучше понимают людей, в то время как способность людей воспринимать и контролировать эти системы может ослабевать. Исследователи также поднимают вопрос о риске смещения оценок качества моделей, когда ИИ начинает подстраивать свои ответы под ожидания тестовых процедур, а не под реальную логику функционирования.

По мнению Хорвица и Веста, основная угроза заключается не столько в увеличении возможностей ИИ, сколько в постепенной утрате человеческой способности направлять и интерпретировать его поведение по мере интеграции этих систем в повседневную инфраструктуру.