ИИ-сообщения увеличивают уверенность людей, но снижают точность в три раза

После использования советов ИИ доля правильных ответов уменьшилась с 27% до 9%, в то время как уверенность возросла с 30% до 76%

Исследователи из трёх университетов Франции и Италии обнаружили, что доступ к рекомендациям искусственного интеллекта может негативно сказываться на способности людей адекватно оценивать свои знания. В ходе эксперимента участники, получавшие поддержку ИИ, реже признавали свою неопределённость, чаще принимали неверные ответы и при этом были более уверены в своей правоте.

Учёные проанализировали поведение людей при самостоятельном решении задач и при использовании подсказок от ИИ. Без доступа к ИИ участники признавали, что не знают ответа, в 44% случаев, тогда как с помощью системы этот показатель снизился до 3%. Точность ответов упала с 27% до 9%, в то время как средняя уверенность возросла с 30% до 76%.

В эксперименте были использованы вопросы, на которые современные модели ИИ часто дают неправильные ответы. Например, участникам показывали визуальные элементы из фильмов и просили определить такие характеристики, как цвет формы команды в фильме «Играй, как Бекхэм» (Bend It Like Beckham). Учёные применили модель Step 3.5 Flash, которая обычно давала неверные ответы на подобные задания, чтобы исключить возможность того, что участники просто полагаются на надёжный инструмент для решения задач.

Даже финансовое вознаграждение за правильные ответы почти не изменило ситуацию. С наличием денежной мотивации доля людей, готовых признать своё незнание, увеличилась с 3% до 8%, а точность ответов — с 9% до 16%. Эти показатели всё равно оставались ниже, чем у группы без ИИ, где результаты составляли 44% и 27% соответственно.

По мнению учёных, способность сказать «я не знаю» является важной, так как она демонстрирует осознание границ собственных знаний. Исследователи считают этот вопрос особенно актуальным для детей, которые начинают использовать ИИ ещё до формирования устойчивых навыков критического мышления.

Авторы исследования подчеркивают, что проблема связана не только с доверием к неверным ответам ИИ, но и с тем, что постоянная доступность систем, которые всегда предоставляют ответ, может снижать готовность человека признавать собственное замешательство.