Искусственный интеллект полностью ошибся в поисках внеземной жизни

Исследования продемонстрировали, что нейросеть, почти безупречно распознающая признаки жизни, полностью теряет свою точность даже при незначительных изменениях данных

Искусственный интеллект1908 июл 23:39

Учёные из Университета штата Мичиган установили, что современные ИИ-модели могут оказаться крайне ненадёжными в поиске свидетельств внеземной жизни.

В ходе эксперимента исследователи смогли обмануть специально обученную нейросеть во всех случаях, внося изменения в данные столь незначительные, что алгоритм начинал воспринимать их как доказательства наличия жизни.

Авторы исследования проверяли, насколько эффективно ИИ может выявлять биомаркеры — признаки, указывающие на возможное существование живых существ. Для своих экспериментов они использовали созданную в университете систему Avida, моделирующую цифровую эволюцию. В ней виртуальные организмы представлены в виде кода, который копирует сам себя, постепенно накапливая случайные изменения — аналог биологической эволюции.

Учёные обучили нейросеть на десятках тысяч таких цифровых организмов, часть из которых обладала командой самокопирования, а часть — нет. На знакомых данных алгоритм продемонстрировал почти идеальную точность в классификации.

Тем не менее, после этого учёные начали постепенно менять код организмов, представляя нейросети варианты, с которыми она ранее не сталкивалась. Оказалось, что иногда достаточно 150 небольших модификаций в программном коде, чтобы алгоритм начал уверенно воспринимать ложные сигналы за признаки жизни. По словам одного из авторов исследования Анкита Гупты (Ankit Gupta), независимо от последовательности изменений, исследователям удавалось обмануть модель в 100% случаев.

«У искусственного интеллекта есть уязвимость. Он может обнаружить закономерность и полностью неверно её классифицировать», — отметил соавтор исследования Кристоф Адами (Christoph Adami). Он добавил, что проблема заключается не в технологии самой по себе, а в её восприимчивости к данным, которые отличаются от тех, на которых проходило обучение.

Авторы подчеркивают, что результаты имеют значение не только для будущих космических миссий, где ИИ может анализировать данные, поступающие с марсоходов или межпланетных зондов, без постоянного контроля специалистов. Подобные ошибки могут возникать и в системах распознавания лиц, автономном вождении, медицинской диагностике и других областях, где решения принимаются моделями.

Исследователи полагают, что искусственный интеллект должен оставаться вспомогательным инструментом, а его выводы должны проверяться независимо. По мнению Кристофа Адами, в научном поиске, особенно в контексте возможного открытия внеземной жизни, человек остаётся необходимой частью процесса принятия решений.

Darth SaharaИсточники:Popular ScienceИскусственный интеллект19Искусственный интеллектАстробиологияКосмические исследованияБиомаркерыВнеземная жизньЦифровая эволюция08 июл 23:39