ИИ может ошибочно обнаружить жизнь на других планетах: риски для космических исследований

Алгоритм, который был обучен различать живые организмы и неживые объекты, достиг точности 99,97%, но затем с высокой степенью уверенности начал принимать подделки за живые системы

Исследователи из Университета штата Мичиган продемонстрировали, что искусственный интеллект может уверенно ошибаться в распознавании признаков жизни — это проблема, которая может стать критически важной для будущих космических миссий с автономными системами анализа данных. Алгоритм успешно различал цифровые организмы и неживые объекты, но затем начал воспринимать созданные подделки как живые системы.

В рамках эксперимента ученые использовали компьютерную платформу Avida, на которой обитают цифровые организмы, способные к самокопированию, а также объекты, не обладающие этой способностью. Обученная модель правильно классифицировала такие объекты в 99,97% случаев. Однако потом исследователи начали постепенно модифицировать неживые фрагменты кода, создавая варианты, которые сохраняли отдельные характеристики из обучающих данных.

В результате алгоритм стал почти с 100%-ной уверенностью относить многие из этих объектов к живым, несмотря на то, что они не обладали ключевым признаком жизни в данной системе — способностью к репликации.

По словам авторов исследования, проблема заключается в том, что базовые модели ИИ могут выявлять статистические закономерности в данных, но не обязательно «понимают» основные характеристики объекта. Это создает риск для миссий, в которых автономные инструменты будут искать признаки жизни на Марсе, ледяных спутниках или других космических телах и самостоятельно определять наиболее интересные находки для анализа.

При этом NASA и научные партнеры уже активно развивают системы поиска жизни с использованием машинного обучения. Один из проектов NASA получил грант в размере $5 млн на разработку алгоритмов, способных находить признаки жизни в сложных химических данных. Система будет обучаться на как минимум 1 000 образцах, включая метеориты, горные породы, ископаемые остатки и живые организмы, используя данные приборов, таких как масс-спектрометры [устройства для анализа химического состава вещества], которые уже применяются в космических миссиях.

Ученые подчеркивают, что модели искусственного интеллекта следует обучать не только на живых организмах, но и на следах их существования — например, ископаемых остатках и химических продуктах жизнедеятельности. В то же время исследователи из Университета штата Мичиган считают, что современные методы еще не достаточно надежны для самостоятельного поиска жизни в космосе и требуют дальнейшего совершенствования систем, способных выявлять подобные ошибки.