В Германии разработали нейросеть, способную выявлять дипфейки через их создание

Система RealorRender обнаруживает изображения, созданные ИИ, с точностью до 91% и указывает, какие части кадра выдали подделку

Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) представил систему RealorRender для выявления дипфейков, применяя уникальный подход: сначала она пытается заново создать проверяемое изображение с помощью ИИ, а затем анализирует, насколько успешно это было сделано.

Если нейросеть может точно воспроизвести оригинальное изображение, это становится одним из признаков того, что оно было сгенерировано другой генеративной моделью. По информации разработчиков, точность системы достигает 91%.

RealorRender объединяет два метода анализа. Первый основан на классификации изображения с использованием глубокого обучения, второй — на оценке ошибки реконструкции, то есть различий между исходным изображением и его версией, созданной генеративной моделью. Исходя из этих данных, система вычисляет вероятность того, что изображение является дипфейком. По словам разработчиков, базовая точность составляет примерно 85%, а в некоторых случаях превышает 91%.

Еще одной особенностью разработки является объяснение своих решений. Для этого используется алгоритм на базе «объяснимого искусственного интеллекта» (XAI — Explainable AI), который демонстрирует, какие области изображения повлияли на итоговый вывод. RealorRender выделяет подозрительные зоны в виде тепловых карт и сегментов изображения, позволяя увидеть текстуры, артефакты и другие признаки, характерные для изображений, созданных генеративными моделями.

Разработка появилась на фоне быстрого роста числа дипфейков. По данным британского правительства, расследование 2023 года выявило 276 149 откровенных дипфейков на одном из исследованных специализированных сайтов, причем 96% изображений были посвящены женщинам. Только сайты, предлагающие услуги «раздевания» людей с помощью ИИ, в сентябре 2023 года привлекли 24 миллиона посещений. В этом контексте власти Великобритании объявили о намерении усилить защиту детей от распространения подобных материалов.

Создатели проекта RealorRender надеются, что сочетание высокой точности и возможности объяснения каждого решения сделает систему более надежным инструментом для борьбы с дипфейками, которые все чаще используются для мошенничества, шантажа, сексуальной эксплуатации и других преступлений.