Google отключил новую ИИ-функцию Google Earth из-за слишком реалистичных «катастроф»

Новый инструмент предоставлял возможность создавать фальшивые спутниковые изображения на основе действительных координат, что вызвало опасения касательно потенциального распространения дезинформации

Google менее чем через сутки после запуска приостановила новую функцию генерации изображений в веб-версии Google Earth.

Инструмент, основанный на модели Gemini Nano Banana 2, позволял создавать новые спутниковые сцены по текстовому описанию, используя реальные географические координаты.

Первоначально технология позиционировалась как средство для городского планирования, воссоздания исторических событий и разработки образовательных материалов. Однако вскоре исследователи и специалисты по проверке фактов обнаружили, что система практически не ограничивает запросы и способна генерировать крайне реалистичные изображения несуществующих катастроф, военных конфликтов и иных чрезвычайных ситуаций.

В ходе испытаний были получены изображения затопленного Капитолия США, разрушений на объектах инфраструктуры, массовых лагерей беженцев и других событий, которые фактически не происходили.

Особую тревогу вызвало то, что изображения создавались на основе реальных спутниковых снимков Google Earth, которым традиционно доверяют журналисты, аналитики и различные организации. Google сообщила, что все сгенерированные изображения маркируются невидимым водяным знаком SynthID и не попадают на публичные карты сервиса. Тем не менее, компания признала, что этого недостаточно для предотвращения распространения скриншотов в интернете, и 31 июля решилась временно отключить функцию до разработки более надежной системы защиты от злоупотреблений.

Сроки повторного запуска пока не сообщаются.