Искусственный интеллект Google смешивает фанфики SCP Foundation с реальными фактами

Алгоритмы поисковой выдачи без указания на художественный характер SCP-объектов создают правдоподобные, но неверные описания, включая личные рассказы и вымышленные научные детали

Google столкнулась с новой проблемой в функционировании функции AI Overviews — системы кратких ответов на основе ИИ в поиске, которая, согласно сообщениям издания Futurism, начала трактовать материалы из вымышленной вселенной SCP Foundation как реальные научные сведения.

SCP Foundation — это обширный интернет-проект коллективного фанатского творчества, где описываются вымышленные «аномальные объекты» и явления в формате псевдонаучных отчетов. Эти материалы изначально представлены как художественная фикция, однако AI Overviews в некоторых случаях, как утверждается в отчете, не указывали на их вымышленный характер.

По данным Futurism, было зафиксировано не менее 20 случаев, когда ИИ-сводки Google представляли SCP-объекты как реальные сущности. Например, при поисковом запросе о SCP-426 — вымышленном тостере, заставляющем говорящих о нем описывать себя от первого лица — система предоставила ответ в аналогичном стиле, фактически воспроизводя художественный вымысел без указания на его выдуманность.

Похожие ошибки касались и других элементов вселенной SCP, включая SCP-922 и SCP-779, которые в оригинальных материалах описываются как паранормальные или биологические аномалии, но не имеют отношения к реальной науке. В некоторых случаях AI Overviews использовали термин lore («лор»), однако без пояснения, что речь идет о художественном контенте.

В самой SCP Foundation подчеркивается, что все описания являются вымышленными. Однако ИИ-выдача не всегда отражала этот контекст, создавая у неподготовленных пользователей впечатление документальной достоверности.

При попытке воспроизвести поведение системы в некоторых случаях результат отличался: Google AI Mode для отдельных запросов обозначал SCP как fictional anomaly («вымышленная аномалия»), что может указывать на частичные улучшения в алгоритмах. Тем не менее, исследование подчеркивает, что подобные ошибки уже имели место ранее.

Проблема выходит за рамки конкретного интернет-фэндома: AI Overviews занимают верхние позиции в поисковой выдаче, и пользователи без контекста — включая детей — могут воспринимать такие ответы как достоверные факты. Это увеличивает общий риск генеративных систем, которые уверенно формулируют правдоподобные, но ошибочные утверждения.

Ранее аналогичные сбои уже приводили к странным рекомендациям и фактическим ошибкам, включая неверные исторические данные и даже опасные советы, что подчеркивает сохраняющуюся проблему надежности ИИ-генерации в поисковых интерфейсах.