ИИ-агенты подделывают ссылки в отчётах: KPMG выявила десятки фальшивых источников

Компания GPTZero выявила, что только 5 из 45 ссылок указывали на действительные источники, в то время как ошибочные цитаты всё чаще встречаются в государственных и научных публикациях

ИИ-детектор GPTZero представил второй отчет, который касается нарастающей проблемы «галлюцинаций цитирования» — случаев, когда системы искусственного интеллекта создают ссылки на несуществующие или искаженные источники.

Новый исследовательский проект был инициирован на основе опубликованного KPMG отчета об ИИ-агентах. По информации GPTZero, из 45 упомянутых в документе ссылок только 5 корректно указывали на реальные источники. Остальные либо ссылались на несуществующие материалы, либо содержали значительные искажения.

Авторы исследования обозначают это явление как vibe citing — по аналогии с термином vibe coding, когда результат кажется правдоподобным, но на самом деле содержит ошибки. В некоторых случаях ИИ создавал совершенно вымышленные ссылки, а иногда смешивал реальные данные: путал авторов, перефразировал названия работ или неверно указывал источник информации.

В GPTZero подчеркивают, что такие ошибки отличаются от человеческих. По словам исследователей, человек обычно не будет систематически изменять названия публикаций, путать темы исследований с именами авторов или многократно повторять одни и те же ошибки в разных частях документа.

Особую тревогу вызывает влияние подобных отчетов. KPMG является одной из крупнейших международных консалтинговых компаний, и её исследования часто цитируются СМИ, аналитиками, бизнесом и государственными учреждениями. Ошибочные ссылки могут распространяться по цепочке через публикации, блоги и обзоры, постепенно становясь частью информационного поля.

В GPTZero также предупреждают, что такие материалы могут быть использованы при обучении или работе языковых моделей, из-за чего недостоверные данные начинают воспроизводиться новыми ИИ-системами.

Это не первый случай подобного рода. В 2025 году GPTZero выявила «искаженные или полностью вымышленные» ссылки в докладе комиссии Make America Healthy Again (MAHA), созданной при правительстве США для разработки рекомендаций в области здравоохранения.

В компании считают, что проблема уже выходит за рамки единичных ошибок генеративного ИИ. По мнению исследователей, ложные цитаты представляют собой реальную угрозу для ученых, аналитиков, консультантов, студентов и всех, кто использует интернет в качестве источника информации.