Внедрение ИИ в бизнес: угроза имитации активности и утраты знаний

Нагрузки на рабочие процессы из-за низкокачественных результатов и увеличение затрат на проверку данных ведут к «деградации знаний», утрате доверия и пересмотру методов применения генеративных моделей в бизнесе — предостерегает исследование

Компании, которые глубоко интегрировали инструменты генеративного ИИ для повышения эффективности и уменьшения зависимости от человеческого труда, сталкиваются с системной проблемой, которую в деловой аналитике всё чаще называют «workslop» — потоком низкокачественного, недостаточно проверенного контента от ИИ, который тормозит рабочие процессы.

Исследование Harvard Business Review подчеркивает, что в стремлении ускорить процессы и продемонстрировать технологическое превосходство, компании нередко создают обратный эффект: возникает «деградация знаний» — постепенное ухудшение качества корпоративной информации. Это означает, что сотрудники начинают терять навыки, а организации полагаются на устаревшие или искажённые методы принятия решений.

Проблема основывается на цепочке, описанной HBR: сотрудники применяют ИИ для создания рабочих материалов, которые часто содержат ошибки или «галлюцинации», что заставляет коллег тратить дополнительное время на проверки, снижая доверие к внутренним данным, а накопленные знания постепенно утрачивают свою ценность.

На уровне отдельных департаментов данный эффект усиливается и начинает ухудшать качество итоговых бизнес-результатов. На ранних стадиях внедрения генеративного ИИ эксперты отмечали, что сотрудники часто тратят больше времени на поиск и исправление ошибок, чем могли бы сэкономить за счёт автоматизации. В некоторых компаниях появились роли, сосредоточенные исключительно на исправлении ошибок, созданных ИИ.

Параллельно наблюдается ухудшение доверия к информации внутри организаций. Когда ошибки становятся частыми, сотрудники начинают сомневаться не только в инструментах ИИ, но и в самих рабочих процессах, через которые проходят данные.

Отдельно акцентируется влияние на рынок труда и найм: внедрение ИИ усложняет поиск специалистов, а взаимодействие между кандидатами и работодателями становится менее надежным из-за автоматизированных этапов, которые дополнительно искажают информацию и ожидания сторон.

В результате компании оказываются в ситуации, где каждое использование публичных больших языковых моделей требует дополнительного слоя проверки и верификации, что увеличивает нагрузку на сотрудников и снижает общую эффективность. Параллельно фиксируются случаи сопротивления сотрудников навязанному использованию ИИ, включая намеренное ухудшение качества его внедрения в рабочие процессы.

В качестве возможного решения HBR указывает на необходимость более четкого разделения задач: генеративный ИИ следует применять только в тех случаях, где он действительно приносит ценность, а не автоматически на всех этапах работы. Отдельно подчеркивается, что публичные модели часто создают шаблонные и ошибочные тексты, в то время как специализированные или обученные на внутренних данных системы могут быть более полезными.

Основная проблема заключается в том, что первоначальный нарратив о «безусловном росте производительности» за счёт ИИ начинает сталкиваться с реальностью: компании, массово внедрившие генеративные модели без четких ограничений, вынуждены компенсировать возникающие ошибки увеличением объема ручной работы и проверок, фактически создавая новую нагрузку вместо её уменьшения.