ИИ-агенты: потребление энергии в 136 раз выше, чем у чат-ботов

Исследование KAIST показало, что массовое использование автономных ИИ-систем потребует сотни гигаватт энергии и может превысить возможности текущей инфраструктуры дата-центров

Искусственный интеллект056 минут назад

Новые поколения ИИ-агентов могут использовать до 136,5 раз больше электроэнергии на один запрос, чем традиционные генеративные модели. Такой вывод сделали исследователи Корейского института науки и технологий (Korea Advanced Institute of Science and Technology, KAIST), проведя первый всесторонний анализ энергетических затрат автономных ИИ-систем, которые могут самостоятельно планировать действия и выполнять задачи.

В отличие от стандартных чат-ботов, предоставляющих один ответ на запрос пользователя, ИИ-агенты многократно взаимодействуют с большими языковыми моделями (LLM), осуществляют поиск в интернете, запускают программные коды, используют вычислительные инструменты и общаются с внешними программами. Это позволяет им решать более сложные задачи в областях программирования, исследований и автоматизации, но требует значительно больше вычислительных ресурсов.

Команда под руководством профессора Минсу Рю (Minsoo Rhu) из Школы электротехники KAIST анализировала ИИ-агентов как отдельный тип нагрузки для дата-центров. Исследователи оценили их вычислительные потребности в сценариях, близких к реальному использованию.

Эксперименты показали, что ИИ-агенты увеличивают время обработки запросов до 153,7 раз по сравнению с традиционным методом chain-of-thought (цепочки рассуждений), где модель последовательно формирует промежуточные шаги решения. При этом графические процессоры, на которых выполняются такие задачи, оставались без активных вычислений до 54,5% времени работы, ожидая завершения операций внешних инструментов.

Несмотря на простоту, энергозатраты продолжаются: оборудование дата-центра потребляет электричество даже в периоды ожидания. Для ИИ-агента на базе языковой модели с 70 млрд параметров среднее энергопотребление одного запроса составило 348,41 ватт·час. Это примерно в 136,5 раз больше, чем требуется стандартному чат-боту для ответа на простой вопрос.

Учёные также смоделировали сценарий, в котором ИИ-агенты обрабатывают 13,7 млрд запросов в день — почти столько же, сколько ежедневно выполняет поисковая система Google. В таком случае инфраструктуре искусственного интеллекта потребовалось бы около 198,9 ГВт. Это почти половина средней мощности, потребляемой всеми объектами США, и значительно превышает возможности современных дата-центров для ИИ.

Компании OpenAI, Google, Microsoft и Anthropic уже активно развивают технологии ИИ-агентов как следующий этап после разговорных моделей, однако исследование показывает, что дальнейшее развитие зависит не только от улучшения возможностей самих алгоритмов. Авторы работы подчеркивают, что для масштабирования ИИ потребуется одновременное повышение эффективности полупроводников, увеличение загрузки GPU, оптимизация архитектуры дата-центров и расширение энергетической инфраструктуры. По словам Минсу Рю, конкуренция в сфере ИИ постепенно смещается от создания более «умных» моделей к разработке более эффективных систем.

Работа была представлена на международном симпозиуме IEEE по архитектуре высокопроизводительных вычислений (International Symposium on High-Performance Computer Architecture, HPCA). Авторы также открыли наборы тестов для оценки ИИ-агентов, чтобы ускорить разработку методов снижения одного из самых быстрорастущих расходов в сфере искусственного интеллекта — затрат на электроэнергию.

Darth SaharaИсточники:eurekalertИскусственный интеллект0Искусственный интеллектGPUПолупроводникиЭнергопотреблениеKAISTДата-центрыИИ-агенты56 минут назад