Добавь сайт в закладки! Инструкция по ссылке.
Срок выделения серверных мощностей на базе CPU внутри Amazon Web Services увеличился до нескольких дней
В мае Amazon Web Services уведомила свою инженерную команду о необходимости экономии вычислительных ресурсов CPU. Эта информация стала известна общественности только сейчас.
Срок выделения серверных мощностей на базе CPU внутри Amazon Web Services для внутренних нужд инженеров действительно возрос с нескольких часов до нескольких дней. Это вызвано нарастающим дефицитом вычислительных ресурсов на фоне роста ИИ и агентских систем. Один инженер отметил, что с подобной задержкой он никогда ранее не встречался за свою карьеру.
Чтобы установить приоритеты в распределении вычислительных мощностей для внешних клиентов, AWS постепенно отключает виртуальные серверы, которые ранее использовались для разработки программного обеспечения и теперь простаивают. Это еще больше ограничило ресурсное пространство внутренних команд, что привело к значительному увеличению времени ожидания в очереди приложений.
Поскольку дефицит графических процессоров все еще не разрешен, центральные процессоры стали новым узким местом. Главная причина этой волны нагрузки на CPU — стремительное распространение приложений с использованием ИИ-агентов. Консалтинговая компания Elendil Labs, специализирующаяся на ИИ, утверждает, что средние ИТ-расходы на одного клиента удвоились, и поскольку компании активно внедряют ИИ-агентов, почти все задачи требуют больше ресурсов CPU, чем прежде.
Процессоры (CPU) по-прежнему незаменимы в процессе разработки ИИ; при обучении моделей и подготовке данных процессорам необходимо считывать необработанные данные из файлов и изображений. Анализ показывает, что агентам ИИ часто требуется доступ к большему количеству облачных ресурсов, чем раньше, при выполнении задач, что создает постоянную нагрузку на процессоры.
Заявления производителей чипов подтверждают эту тенденцию. Генеральный директор Intel Чен Ливу заявил в апреле, что соотношение использования CPU и GPU в сценариях вывода ИИ составляет приблизительно 1:4. К июлю финансовый директор Intel отметил, что это соотношение стремительно сократилось почти до 1:1.
Руководители AMD и Arm недавно сделали аналогичные заявления, указав на то, что рост спроса на процессоры превзошел ожидания отрасли.
ИсточникПоделись видео: