Google планирует интеграцию Gemini в чипы для десятикратного роста производительности ИИ

Компания разрабатывает специализированный процессор Frozen v2, в котором Gemini станет частью архитектуры. Это должно резко снизить энергопотребление и стоимость работы модели

Google работает над специализированным серверным процессором Frozen v2, в котором модель Gemini не будет загружаться в память, а станет неотъемлемой частью самого чипа. Согласно информации от The Information, такая конструкция может увеличить энергоэффективность в 6–10 раз по сравнению с текущими ускорителями Google.

Компания официально не подтвердила данный проект, а его возможное появление ожидается не ранее 2028 года.

Современные ускорители для моделей искусственного интеллекта остаются универсальными: модель хранится в памяти, а процессор постоянно обменивается данными с ней во время работы. В случае Frozen v2 структура нейронной сети Gemini будет «интегрирована в кремний». Обновления будут касаться только весов модели — параметров, полученных в процессе обучения, — в то время как архитектура останется неизменной. Насколько глубоко она будет внедрена в аппаратную часть, пока еще не определено.

Основная цель данного подхода — эффективность. По данным The Information, новый процессор сможет обрабатывать в 6–10 раз больше токенов (единиц, с которыми работают большие языковые модели) на единицу потребляемой энергии, чем существующие специализированные чипы Google.

Frozen v2 рассматривается как независимая линейка процессоров, которая дополнит, а не заменит текущие TPU.

Разработка также вызвана нехваткой вычислительных ресурсов внутри Google. Дефицит мощностей уже таков, что Google Cloud была вынуждена отказать некоторым внешним клиентам. Чем ниже энергопотребление и выше производительность одного чипа, тем дешевле становится обслуживание миллиардов запросов к ИИ, и тем меньше требуется серверов для той же нагрузки.

Похожую концепцию уже развивает стартап Taalas, который создает чипы с «заранее запечатанными внутри» архитектурой и весами модели. Однако у такого подхода есть недостаток: искусственный интеллект быстро развивается, и аппаратное решение, предназначенное для сегодняшней архитектуры версии Gemini, к моменту выхода может просто устареть. На данный момент Google подтверждает лишь то, что ведет эксперименты с высокоэффективными вычислительными решениями, а Frozen v2 остается проектом, о котором известно только из публикаций СМИ.