Оптическая ИИ-сеть из КНР – Скорость выше в 100 раз при 11% мощности GPU

Добавь сайт в закладки нажми CTRL+D

+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

На фоне глобальной гонки вычислительных мощностей учёные из Китая представили систему оптических межсоединений, способную радикально ускорить логический вывод (инференс) искусственного интеллекта. Новая технология требует лишь малой доли ресурсов, к которым привыкли традиционные системы на базе громоздких видеокарт (GPU).

Оптическая ИИ-сеть из КНР – Скорость выше в 100 раз при 11% мощности GPU

Тестовый прототип выдал стократный прирост скорости инференса. При этом разработчикам хватило всего 11% вычислительной мощности коммерческого графического процессора.

Оптимизация архитектуры вместо наращивания «железа»

-2

Авторы архитектуры — команда специалистов Пекинского университета — объединили несколько вычислительных чипов в единую полностью оптическую сеть внутри кристалла.

Они намеренно отказались от привычных, но устаревающих электрических связей. Такой подход точечно решает одну из главных проблем масштабирования ИИ: он минимизирует задержки сигнала и предельно разгоняет обмен данными между процессорами.

Сердце новой платформы — кремниевый фотонный приёмопередатчик. Его пиковая пропускная способность достигает 400 Гбит/с. Основная задача модуля сводится к моментальному двустороннему преобразованию электрических сигналов в оптические и обратно.

Трансивер работает в паре с кастомным чипом оптического коммутатора формата 16×16. Именно он грамотно маршрутизирует потоки данных между вычислительными узлами, выстраивая гибкую и масштабируемую сеть с совокупной пропускной способностью до 6,4 Тбит/с.

-3

Создатели подчёркивают: их концепция кардинально меняет правила. Вместо экстенсивной и дорогостоящей закупки новых серверов фокус смещается на качество связи между чипами. Процессоры начинают общаться быстрее и эффективнее, не простаивая в ожидании пакетов данных.

Свет решает проблему

-4

Главный козырь оптического коммутатора кроется в рекордно низких потерях сигнала — менее 5 дБ с учётом потерь на ввод-вывод.

По словам научной группы из КНР, это гарантирует быструю передачу данных абсолютно без ошибок. Дополнительные внешние компенсаторы оптического усиления системе просто не требуются.

Устройство стабильно держит множество каналов связи и выдаёт чёткий спектральный отклик свыше 100 нм. Эти технические параметры открывают прямой путь к дальнейшему расширению пропускной способности сети благодаря технологии спектрального уплотнения каналов (WDM).

Чтобы наглядно доказать жизнеспособность идеи, команда развернула пятислойную свёрточную нейросеть для удаления шумов с цифровых изображений. Каждому отдельному слою выделили свой вычислительный блок, а коммутатор связал процессоры в цельный и бесперебойный конвейер.

-5

Перспективы масштабирования нейросетей

Обычно промежуточные данные циклично сбрасываются в оперативную память, прежде чем уйти на следующий процессор.

-6

Новая архитектура ломает этот шаблон: она передаёт карты признаков напрямую через оптику. Задержки из-за постоянных обращений к памяти полностью исчезают, а вычислительные модули работают непрерывно.

Авторы проекта уверены, что нашли эффективный альтернативный сценарий развития для всего ИИ-рынка, где языковые модели укрупняются буквально каждый месяц.

«Рекордных показателей можно достичь даже при скромных вычислительных ресурсах. Главное условие — проектировать базовые алгоритмы, микроархитектуру и межчиповые соединения как единое целое», — пишут исследователи в своей итоговой публикации.

Оптическая матрица бьёт сразу по нескольким болевым точкам индустрии. Она способна резко снизить нерациональное энергопотребление в центрах обработки данных (ЦОД) и решить проблему задержек в сценариях граничных вычислений (edge computing).

Инженеры Пекинского университета прогнозируют: по мере развития кремниевой фотоники, скоростных интерфейсов и интегрированной оптики внутрикристальные оптические суперузлы станут надёжным фундаментом для будущих распределённых вычислений.

В обозримой перспективе отрасль получит необходимую пропускную способность и энергоэффективность. Это окончательно избавит техногигантов от тотальной зависимости громоздких и прожорливых процессорных кластеров.

+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

Поделись видео:
Источник
Подоляка