Добавь сайт в закладки нажми CTRL+D
Бюро изучает закупку систем для обучения и внедрения больших языковых моделей, анализа данных и компьютерного зрения в государственных вычислительных центрах
Искусственный интеллект212:53
Федеральное бюро расследований США (FBI) исследует возможность приобретения специализированного оборудования для вычислений в области искусственного интеллекта. В опубликованном запросе ведомство ищет системы, способные поддерживать обучение и внедрение больших языковых моделей (LLM), обработку данных, компьютерное зрение и другие задачи искусственного интеллекта в защищённой государственной вычислительной среде.
Запрос информации (RFI) является предварительным этапом перед потенциальной закупкой и не указывает на то, что ФБР уже приняло решение о приобретении оборудования. В документах обозначено, что ведомство может закупить несколько систем разных конфигураций и объёмов поставки.
ФБР разделило требования к будущей инфраструктуре на 4 категории.
Первая категория включает серверы на базе процессоров Intel Xeon 6767P или аналогичных решений, минимум с 2 ТБ оперативной памяти с возможностью расширения до 4 ТБ, а также с 8-графическим ускорителем Nvidia HGX B300 или сопоставимой системой. Оборудование должно включать SSD-накопители для операционной системы и данных, а также сетевые интерфейсы с высокой пропускной способностью.
Вторая категория предназначена для интегрированных стоечных систем масштаба дата-центра. ФБР рассматривает решения уровня Nvidia GB300 NVL72 — готовые вычислительные стойки для обучения и работы крупных ИИ-моделей. Такие системы должны включать высокоскоростную сеть связи между ускорителями, Ethernet-инфраструктуру уровня Nvidia Spectrum-X, встроенное охлаждение и возможность подключения к водяным системам охлаждения государственных объектов.
Третья категория касается архитектур ИИ-кластеров для корпоративных нагрузок. В документах упоминаются системы уровня Google TPU v8, TPU v7L или выше — специализированные процессоры для задач искусственного интеллекта. Требуемая производительность должна быть сопоставима как минимум с 5 стойками Nvidia GB300 NVL72. Оборудование должно поддерживать запуск больших языковых моделей и работу с различными ИИ-фреймворками.
Упоминание TPU стало необычным пунктом запроса, поскольку эти ускорители традиционно предоставлялись через облачную инфраструктуру Google, а не как локальные решения для установки в собственных дата-центрах. При этом Google постепенно расширяет доступность TPU за пределами своего облака, включая партнёрские вычислительные площадки.
Четвёртая категория относится к ускорителям для запуска готовых ИИ-моделей. ФБР рассматривает решения уровня Nvidia L40S с минимум 48 ГБ видеопамяти для задач генеративного ИИ, работы с эмбеддингами (числовыми представлениями данных для анализа связей) и компьютерного зрения. Ускорители должны поддерживать распространённые форматы вычислений FP32, FP16, BF16 и INT8, а также инструменты CUDA, TensorRT, PyTorch и TensorFlow.
Большая часть возможных поставок, согласно документам, предназначена для подразделения ФБР Criminal Justice Information Services (CJIS) в Кларксберге, Западная Вирджиния. Там ведомство планирует размещать оборудование для защищённых вычислительных задач.
Darth SaharaИсточники:datacenterdynamicsИскусственный интеллект2Искусственный интеллектNvidiaGoogleСуперкомпьютерыTPUДата-центрыВычислительная инфраструктура12:53
ИсточникПоделись видео: