Семь мини-ПК объединились для запуска мощной модели DeepSeek-V3.1 на 671 млрд параметров

Со своими M5 AI

Настольные ПК08 минут назад

Компания Bosgame продемонстрировала, как с помощью её мощных мини-ПК M5 AI можно локально запустить модель DeepSeek-V3.1, обладающую 671 миллиардом параметров. Для этого потребуется всего лишь семь таких мини-ПК.

Модель M5 AI, представленная в прошлом году, является в целом стандартным мини-ПК на базе Ryzen AI Max+ 395 с конфигурацией на 128 ГБ ОЗУ в высшей версии. Несмотря на все возможности этой платформы, она не способна поддерживать очень крупные модели, однако производитель продемонстрировал, что систему можно масштабировать.

Это достигается с помощью USB4 Direct Connection, что позволяет нескольким мини-ПК фактически объединяться в одну более мощную систему. При этом стоимость такого решения значительно ниже, чем у аналогичного серверного кластера, а общее потребление энергии будет довольно скромным.

На семи узлах итоговый кластер обеспечивает 896 ГБ унифицированной памяти, при этом до 672 ГБ выделяется для GPU. Прямое соединение через USB4 позволяет узлам функционировать совместно без необходимости использования традиционной централизованной серверной архитектуры.

Bosgame подчеркивает, что желающие могут сначала приобрести один мини-ПК, а затем, в случае необходимости, добавлять другие, увеличивая мощность системы.

На старте в прошлом году стоимость высшей версии такой системы составляла около 1700 долларов, а сейчас производитель запрашивает за ПК 2800 долларов.

MPAKИсточники:TechPowerUpBosgameНастольные ПК0Bosgame8 минут назад