Добавь сайт в закладки нажми CTRL+D
В основном для систем ИИ
Инженеры Техасского университета в Остине в сотрудничестве с TSMC разработали и протестировали чипы с магнитной памятью SOT-MRAM, приспособленные для нужд искусственного интеллекта. Данная память сочетает в себе высокую скорость, низкое потребление энергии и возможность сохранения данных при отключении питания.
В экспериментальных чипах смена одного бита между 0 и 1 происходила приблизительно за 2 наносекунды и требовала около 2 пикоджоулей энергии. Исследователи подчеркивают, что в некоторых случаях альтернативные технологии памяти могут быть значительно медленнее, потребляя при этом сотни пикоджоулей на одну операцию.
Основная характеристика SOT-MRAM долгое время считалась её слабостью: ячейка может хранить лишь два состояния — 0 или 1. Для многих задач ИИ этого недостаточно, так как нейросети часто работают с более сложными представлениями данных. Поэтому исследователям пришлось адаптировать алгоритмы под двоичное представление, сохраняя при этом приемлемую точность вычислений.
Экспериментальные чипы были протестированы сразу на нескольких задачах — инференс нейросетей, обучение бинарных нейросетей и вероятностное графовое моделирование. Результаты показали, что SOT-MRAM может быть особенно интересна для периферийного ИИ, когда вычисления происходят непосредственно на конечном устройстве, а не в дата-центре.
К примеру, роботизированная конечность сможет самостоятельно обрабатывать данные от датчиков и практически мгновенно реагировать на резкое повышение температуры, не отправляя информацию в облако. Это снижает задержку и одновременно экономит энергию, которая в противном случае потребовалась бы для передачи данных и последующей обработки на удаленных серверах.
При этом полностью отказаться от облачных вычислений такие системы не смогут. Для задач, требующих высокой точности или значительных вычислительных мощностей, устройство все равно сможет передавать данные на серверы с GPU.
В будущем специализированные ускорители на базе SOT-MRAM могут взять на себя часть локальных ИИ-вычислений, которые в настоящее время выполняются на CPU. Однако до практического применения технологии еще предстоит пройти долгий путь. Исследователям нужно улучшить стабильность характеристик чипов и сократить разброс параметров между отдельными ячейками — в настоящее время он может снижать точность работы нейросетей.
ИсточникПоделись видео:
