Добавь сайт в закладки! Инструкция по ссылке.
Нейронные процессоры (NPU, Neural Processing Units) — это специализированные чипы для обработки задач искусственного интеллекта, которые можно найти в смартфонах и ноутбуках. Но что они собой представляют и почему так важны?
С самого зарождения вычислительной техники люди сравнивали машины с человеческим мозгом. Два основоположника компьютерных наук — Джон фон Нейман, написавший книгу «Компьютер и мозг», и Алан Тьюринг, который в 1949 году заявил: «В итоге я не вижу причин, почему компьютер не сможет на равных конкурировать с человеческим интеллектом в большинстве областей», — поддерживали эту аналогию.
Однако традиционный процессор — центральный процессор (CPU, Central Processing Unit — основное вычислительное ядро компьютера) — совершенно не похож на мозг. CPU слишком «математичен» и логичен. Нейронный процессор (NPU), напротив, использует иной подход: он имитирует структуру человеческого мозга в своих схемах.Colossus xAI – Самый большой Суперкомпьютер 1 млн GPU изменит мир ИИ
Рождение NPU
Электронные «мозги» появились ещё в середине 1940-х годов, когда нейрофизиолог Уоррен Маккаллок и логик Уолтер Питтс создали «нейронную сеть» из электрических схем.
Новаторская работа Маккаллока вдохновила исследования в 1950–1960-х годах, но идея утратила популярность, возможно, из-за медленного прогресса по сравнению с растущей вычислительной мощью классических компьютеров.
«Было несколько одиночек в Японии и Германии, работавших над нейронными сетями, но это не было направлением», — говорил Янн ЛеКун, французско-американский учёный, считающийся одним из «отцов» ИИ, о своей работе с Джеффри Хинтоном, ещё одним пионером в этой области, в начале 1980-х.
«Направление начало формироваться в 1986 году». Однако для восстановления репутации нейронных сетей в компьютерных науках потребовался успех технологий распознавания речи в начале 2000-х. Даже тогда, по словам ЛеКуна, «мы избегали термина – нейронные сети, так как он имел плохую репутацию, и перешли на термин глубокое обучение (Deep Learning — метод машинного обучения, основанный на многослойных нейронных сетях)».
Термин NPU появился в конце 1990-х, но для его вывода из университетских лабораторий в массовое производство потребовались огромные инвестиции таких компаний, как Apple, IBM и Google.
Эти технологические гиганты вложили миллиарды долларов в разработку чипов, воплотив прошлые наработки в процессоры, которые помещаются в наши смартфоны, ноутбуки и черпают вдохновение в структуре человеческого мозга.
Как работают NPU
Современные NPU во многом схожи с теми, что создали Маккаллок и Питтс: их структура имитирует мозг благодаря параллельной архитектуре.
Это означает, что вместо последовательного решения задачи NPU одновременно выполняет миллионы, а то и триллионы мини-вычислений. Именно это подразумевается под термином «тераоперации в секунду», или TOPS (Tera Operations Per Second — мера вычислительной мощности).
Однако сложность заключается в том, что NPU используют инструкции глубокого обучения, предварительно обученные на огромных объёмах данных. Например, для обнаружения краёв на фотографиях часто применяются свёрточные нейронные сети (CNN, Convolutional Neural Networks — тип нейронных сетей для обработки изображений).
В CNN свёрточный слой применяет фильтр (так называемое «ядро») ко всем участкам изображения, выискивая узоры, которые, согласно обучению, могут быть краями. Каждая математическая операция, выполняемая NPU, называется свёрткой, и она создаёт карту признаков изображения. Этот процесс повторяется, пока система не убедится, что края найдены.
NPU превосходно выполняют свёрточные операции, делая это быстро и с низким энергопотреблением, особенно по сравнению с CPU. Графические процессоры (GPU, Graphics Processing Units — чипы для обработки графики), хотя и используют параллельные вычисления, менее оптимизированы для таких задач и, следовательно, менее эффективны.
Эта разница в эффективности существенно влияет на время автономной работы устройств.
Для чего сейчас используются NPU
Удивительно, но первые смартфоны с NPU появились ещё в 2017 году. Тогда Huawei представила Mate 10, а Apple — чип A11 Bionic в iPhone X.
Однако эти NPU были не слишком мощными — менее 1 TOPS против 45 TOPS у современных чипов, как Qualcomm Snapdragon X, устанавливаемых в ноутбуки. Кроме того, прошло несколько лет, прежде чем появились приложения, способные использовать уникальную структуру этих чипов.
Сегодня, спустя всего 8 лет, приложения ИИ встречаются повсюду. Например, если ваш смартфон позволяет удалять людей с фотографий, это наверняка заслуга NPU. Функции Google, как «Circle to Search» или «Add Me», используют дополненную реальность (AR, Augmented Reality — технология наложения цифровых объектов на реальный мир), работающую на NPU, чтобы добавить вас на фото после съёмки.
NPU появились и в ноутбуках. В прошлом году Microsoft представила «новую категорию компьютеров с Windows, созданных для ИИ, — Copilot+ PC». Для них требовались NPU с мощностью не менее 40 TOPS, что исключило AMD и Intel (их ранние NPU выдавали лишь 15 TOPS) из гонки за лидерство.
Qualcomm, чьи процессоры Snapdragon X превышали этот порог с 45 TOPS, получил преимущество. Среди моделей с этими чипами — Microsoft Surface Laptop и версии Acer Swift AI на Snapdragon.
AMD и Intel также выпустили чипы, соответствующие требованиям Microsoft, и на рынке появилось больше ноутбуков с маркировкой «Copilot+ PC». Однако есть нюанс: более доступные ноутбуки часто используют менее мощные процессоры, не соответствующие критериям Copilot+ PC.
Какие функции Copilot+ PC наиболее впечатляющие
Почему стоит доплатить за Copilot+ PC? Microsoft предлагает ряд эксклюзивных функций, и, пожалуй, самая впечатляющая, но и спорная — это Recall.
Она обещает «фотографическую память», позволяя заново открыть то, что вы видели в Windows 11. Каждый снимок, сделанный Recall, анализируется NPU с использованием контекста, оптического распознавания символов (OCR, Optical Character Recognition — технология распознавания текста на изображениях) и анализа настроений, чтобы создать индекс для поиска. Затем Recall возвращает вас во времени через визуальную шкалу.
После проблемного запуска, вызванного недостаточной безопасностью и отсутствием контроля пользователя над сохранением снимков, Microsoft доработала функцию, повысив её защищённость.
Другие функции развивают прежние идеи. Image Creator использует NPU для создания изображений из текста, улучшенная версия Windows Studio Effects добавляет креативные фильтры для видеозвонков, а Live Captions переводит любое видео с помощью NPU.
Компании, как Acer, HP и Lenovo, также разработали локальные инструменты ИИ, которые анализируют документы на вашем ПК, предоставляя краткое содержание и анализ настроений. Эти инструменты будут только совершенствоваться.
Что ждёт NPU в будущем
В ближайшие годы некоторые эксперты по ИИ считают, что NPU будут развиваться подобно CPU на ранних этапах — близко к закону Мура, удваивая TOPS каждый год-два.
С ростом мощности появятся новые возможности, например, создание реалистичных ИИ-изображений локально на компьютере без использования сервисов вроде Midjourney.
Со временем, по мере развития ПО и аппаратного обеспечения, а также вовлечения большего числа разработчиков, мы увидим персональных ИИ-агентов, которые понимают нас, «живя» в наших компьютерах. Они не только напомнят о прошлом, но и будут выполнять действия от нашего имени.
NPU, вероятно, найдут применение и в других устройствах, помимо смартфонов и ноутбуков. Телевизоры смогут создавать персонализированные новостные выпуски с вашим любимым аватаром-ведущим, фитнес-трекеры будут рекомендовать тренировки, учитывая ваше настроение и расписание.
Возможно, однажды вашим лучшим другом станет гуманоидный робот, который понимает вас лучше, чем любой человек.
Поделись видео: