Hyundai и Kookmin University представили 3D-детектор с 75% уменьшением модели и высокой точностью

Метод SharedKD объединяет сжатие нейросети и дистилляцию знаний внутри одного детектора

Исследователи из Университета Кукмин и компании Hyundai Motor представили метод SharedKD, предназначенный для сжатия моделей 3D-детекции, используемых в системах восприятия окружающей среды.

На тесте nuScenes данный метод продемонстрировал результат NDS (nuScenes Detection Score — комплексная оценка качества 3D-детекции) на 2,55% выше предыдущего рекорда при удалении 75% структуры исходной модели.

Основное отличие SharedKD заключается в том, как авторы объединили два распространенных подхода к уменьшению нейросетей — pruning и дистилляцию знаний. Обычно в процессе дистилляции большая модель-«учитель» и компактная модель-«ученик» существуют отдельно: учитель передает ученику информацию о том, как решать задачу. В SharedKD полная версия сети функционирует как динамический учитель, в то время как её уменьшенная подсеть — ученик. Градиентно-управляемый механизм выбора позволяет этим элементам одновременно изменяться в ходе обучения, что исключает необходимость в отдельной постоянно поддерживаемой сети-учителе.

Авторы протестировали метод на nuScenes — наборе данных, предназначенном для разработки систем автономного вождения, который включает данные автомобильных сенсоров и разметку объектов окружающей среды. При коэффициенте pruning 75% SharedKD превзошёл предыдущий результат на 2,55% по NDS. Этот показатель объединяет несколько характеристик качества 3D-детектора и служит для комплексной оценки точности системы в распознавании и локализации объектов в пространстве. Таким образом, заявленный результат относится именно к данной степени сокращения модели и конкретному тесту nuScenes.

Архитектура SharedKD предназначена для ситуаций, когда моделям компьютерного зрения необходимо одновременно сохранять точность и функционировать с ограниченными вычислительными ресурсами. По информации Университета Кукмин, метод позволяет снижать вычислительную нагрузку и время выполнения, однако в опубликованных материалах отсутствуют конкретные измерения этих параметров. В частности, авторы не указали производительность на автомобильных ускорителях, задержку обработки кадров, пропускную способность, потребление памяти или электроэнергии.

Таким образом, представленный результат пока что относится к исследовательскому уровню: он демонстрирует преимущества метода на бенчмарке, но не подтверждает готовность SharedKD к внедрению в серийный автомобиль. Для такого вывода необходимы дополнительные испытания на целевом оборудовании, с конкретными конфигурациями сенсоров, ограничениями по задержке и наборами данных, используемыми для проверки безопасности систем автономного вождения.