Малые нейросети способны обучать большие ИИ-модели лучше человека

Ученые Института AIRI и НИУ ВШЭ представили и экспериментально подтвердили преимущества использования малых генеративных моделей, обученных на качественном наборе данных, для дальнейшего обучения больших моделей ИИ и решения задач 3D-детекции, сообщает пресс-служба AIRI. Подход будет применим в развитии беспилотных автомобилей и позволит в перспективе точнее определять скорость и направление движения объекта, свойства его поверхности, а также позиционирование транспортного средства в пространстве. Такие сенсоры как лидар не всегда позволяют получить полную информацию о глубине и, как следствие, 3D-позиции предмета. На дороге один элемент может полностью или частично перекрываться другими объектами сложной структуры — например, деревом или движущимся автомобилем, что будет негативно сказываться на эффективности работы лидара. Предложенный российскими учеными подход показал более точное определение 3D-положения предмета несмотря на шум в данных лидара и перекрытие объектов друг другом. В ходе годового исследования команда обучала небольшую генеративную модель на доступных записях облаков точек, снятых во время проезда автомобиля по улицам города. Точки данных собирались по трем сценариям: когда объект был полностью в поле зрения, была видна лишь его часть и когда он оставался позади.

Далее при помощи метода Point Cloud Registration (PCR) облака точек соотносились с конкретными автомобилями и другими предметами даже на основе небольшого видимого фрагмента. Затем эта небольшая, но точная модель (модель-учитель) применялась для обучения большой нейросети (модель-студент), работающей на шумных облаках точек с множеством сложных параметров. В результате нейросеть значительно повысила точность распознавания реальных объектов — технология стала корректно предполагать форму окружающих предметов, которые могла увидеть лишь в будущем. «Можно обучать несколько маленьких моделей-учителей на хороших данных, каждую — для своих целей, которые после обучат большую модель-студента. Еще вариант — обучать малые нейросети сразу нескольким задачам для получения мультитаск-учителя», — подчеркнул Илья Макаров, руководитель группы «ИИ в промышленности» Института AIRI.

Источник: mobile-review.com

0 0 голоса
Рейтинг новости
1272
0
Подписаться
Уведомить о
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии