Microsoft представила локальную языковую модель Mu — микро-ИИ, работающий прямо на устройстве без подключения к интернету.
Она станет частью системы Copilot+ в Windows 11 и позволит пользователям управлять настройками компьютера с помощью естественного языка, например, фраз вроде «уменьши яркость экрана» или «включи тёмную тему».
Модель Mu имеет всего 330 млн параметров и полностью запускается на нейропроцессоре (NPU), обеспечивая скорость отклика свыше 100 токенов в секунду. Она использует архитектуру encoder–decoder, что обеспечивает быструю и энергоэффективную работу, даже на мобильных чипах.
Mu была обучена на сотнях миллиардов токенов и дообучена на реальных задачах Windows. Она обрабатывает сложные команды и переводит их в конкретные системные действия — при этом, даже не требуя подключения к интернету.
Такой подход позволяет обеспечить мгновенный отклик и повысить конфиденциальность.
Интеграция Mu уже тестируется в Dev-сборках Windows и станет ключевым элементом нового интерфейса взаимодействия с системой.
Источник: www.ferra.ru