Intel выпустила чипы Core Ultra на базе Meteor Lake в декабре 2023 года. Они включают встроенные чипы NPU или нейропроцессоры, помогающие аппаратно ускорить производительность приложений искусственного интеллекта. Теперь Microsoft объявила, что выпустила предварительную версию API DirectML для разработчиков, которая добавляет поддержку NPU, в частности, процессоров Intel Core Ultra.
Предварительная версия DirectML 1.13.1 и ONNX Runtime 1.17 будет поддерживать ускорение NPU на ПК с процессорами Intel Core Ultra. Компания работала не только с Intel, но и с Samsung, чтобы повысить производительность приложений искусственного интеллекта, использующих DirectML.
Intel сообщает, что Samsung использовала Microsoft DirectML и технологию Intel AI Boost в своем недавно выпущенном ноутбуке Samsung Galaxy Book 4 с чипами Intel Core Ultra. Компания заявила, что Samsung перенесла функции классификации лиц и объектов в своем приложении Gallery Windows на процессор Intel Core Ultra со своим NPU, используя Microsoft DirectML API. Intel утверждает, что это привело к ускорению разработки проекта.
Поскольку это предварительная версия, Microsoft рассказала о нескольких ограничениях на ПК с процессором Intel Core Ultra. Так, поддержка NPU в DirectML в настоящее время совместима только с подмножеством моделей машинного обучения. Некоторые модели могут вообще не работать или демонстрировать большую задержку или низкую точность. Однако со временем совместимость и производительность будет улучшаться для большего количества моделей.
Разработчики могут оставить отзыв и рассказать о проблемах на странице DirectML на GitHub.
Источник: habr.com
