DeepSeek покорил мобильный мир, и теперь приходит на операционную систему Windows — при полной поддержке Microsoft, сообщает портал GSMArena. Софтверный гигант добавил модель DeepSeek R1 в свой Azure AI Foundry , чтобы позволить разработчикам тестировать и создавать облачные приложения и сервисы с его помощью. Сегодня Microsoft объявила, что она переносит очищенные версии R1 на ПК Copilot+. Сначала усовершенствованные модели будут доступны для устройств на базе чипов Snapdragon X, процессоров Intel Core Ultra 200V, а затем и для ПК на базе AMD Ryzen AI 9. Первой моделью станет DeepSeek-R1-Distill-Qwen-1.5B (т.е. модель с 1,5 миллиардами параметров), а вскоре появятся более крупные и более эффективные модели 7B и 14B. Они будут доступны для загрузки из набора инструментов AI от Microsoft. Microsoft пришлось подправить эти модели, чтобы оптимизировать их для работы на устройствах с NPU. Операции, которые в значительной степени зависят от доступа к памяти, выполняются на CPU, в то время как вычислительно-интенсивные операции, такие как блок transformer, выполняются на NPU.
Microsoft активно поддерживает OpenAI и активно инвестирует в эту технологию (создатели ChatGPT и GPT-4o), но, похоже, у нее нет фаворитов — в ее Azure Playground есть модели GPT (OpenAI), Llama, Mistral, а теперь и DeepSeek. В любом случае, если вам больше по душе локальный ИИ, сначала загрузите AI Toolkit для VS Code . Оттуда вы сможете загрузить модель локально (например, «deepseek_r1_1_5» — это модель 1.5B). Наконец, нажмите «Попробовать в Playground» и посмотрите, насколько умна эта версия R1. «Дистилляция модели», иногда называемая «дистилляцией знаний», представляет собой процесс взятия большой модели ИИ (полная модель DeepSeek R1 имеет 671 миллиард параметров) и переноса как можно большего количества ее знаний в меньшую модель (например, 1,5 миллиарда параметров). Это не идеальный процесс, и дистиллированная модель менее эффективна, чем полная модель, но ее меньший размер позволяет ей работать непосредственно на потребительском оборудовании (вместо специального оборудования ИИ, которое стоит десятки тысяч долларов).
Источник: mobile-review.com