Представлен DeepSeek-V3.2-Exp: в разы дешевле при той же производительности

Представлена экспериментальная модель DeepSeek-V3.2-Exp, в которой разработчики впервые опробовали новую схему разреженного внимания (DSA). Модель доступна в веб-версии и приложениях (раскатка может идти поэтапно), API, а также на Hugging Face.

Особенность DSA в том, что схема выбирает лишь самые “важные” позиции в длинном контексте и считает полное внимание только по ним — поэтому время и стоимость растут почти линейно по числу выбранных токенов, а не квадратично по длине всего текста. Такой подход снижает стоимость работы на длинных контекстах без ущерба для качества. Давайте посмотрим на бенчмарки в сравнении с предыдущим DeepSeek-V3.1-Terminus:

Из таблицы видно, что в целом модели показывают очень близкие результаты. При этом V-3.2-Exp значительно дешевле: в API вход стоит $0,028 за 1 млн токенов при попадании в кэш и $0,28 при промахе, вывод — $0,42 (ранее: вход — $0,07 при cache hit и $0,56 при miss; вывод — $1,68 за 1 млн токенов). Пользоваться DeepSeek в веб-приложении, как и прежде, можно бесплатно.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.

Источник: habr.com

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии