Сегодня, 6 июля, компания «Сбер» представила новую флагманскую большую языковую модель под названием GigaChat 3.5 Ultra, которая, по словам разработчиков, стала умнее, способна генерировать длинный текстовый контент до четырёх раз быстрее, но при этом потребляет меньше ресурсов и почти в два раза «компактнее» предыдущей версии флагманской LLM. Кроме того, в основе большой языковой модели нового поколения лежит собственная отечественная архитектура, которую разработали специалисты «Сбера» с применением технологии линейного внимания. Это дало свои плоды в разрезе практического применения LLM. Изображение: «Сбербанк»
Например, в компании заявили, что новая версия модели гораздо лучше пишет код и решает проблемы, связанные с этим направлением, лучше справляется с математическими задачами и, что довольно важно, автономными ИИ-агентами. «Ответы стали точнее, структурнее и удобнее для восприятия. Всё это позволяет встраивать модель в реальный рабочий процесс разработчика, аналитика или инженера», — объяснили в компании.
Более того, система лучше анализирует контракты, технические регламенты, отчёты и прочую объёмную документацию без потери точности или контекста. Собственно, именно здесь себя лучше всего раскрывает архитектура линейного внимания — система не перечитывает текст, а постепенно накапливает контекст. Это напоминает человека, который помнит суть разговора. И, безусловно, очень важным апгрейдом стала система работы с ИИ-агентами, которые могут сами искать информацию, писать и выполнять код, обращаться к нужным сервисам и так далее. Изображения: «Сбербанк» «Это позволяет автоматизировать рутину: мониторинг, обработку данных, подготовку отчётов по расписанию», — заявили в «Сбере».
Также стоит отметить, что GigaChat 3.5 Ultra построена на базе архитектуры Mixture-of-Experts (эту же архитектуру используют практически все крупные LLM на сегодняшний день, за исключением, разве что, Mistral) и содержит 432 миллиарда параметров. Из них активными выступают 28 миллиардов при контекстном окне в 262 тысячи токенов, что довольно немало по современным меркам. Изображение: «Сбербанк»
При этом воспользоваться функциями новой модели может любой желающий — LLM уже доступна в ИИ-помощнике «ГигаЧат», её можно применять для личных или рабочих задач. Также модель доступна в формате Open Source на полностью бесплатной основе — LLM можно встраивать в свои сервисы и создавать ИИ-агентов.
Источник: trashbox.ru