Ring-1T-FP8 стала одной из крупнейших открытых моделей на триллион параметров

Ring-1T-FP8 стала одной из крупнейших открытых моделей, доступных исследователям и разработчикам. Эта модель построена на архитектуре Ling 2.0 и содержит один триллион параметров, из которых пятьдесят миллиардов активно участвуют в вычислениях. Ring-1T обучалась с применением техники RLVR, которая позволяет повысить точность рассуждений и обеспечивает самопроверку ответов. В процессе обучения также использовались собственные методы ASystem и Icepop, которые уменьшают разрыв между обучением и инференсом.

Модель способна решать задачи уровня математических олимпиад и сохраняет контекст до 128 000 токенов, что вдвое превышает возможности предыдущих версий. Это открывает новые горизонты для сложных вычислительных задач и делает Ring-1T-FP8 мощным инструментом для исследователей и разработчиков, работающих с искусственным интеллектом.

Ring-1T-FP8 демонстрирует возможности огромных открытых моделей и показывает, что масштабные ИИ-системы становятся всё более доступными. Она позволяет глубже изучать поведение больших нейросетей, экспериментировать с новыми методами обучения и тестировать алгоритмы, которые требуют высокого уровня вычислительной мощности и долгосрочного сохранения контекста.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.

Источник: habr.com

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии