Стартап Thinking Machines Lab, основанный бывшим CTO OpenAI Мирой Мурати, выпустил свою первую фундаментальную модель — Inkling. Вместо гонки за лидерством в бенчмарках компания делает ставку на открытые веса, мультимодальность и инфраструктуру для глубокой кастомизации моделей под конкретные продукты.
По характеристикам релиз получился одним из самых крупных среди открытых моделей:
-
975 млрд параметров (архитектура Mixture-of-Experts);
-
41 млрд активных параметров на токен;
-
контекстное окно до 1 млн токенов;
-
предварительное обучение на 45 трлн токенов, включающих текст, изображения, аудио и видео.
Также представили Inkling-Small. Это облегчённая версия с 12 млрд активных параметров, ориентированная на более дешёвый и быстрый инференс.
При этом в Thinking Machines прямо признают, что Inkling не является лучшей моделью ни среди open-, ни среди closed-моделей. Вместо этого разработчики позиционируют её как сильную базовую мультимодальную модель, которую можно эффективно адаптировать под конкретные сценарии использования. Такой подход, по мнению компании, важнее, чем максимальные результаты в синтетических тестах.
Главная идея — не модель, а конвейер её адаптации
Ключевым элементом экосистемы стала платформа Tinker, анонсированная компанией ранее. Через неё разработчики могут запускать полный цикл дообучения модели: загружать собственные датасеты, проводить fine-tuning, выполнять оценку качества и переключать приложения на новые веса без самостоятельной организации ML-инфраструктуры.
В демонстрации возможностей Thinking Machines показала показательный сценарий: Inkling самостоятельно сформировала задачу на fine-tuning, обучилась избегать использования буквы «e» в ответах, автоматически запустила оценку качества и после успешной проверки переключилась на обновлённые веса. Таким образом компания демонстрирует не столько возможности самой модели, сколько полностью автоматизированный цикл ее адаптации.
Фактически предлагается следующий процесс: модель → постановка задачи → подготовка данных → fine-tuning → evaluation → публикация новых весов.
Ставка на рынок корпоративного AI
На фоне того, что многие разработчики сегодня выбирают между дорогими закрытыми моделями OpenAI/Anthropic и открытыми решениями зачастую китайских лабораторий, Thinking Machines пытается занять свою нишу. Компания делает акцент на том, что бизнесу зачастую важнее не абсолютное лидерство в рейтингах, а возможность быстро получить собственную специализированную модель, адаптированную под внутренние процессы и данные.
Если эта стратегия окажется успешной, Inkling может стать не просто ещё одной крупной open-weights моделью, а основой для своеобразной «фабрикой моделей», где под каждый продукт или компанию создаётся собственная специализированная версия ИИ.
Источник: habr.com