В разговоре с Роном Бароном основатель xAI Илон Маск раскрыл подробности Grok 5. Этот ИИ обучают на новом суперкомпьютере Colossus 2 — он пока не вышел на полную мощность (1 млн GPU прогнозируют в 2026 году), но даже текущих возможностей хватает, чтобы разработчики размахнулись на модель с рекордными 6 трлн параметров. Для сравнения, Qwen3-Max и Kimi K2 состоят из 1 трлн параметров, GPT-4o оценивается в 1,7 трлн параметров, а Grok 4 — 1,7-3 трлн параметров в зависимости от источника. Также важно добавить, что разработчики Grok всегда придерживались архитектуры MoE (Mixture of Experts), в которой на каждый токен активируется лишь часть параметров — это позволяет экономить ресурсы.
Grok 5 будет очень умным и при этом быстрым — для сравнения, Grok 4 отличается достаточно долгим (до нескольких минут) временем «обдумывания» ответа, что было исправлено в облегченной версии Grok 4 Fast. Модель будет полностью мультимодальной — Маск заявил, что она сможет даже генерировать видео в реальном времени. Это смелое обещание, но стоит отметить, что прямо сейчас xAI развивает генератор видео Grok Imagine, который хвалят за очень короткое время создания роликов.
Выход Grok 5 намечен на первый квартал 2026 года. В ранних интервью Маск уже делал несколько интересных заявлений насчет модели — утверждал, что Grok 5 сможет обучаться новым знаниям в реальном времени и давал 10% шанс, что он достигнет AGI.
Важно отметить, что далеко не все обещания Маска касательно серии ИИ Grok оказывались точными. Например, в Grok 3 он также обещал обучение в реальном времени, но это оказалось лишь поиском свежей информации в сети — так модель действительно получает новые знания, но лишь на вермя диалога. Если сроки выхода Grok 5 не сдвинутся, то уже в ближайшие месяцы мы сможем проверить — насколько хорошей эта модель окажется в реальности.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com