TypeSafe AI открыли общий доступ к Jev — модели для быстрых решений внутри AI‑агентов и программных сценариев. Компанию основал Диого Алмейда, бывший исследователь OpenAI и соавтор работы об InstructGPT. Новым пользователям начисляют $5 на API‑счёт — примерно 119 млн входных токенов по текущему тарифу.
Вместо генерации текста Jev получает контекст и набор допустимых вариантов, а возвращает типизированный выбор вместе с вероятностями и оценкой уверенности. Такая модель подходит для маршрутизации запросов, выбора инструментов, классификации и других частых действий агента. В отличие от обычной LLM, модель оценивает несколько вопросов параллельно, а не формирует ответ токен за токеном.
Написание кода и сложное планирование по‑прежнему можно оставить основной LLM, передав Jev небольшие повторяющиеся решения. По данным TypeSafe, задержка составляет 70–500 мс, а на подходящих задачах модель работает в 40–200 раз быстрее традиционных LLM. При этом Jev гарантирует соответствие заданному типу ответа, хотя сам выбранный вариант, разумеется, всё равно может оказаться неверным.
Входные токены стоят $0,042 за миллион, выходные не тарифицируются; документация и примеры доступны на docs.typesafe.ai. Через Vercel AI Gateway модель можно бесплатно протестировать до 25 сентября 2026 года.
Если новость понравилась, приглашаю в канал AI for Devs. Каждый день публикую похожие материалы: новые модели, агенты, практические кейсы и новости из мира AI.
Источник: habr.com