OpenAI представила новый режим Ultrafast, предназначенный для увеличения скорости работы модели GPT-5.6 Sol. По словам разработчика, технология позволяет обрабатывать запросы до 14 раз быстрее стандартного режима, а максимальная скорость генерации достигает 750 токенов в секунду. В компании отмечают, что высокая скорость раньше обычно требовала использования менее крупных или специализированных моделей. Новый режим решает эту проблему и обеспечивает быструю работу без перехода на более простую модель.
«Сверхбыстрый» режим может применяться в различных корпоративных сценариях, включая реагирование на инциденты, обслуживание клиентов и техническую поддержку, анализ финансовых рынков и электронную коммерцию. Аналогичные ускоренные режимы ранее появились и у конкурентов, включая Anthropic, однако OpenAI заявляет о более высокой скорости своей системы.
Новый режим работает на базе технологий, предоставленных в рамках партнерства OpenAI с производителем чипов Cerebras. Ultrafast пока доступен в предварительной версии ограниченной группе клиентов, а расширение доступа начнется по мере увеличения доступных вычислительных мощностей.
Источник: mobile-review.com