Привет, Хабр! Собрали в одном посте главное из последних обновлений платформы: теперь стоимость конфигураций можно прикинуть до создания ресурсов прямо на сайте, у текстовых моделей появились дефолтные лимиты, а очередь событий можно запустить без серверов.
Калькуляторы: считаем деньги до
Опубликовали на сайте единый калькулятор облачных ресурсов. На отдельной странице можно собрать конфигурацию, посчитать её стоимость и сравнить варианты между собой.
Рассчитать стоимость ресурсов
Кроме того, калькуляторы появились прямо на страницах сервисов. Например, на странице GPT Model Hub можно посчитать и сравнить стоимость токенов для разных моделей.
Рассчитать стоимость деплоймента
ИИ-платформа: дефолтные квоты на запросы и токены
В GPT Model Hub установлены дефолтные квоты на запросы и токены в минуту. Для всех текстовых моделей значения RPM и TPM подобраны с учётом фактической нагрузки проектов — это помогает держать API стабильным при росте числа запросов и не ловить деградацию из-за соседей.
Что изменилось:
— актуальные значения смотрите в консоли MWS Cloud в разделе «Квоты»;
— если установленной квоты не хватает под вашу нагрузку — напишите в поддержку, указав модель и желаемое значение.
Читать в документации
Платформа данных: ранний доступ к Serverless Queue
Открыли ранний доступ к Serverless Queue, Kafka-совместимому сервису для потоковой обработки событий. Его главная задача — снять с инженеров управление и capacity-менеджмент нижележащей инфраструктуры: не нужно считать партиции под пик, держать дежурного на ребалансировках и масштабировать брокеры вручную.
Запустить очередь без серверов
О том, как сервис устроен внутри, мы написали отдельную статью на Хабре — читайте по ссылке.
Источник: habr.com