В Beget Cloud появился ИИ‑шлюз, через который можно подключать большие языковые модели: Claude, GPT, GLM, DeepSeek и другие. Подключение идёт через один OpenAI‑совместимый API, оплата — по токенам, ключи управляются в панели. Своя AI‑инфраструктура для этого не нужна. Ниже расскажем, как работает шлюз, для каких задач он подойдёт и как отправить первый запрос.
Зачем это нужно
Чтобы встроить LLM в продукт или внутренние процессы, обычно приходится решать много сопутствующих задач. Нужно заводить аккаунты у нескольких провайдеров и хранить их ключи. Под каждую модель пишется своя интеграция, а расходы приходится считать вручную. Если модели разворачивать самостоятельно, добавляется ещё и инфраструктура.
ИИ‑шлюз убирает эту прослойку. Вы выбираете модель в панели, создаёте ключ и отправляете запросы через стандартный OpenAI‑совместимый интерфейс. Чтобы сменить модель, достаточно поменять один параметр в запросе — код интеграции переписывать не нужно.
Что умеет шлюз
-
Один API для разных моделей. Интеграция одна, модели можно переключать под задачу.
-
Совместимость с OpenAI. Подойдут готовые SDK, библиотеки и инструменты, которые уже работают с OpenAI API.
-
Управление в панели. Выбор моделей, создание и отзыв ключей — всё в одном месте.
-
Контроль расходов. Для каждого API‑ключа можно задать месячный лимит.
Какие модели доступны
Вот некоторые из них:
-
claude-opus-5.5 -
claude-sonnet-5.5 -
gpt-6.1-sol -
gpt-6-astra -
glm-5.3 -
deepseek-v4-flash
Список мы регулярно пополняем. Актуальный перечень с ценами есть на странице сервиса и в панели управления.
Пример запроса
Поскольку API совместим с OpenAI, подойдёт официальный SDK. Нужно только указать адрес шлюза:
from openai import OpenAIclient = OpenAI( api_key="ВАШ_КЛЮЧ", base_url="https://api-llm.beget.com/v1/",)response = client.chat.completions.create( model="claude-sonnet-5.5", messages=[ {"role": "user", "content": "Сделай краткое саммари этого текста: ..."} ],)print(response.choices[0].message.content)То же самое через curl:
curl https://api-llm.beget.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{ "model": "deepseek-v4-flash", "messages": [{"role": "user", "content": "Привет!"}] }'Сравнить ответы разных моделей на одном запросе можно в цикле:
for model in ["claude-opus-5.5", "gpt-6.1-sol", "glm-5.3"]: r = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Объясни, что такое RAG, в двух предложениях"}], ) print(f"--- {model} ---n{r.choices[0].message.content}n")Где это пригодится
-
Боты и ассистенты. Поддержка клиентов, внутренние помощники, боты в мессенджерах.
-
AI‑функции в продукте. Генерация текста, саммари, ответы на вопросы, обработка пользовательского контента.
-
Автоматизация. Классификация и разбор данных в скриптах и пайплайнах. Для потоковых задач подойдут быстрые и недорогие модели вроде
deepseek-v4-flash. -
Прототипы и MVP. Гипотезу можно проверить за вечер без отдельной инфраструктуры.
-
Сравнение моделей. Под каждую задачу выбирается своя LLM, способ интеграции при этом не меняется.
Сколько стоит
Оплата идёт по факту использования: считаются входящие и исходящие токены, тариф зависит от модели. Деньги списываются с баланса аккаунта. Чтобы расходы не вышли из‑под контроля, для ключа можно задать месячный лимит.
Что дальше
В ближайших планах:
-
Подробная статистика расходов с разбивкой по ключам и моделям.
-
Песочница для тестирования моделей. В ней можно будет сравнить модели в изолированной среде до того, как встраивать их в рабочие процессы.
Как попробовать
-
Откройте раздел ИИ-шлюза в панели управления.
-
Выберите модель и создайте API-ключ.
-
Отправьте первый запрос, например из кода выше.
Вопросы и обратную связь ждём в комментариях. Ещё вы можете связаться с нами напрямую, следить за новостями в Telegram‑канале или обсудить ИИ‑шлюз и другие продукты Beget Cloud в нашем чате.
Источник: habr.com