Free Router переключает агента между 25 бесплатными провайдерами, когда упирается в лимит

Разработчики Free Router опубликовали утилиту, которая работает как локальный OpenAI-совместимый шлюз и умеет подбирать бесплатные модели для агентов. Инструмент принимает клиентов по адресу 127.0.0.1:8787/v1, а заявленные «бесконечные» токены на практике упираются в лимиты, таймауты и доступность сторонних провайдеров.

Free Router сортирует доступные бесплатные модели среди настроенных OpenAI-совместимых провайдеров и переключается на следующую, если первая недоступна, упёрлась в лимит или вернула ошибку.

Список доступных моделей для токенизатора

Список доступных моделей для токенизатора

Среди моделей, перечисленных в проекте, были GLM-5.3, DeepSeek V4 Flash, Qwen3.8 Flash и Gemini. Free Router переключается между 25 бесплатными провайдерами, так что логика проекта строится вокруг постоянного фейловера между доступными источниками. Подключение идёт через обычный OpenAI-совместимый API, а при отсутствии ключа соответствующий провайдер просто пропускается.

В веб-интерфейсе на localhost можно было управлять ключами и смотреть статистику использования. В конфигурации отдельно были перечислены Google AI Studio, OpenRouter, TokenRouter и BAI, так что Free Router завязан не на одном сервисе, а на целой цепочке бесплатных площадок.

Именно здесь и прячется главный риск: «бесконечность» заканчивается там, где заканчиваются лимиты и стабильность чужих провайдеров. Free Router не отменяет ограничения — он лишь пытается пережить их за счёт автоматического переключения.

Считаете ли вы такой автоматический фейловер удобным способом экономить токены или слишком ненадёжным решением?

НовостиАнонсыЖелезо и технологииОС и программыGoogleискусственный интеллект

Источник: vgtimes.ru

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев