Привет, Хабр! Присоединяйтесь к вебинару 22 августа в 16:00 мск. Особенно ждем ML- и MLOps-инженеров, Data Scientists и NLP-инженеров, CTO и менеджеров ML-проектов.
Поделимся опытом команды «Актион», которая сократила расходы на GPU на 60% и увеличила пропускную способность в 36 раз благодаря решению Compressa на инфраструктуре Selectel.
Участникам дадим бесплатный двухнедельный тест LLM-платформы Compressa на инфраструктуре Selectel с GPU.
Зарегистрироваться →
Программа
Проблемы внешних API и open-source моделей «из коробки»
Способы оптимизации LLM-моделей на своем сервере
Сравнение производительности и стоимости токенов после оптимизации LLM
Инфраструктура Selectel для инференса LLM моделей
Кейс «Актион» и Compressa. Оценка окупаемости решения и использование LLM в продакшене
Ответы на вопросы
Спикеры
Владислав Кирпинский, директор по облачной интеграции, Selectel
Алексей Гончаров, CEO и founder, MIL Team
Валентин Шишков, ML Product Manager, MIL Team
Владимир Хаванских, Chief Data Scientist, Актион
Принять участие →
Источник: habr.com
Похожие новости:
ИИ показал, как Джилл Валентайн, Лара Крофт, Цири, 2B, Тифа и другие девушки из игр могли бы выглядеть в настоящей жизни
ИИ показал, как бы выглядели Цири, Джилл Валентайн, Лара Крофт, Цири, 2B, A2, Тифа и другие девушки из игр в настоящей жизни
ИИ показал киберпанк-версии Саб-Зиро, Скорпиона, Рейдена, Китаны и Рептилии из Mortal Kombat
ИИ показал киберпанк-версии персонажей Mortal Kombat