Приглашаем вас на вебинар, на котором команда Платформы «Боцман» расскажет о том, как использовать MIG и GPU-Sharing.
20 августа, 11:00
Программа вебинара:
✔️ Разберем существующие подходы к совместному использованию GPU в Kubernetes — Time-Slicing, MIG, MPS и HAMi, их преимущества, ограничения и сценарии применения
✔️ Покажем, как повысить эффективность использования GPU для AI-нагрузок, избежать простоя дорогостоящих ускорителей и сократить затраты на развитие инфраструктуры
✔️ На практических примерах рассмотрим использование MIG и GPU Sharing для запуска нескольких AI-сервисов на одном ускорителе, а также разберем, когда лучше использовать большие универсальные модели, а когда — специализированные
✔️ Продемонстрируем, как платформа контейнеризации «Боцман» помогает централизованно управлять GPU-ресурсами в Kubernetes, распределять их между командами и AI-сервисами и эффективно эксплуатировать AI-инфраструктуру
ЗАРЕГИСТРИРОВАТЬСЯ
Читать далее
Источник: habr.com