Как довести ML- и Data-решения до production, когда приходится учитывать вычислительные ограничения, качество данных, latency и требования бизнеса?
На ML & Data Meetup RWB разберем кейсы из опыта RWB, Авито и VK Tech: архитектура моделей, оптимизация инференса, работа с данными и масштабирование систем под реальную нагрузку. Завершим митап праздничной атмосферой, обменом опытом и общением с теми, кто строит ML и Data в production.
Когда? 5 декабря, 13:00
Где? Москва + онлайн-трансляция
В программе два трека:
-
ML: Train Before Midnight
Как масштабировать ML-модели и инфраструктуру для их обучения и инференса в production?
Разберём путь от экспериментов до pretrain модели с 100B параметров, построение inference-платформы на KServe и управление жизненным циклом моделей. Посмотрим, как обеспечивать быстрый скоринг и обновление весов в real-time ML-биддинге, а также применять математическую оптимизацию для сокращения пространства поиска в задачах маршрутизации. И отдельно обсудим архитектурные решения и инженерные компромиссы при масштабировании ML-систем. -
Data: Let It Flow, Let It Scale
Что происходит с data-пайплайном, когда растут объёмы событий, возникают задержки или теряется консистентность?
На реальных примерах разберём генерацию синтетических данных для OCR, отбор эмбеддингов и устройство stateful-сегментатора на Kafka, Flink, RocksDB и ClickHouse. Поговорим и о диагностике проблем с состоянием, replay, дедупликации и observability. Отдельно рассмотрим, как интегрировать AI-модели в продуктовые сервисы и выстраивать инфраструктуру для их работы под высокой нагрузкой.
Регистрация на митап открыта!
Источник: habr.com