Привет! Меня зовут Женя, я деврел в Банки.ру.
Слушайте новый выпуск нашего подкаста на платформах:
🔗 Яндекс Музыка
🔗 VK Music
🔗 Apple Podcasts
🔗 Spotify
🔗 Mave
В третьем выпуске в гости пришел Рушан (тимлид ML-команды в Банки.ну), а я завалил его вопросами про чат-боты.
Просто и доступно обсудили изнанку LLM в проде: скрытые агенты под капотом, реальные косты на GPU, почему заставить бота вовремя замолчать сложнее, чем научить его отвечать.
Будет интересно всем, кто хочет понять общую картинку работы современных чат-ботов и наконец-то узнать, сколько раз надо написать «позови человека», чтобы бот подключил оператора.
Давайте пообщаемся в комментах: вы сразу пишете боту «позови человека», или даете ему шанс решить вашу проблему?
Новый выпуск — каждые две недели 😎
Источник: habr.com