Портал «Банки.ру» запустил ИИ‑ассистента на базе YandexGPT. Новый чат‑бот помогает пользователям находить финансовые решения и получать ответы на вопросы. Ассистент уже работает на сайте, где его используют более 20 миллионов человек. К концу 2025 года его участие в обработке обращений достигнет 20%.
Ассистент построен по архитектуре RAG, которая ищет документы во внутренней базе знаний без передачи данных в сеть. Бот работает вместе с системой Rasa, которая определяет цель обращения и направляет пользователя к ИИ‑ассистенту или оператору.
Технология работает так: пользователь задаёт вопрос в чате, система Rasa определяет цель, YandexGPT извлекает информацию из базы данных и формирует ответ. В интерфейсе есть виджеты для подбора финансовых продуктов и отслеживания статуса заявок.
Проект реализован командой «Банки.ру» и Yandex Cloud. Работа включала тестирование на внутренних документах, построение базы знаний, внедрение фильтрации запросов и настройку системы приоритетов.
У «Банки.ру» база знаний составляет 135 ГБ данных, которая пополняется на 1,5 ГБ в неделю. В ней более 630 тысяч страниц текста. Раньше поиск работал по точному совпадению слов и плохо справлялся с синонимами. Теперь ответ на запрос приходит меньше чем за 1,3 секунды.
Бот написан на PHP, а модуль вопросов и ответов Q&A service — на Python. Команда развернула кластер Yandex Managed Service for Kubernetes для Docker‑контейнеров. Для обработки данных из Вики использовали Apache Airflow.
Сейчас чат‑бот тестируется в личном кабинете пользователей. Команда планирует запустить его для внешних пользователей в приложении «Банки.ру» под названием «Финансовый ассистент». В планах — ввести классификатор тем для повышения точности ответов и разработать сервис для поиска сгенерированных ИИ отзывов.
Источник: habr.com