Российский разработчик речевых технологий интегрировал в свой инструментарий для обучения моделей распознавания механизмы автоматизированного тестирования генеративных ИИ-систем.
Компания BSS, один из лидеров отечественного рынка в области разработки и внедрения речевых технологий и искусственного интеллекта, анонсировала выход версии 3.8 инструментария NLU-Suite. Ключевым нововведением стал функционал оценок GAI, позволяющий использовать большие языковые модели (LLM) в роли аудитора для автоматизированного тестирования ответов RAG-систем (Retrieval-Augmented Generation). Это один из самых востребованных сегодня подходов к построению корпоративных ИИ-приложений.
NLU-Suite представляет собой инструментарий для обучения моделей распознавания через визуальный интерфейс. Система позволяет с высокой точностью выявлять намерения клиента в диалоге и извлекать ключевые атрибуты (слоты) из речи: числа, локации, даты и прочие специфические сущности. С массовым внедрением генеративного ИИ перед бизнесом встала новая проблема: контроль фактологической точности и безопасности ответов. В новой версии решение выходит за рамки традиционного NLU, предоставляя комплексные средства для оценки качества работы генеративных моделей.
Обновленный модуль «Метрики» и раздел «Оценка» поддерживают гибкую настройку контрольных точек. Дата-инженеры и аналитики могут использовать три типа метрик:
· Рубрики — с фиксированными критериями, весовыми коэффициентами и настраиваемыми шкалами (от непрерывных значений до текстовых меток);
· Категории — для классификации ответа по заданным параметрам качества;
· Попарное сравнение — для A/B-тестирования ответов на базе одного набора данных, но сгенерированных разными LLM.
В релиз уже включены предустановленные отраслевые метрики для RAG-систем. Среди них: Answer_Correctness (сравнение с эталоном), Answer_Correctness_noRef (оценка качества без опоры на эталон), Context_Relevancy (оценка того, насколько точно ИИ подобрал релевантные чанки из базы знаний) и Faithfulness (проверка на отсутствие «галлюцинаций» и противоречий предоставленным документам).
«Главный вызов для бизнеса сегодня — это не просто внедрение генеративного ИИ, а обеспечение его предсказуемости и фактологической точности, особенно в клиентском сервисе. В версии 3.8 мы реализовали функционал, который позволяет автоматизировать один из самых трудоёмких этапов разработки RAG-систем — валидацию качества ответов. Использование LLM в роли аудитора даёт возможность оценивать ответы по множеству критериев одновременно, включая фактологическую точность и релевантность контекста, без необходимости ручного анализа каждого кейса. Это существенно ускоряет вывод голосовых помощников и чат-ботов в промышленную эксплуатацию», — прокомментировал Александр Крушинский, директор департамента голосовых цифровых технологий компании BSS.
BSS — один из лидеров отечественного рынка в области разработки и внедрения решений для цифровизации и повышении эффективности клиентского сервиса. Компания предлагает бизнесу CX-платформу нового уровня — интеллектуальную платформу клиентского обслуживания, которая объединяет передовые инструменты автоматизации, глубокой аналитики и генеративного ИИ для создания бесшовного, безопасного и персонализированного клиентского опыта. ИИ перекраивает рынок труда. Как спасти свою карьеру? Миграция с Rockwell на IntraSCADA: 15000 тегов, завод без остановки и MES-функционал за 9 месяцев Николай Распопин: «Человеку не нужно запоминать номера горячих линий разных ведомств»
Источник: www.it-world.ru