BSS автоматизировала аудит генеративного ИИ: в NLU-Suite 3.8 появилась LLM-оценка качества RAG-систем

Российский разработчик речевых технологий интегрировал в свой инструментарий для обучения моделей распознавания механизмы автоматизированного тестирования генеративных ИИ-систем.

Компания BSS, один из лидеров отечественного рынка в области разработки и внедрения речевых технологий и искусственного интеллекта, анонсировала выход версии 3.8 инструментария NLU-Suite. Ключевым нововведением стал функционал оценок GAI, позволяющий использовать большие языковые модели (LLM) в роли аудитора для автоматизированного тестирования ответов RAG-систем (Retrieval-Augmented Generation). Это один из самых востребованных сегодня подходов к построению корпоративных ИИ-приложений.

NLU-Suite представляет собой инструментарий для обучения моделей распознавания через визуальный интерфейс. Система позволяет с высокой точностью выявлять намерения клиента в диалоге и извлекать ключевые атрибуты (слоты) из речи: числа, локации, даты и прочие специфические сущности. С массовым внедрением генеративного ИИ перед бизнесом встала новая проблема: контроль фактологической точности и безопасности ответов. В новой версии решение выходит за рамки традиционного NLU, предоставляя комплексные средства для оценки качества работы генеративных моделей.

Обновленный модуль «Метрики» и раздел «Оценка» поддерживают гибкую настройку контрольных точек. Дата-инженеры и аналитики могут использовать три типа метрик:

• Рубрики — с фиксированными критериями, весовыми коэффициентами и настраиваемыми шкалами (от непрерывных значений до текстовых меток);
• Категории — для классификации ответа по заданным параметрам качества;
• Попарное сравнение — для A/B-тестирования ответов на базе одного набора данных, но сгенерированных разными LLM.

В релиз уже включены предустановленные отраслевые метрики для RAG-систем. Среди них: Answer_Correctness (сравнение с эталоном), Answer_Correctness_noRef (оценка качества без опоры на эталон), Context_Relevancy (оценка того, насколько точно ИИ подобрал релевантные чанки из базы знаний) и Faithfulness (проверка на отсутствие «галлюцинаций» и противоречий предоставленным документам).

«Главный вызов для бизнеса сегодня — это не просто внедрение генеративного ИИ, а обеспечение его предсказуемости и фактологической точности, особенно в клиентском сервисе. В версии 3.8 мы реализовали функционал, который позволяет автоматизировать один из самых трудоёмких этапов разработки RAG-систем — валидацию качества ответов. Использование LLM в роли аудитора даёт возможность оценивать ответы по множеству критериев одновременно, включая фактологическую точность и релевантность контекста, без необходимости ручного анализа каждого кейса. Это существенно ускоряет вывод голосовых помощников и чат-ботов в промышленную эксплуатацию», — прокомментировал Александр Крушинский, директор департамента голосовых цифровых технологий компании BSS.

BSS — один из лидеров отечественного рынка в области разработки и внедрения решений для цифровизации и повышении эффективности клиентского сервиса. Компания предлагает бизнесу CX-платформу нового уровня — интеллектуальную платформу клиентского обслуживания, которая объединяет передовые инструменты автоматизации, глубокой аналитики и генеративного ИИ для создания бесшовного, безопасного и персонализированного клиентского опыта.