Naumen запускает LLM-лабораторию
Naumen начал тестирование больших языковых моделей в продуктах компании, чтобы найти способы применения технологии с понятной выгодой для бизнеса.
Первым реализованным проектом станет интеллектуальный ассистент Naumen GPT AssistTool, который встраивается в систему управления знаниями Naumen KMS. Задача ассистента — сделать работу сотрудников контактных центов проще и удобнее. В основе решения лежат open source модели, а в перспективе возможна интеграция с российскими вендорами LLM.
Naumen GPT анализирует статьи из базы знаний и генерирует человекоподобный ответ, который можно сразу использовать в диалоге с клиентом. Следуя политике распространения информации, он формирует ответы в рамках той зоны базы знаний, к которой у пользователя есть доступ. Каждый ответ снабжает ссылками на источники или дает сниппеты статей как подтверждение того, что ответ сгенерирован на основе реальных данных. Ответы можно оценить с точки зрения полезности для дальнейшего обучения и корректировки поведения системы.
LLM-модуль в два раза ускоряет поиск информации и подготовку ответов в ситуациях, когда в базе знаний нет готового ответа на вопрос или когда для сбора информации нужно задействовать несколько статей, например, при сравнении продуктов. Он также способен обрабатывать сложные и составные вопросы.
Naumen готовится к тестированию решения на пилотных проектах с клиентами, которые уже используют систему управления знаниями Naumen. LLM-практика также изучает возможность применения технологий GenAI и в других продуктах компании. Например, в процессе создания текстовых и голосовых ботов LLM-модели могут помочь сделать ответы бота более гибкими и эмпатичными. Среди решений в фокусе внимания практики — Naumen Contact Center, Naumen Erudite, Naumen LMS, Naumen Conversational Intelligence, Naumen Service Desk Pro, Naumen Project Ruler.