Цифровой помощник для корпорации на базе генеративного искусственного интеллекта: собственная разработка или готовое решение?
Иллюстрация: Shutterstock.ai
Цифровые помощники или чат-боты на базе ИИ создавались, чтобы выполнять определенный набор функций для решения конкретных задач компании. С появлением генеративного искусственного интеллекта — известного как модель GPT — возможности таких помощников расширились. Например, их можно использовать для создания текста письма, подготовки отчетов, поиска ответа на вопрос среди огромного и разрозненного массива информации внутри компании, поддержки клиентов и сотрудников. Список задач можно продолжать бесконечно, всё зависит от целесообразности.
Удобство таких бот-помощников заключается в том, что сотрудники или клиенты компании ведут с ним переписку через удобный и привычный канал общения — в публичном или корпоративном мессенджере, электронной почте или в чате на сайте — и одновременно решают свои задачи. Таким образом сегодня ИИ-ассистенты — большое подспорье для службы клиентской поддержки и контактных центров, HR-менеджеров, отделов маркетинга и продаж, закупок и IT-департаментов. Они позволяют повысить качество обслуживания клиентов, сэкономить время персонала, оптимизировать расходы на ведение бизнеса. В результате компания, в которой время сотрудников высвободилось на нечто более полезное, чем, например, поиск информации среди многостраничных документов и баз знаний, сможет больше заработать.
Что выбрать если перед компанией стоит задача внедрить цифрового помощника — самостоятельную разработку или готовое решение? Опыт нашего общения с десятками крупных компаний-заказчиков показывает, что этот вопрос является наиболее частым камнем преткновения. Это вызвано тем, что на данный момент на российском рынке есть два класса продуктов — готовые платформенные решения, не требующие участия вендора в управлении, и те, которые требуют дорогостоящих доработок под запросы заказчика. Когда заказчик сталкивается со вторым вариантом — это его пугает, и он думает, что лучше сделать разработку внутри компании.
Какие риски нужно учитывать, решаясь на самостоятельную разработку
Вероятнее всего, собственная разработка займет много времени. Поиск разработчиков в штат, их адаптация, постановка техзадания, сам процесс разработки, тестирования, проведения экспериментов и т.д. — всё это требует времени. Даже если внутри компании есть сильная IT-команда с необходимыми компетенциями, то чаще всего ее ресурсы уже заняты под профильные задачи. Бот-помощник на базе ИИ по индивидуальному заказу — это несколько недель или даже месяцев работы. Таким образом, его не получится оперативно развернуть, как готовое решение от одного дня до пары недель в зависимости от варианта установки — в облаке или контуре безопасности компании.
Значительную часть времени может занять изучение рынка и поиск готовых библиотек, показавших себя успешно в реальных, а не научных задачах. В то время как готовое решение уже работает на основе анализа потребностей и опыта использования реальных компаний. То есть собственная команда разработки могла еще не задумываться о каких-то функциях, которые уже включены в готовый продукт, т.к. аналогичные запросы ранее поступали от других клиентов. Соответственно, если заказчик выбирает готовое решение, оно может опережать запросы компании.
Второй момент — самостоятельная разработка может быть более затратной с точки зрения бюджета. Квалифицированные специалисты в области искусственного интеллекта стоят дорого. Плюс такому продукту необходим отдельный менеджер, который будет постоянно включен в процесс и контролировать реализацию, что дает дополнительную нагрузку на ФОТ. По сути компании необходимо создать мини-отдел разработки под конкретную задачу, и не факт, что он будет окупаться. Кроме того, само решение нельзя “разработать и забыть” — нужно будет постоянно поддерживать и улучшать его.
Готовое решение будет обновляться регулярно и любое обновление можно будет установить в рамках лицензии. Таким образом, покупая решение, компания покупает экспертизу разработчика, которая будет доступна в течение долгого времени.
Если сопоставить тот факт, что невозможно точно спрогнозировать время на собственную разработку и расходы на зарплаты специалистов, и сравнить с расходами на лицензию за готовый продукт, то во втором случае компания точно будет знать сколько денег она потратит и сможет более точно спланировать бюджет и отдачу от инвестиций.
И, наконец, главное — решение может просто не получиться, потому что не хватит квалификации у специалистов. Даже если взять open source решение и начать его дорабатывать под свои задачи, то оно может не сразу показать эффективность — давать недостаточный процент точности решения задач, а до желаемых 85-90% так и не добраться. Даже среди готовых решений есть только единичные продукты, которым удалось за годы работы выйти на такой уровень, что искусственный интеллект качественно распознает естественный язык и дает высокую точность.
Для проверки моделей нужна определенная квалификация сотрудников, они должны постоянно мониторить современные библиотеки и наукоемкие разработки и исследования. В условиях дефицита IT/AI-специалистов на рынке труда найти таких сотрудников и затем удержать — это непростая задача.
Пока что, выбор в пользу «самописного» цифрового помощника на технологиях искусственного интеллекта делают многие из-за низкого порога входа для создания прототипа. Но создание промышленного отказоустойчивого решения, которое пройдет все проверки информационной безопасности — это значительно более длинная история. Пока все процессы выстроятся крупный бизнес потеряет время, а рынок и технологии уйдут вперед, у среднего бизнеса на собственную разработку не хватит денег. Поэтому если соотнести временные и финансовые риски, то у готового решения здесь явные преимущества.
Безопасность данных и автономность в управлении
Чаще всего, мысли о необходимости разработки внутри компании возникают на фоне трех ключевых вопросов: безопасность данных компании и персональных данных пользователей, интеграции с существующими системами и сервисами, возможность самостоятельного управления и развития.
Если заказчик делает выбор в пользу готового решения, то важно проверить продукт на соответствие требованиям безопасности и конфиденциальности. У крупного бизнеса и государственных сервисов, вне зависимости от сферы деятельности, жесткие требования к обработке и хранению собственных данных и персональной информации о пользователях, ролевой модели и соотнесению предоставляемой информации с матрицей доступов компании. Чтобы избежать рисков утечки, выбирая решение для внедрения цифрового помощника на базе генеративного искусственного интеллекта, заказчику стоит обратить внимание на возможность установки продукта в контур безопасности компании (on-premise). 90-95% наших клиентов выбирают именно такой вариант размещения, так как предпочитают обеспечивать безопасность собственными силами. В то же время, можно использовать ресурсы облачных провайдеров с сертификатом соответствия ФЗ-152 «О персональных данных» и выполнением необходимых требований по защите передаваемых данных.
Интеграции с действующими системами внутри компании, например, CRM, Service Desk, биллинговая система, также возможны и при выборе готового цифрового помощника. Важно обратить внимание, чтобы вендор предлагал готовые интеграции или возможность их самостоятельного создания заказчиком, а не продавал дополнительные услуги за их настройку. Для себя мы с самого начала определили, что, разрабатывая продукт, мы хотим сделать его удобным и автономным, что и получилось на практике. Иногда о реализованных интеграциях и способах использования бот-помощника нам удается узнать у заказчиков только в личной беседе, т.к. их настройку делают сотрудники компании без специализированных знаний на основе готовых примеров и шаблонов.
Пример внедрения готового решения
Например, пилотный проект по внедрению цифрового помощника на базе генеративных нейросетей в компанию энергетического сектора. Целью проекта было упростить поиск ответов на вопросы сотрудников компании по корпоративным документам, особенно внутренним нормативным документам по вопросам IT и закупок.
Необходимо было создать систему умного поиска и быстрого формирования ответов с указанием ссылок на страницы и файлы в Confluence. В рамках технической реализации проекта мы использовали локальную версию Confluence, которая расположена в контуре безопасности клиента, обеспечивая надежную защиту корпоративной информации. Система была развернута в контуре заказчика, а обработка данных для цифрового помощника происходила на выделенном сервере с мощной видеокартой в облаке Yandex Cloud, что позволило обеспечить высокую производительность и надежность системы. Кроме того, для удобства сотрудников мы интегрировали виджет помощника в корпоративный мессенджер, делая доступ к корпоративной информации и поддержке более быстрым и эффективным непосредственно из привычного канала коммуникации.
Ключевое достижение по итогам внедрения — 90% обращений были успешно обработаны автоматизированной системой без необходимости вмешательства службы техподдержки. Более 60% участников проекта высоко оценили его, присудив оценки 4 или 5 из 5 возможных, что подчеркивает его эффективность и положительное восприятие среди сотрудников. Эти результаты демонстрируют значительное улучшение в оперативности и качестве решения вопросов сотрудников, подчеркивая эффективность внедрения инновационных технологий в корпоративную среду.
Как отметил клиент, он видит большой потенциал в масштабировании и развитии проекта для создания «единого окна сотрудника», в том числе в таких бизнес-направлениях как ИТ, HR, поддержка по юридическим и бухгалтерским вопросам, а также интеграция с клиентским сервисом, включая помощь операторам контактного центра.
Опубликовано 11.03.2024
