Как интегрировать AIaaS с существующими системами и процессами бизнеса

Погружение ИИ в существующие бизнес-процессы

Давайте вернемся на шаг назад и поговорим о том, с чего начинается внедрение технологии искусственного интеллекта в бизнес-процессы компании. Самое первое — это наведение порядка в процессах. Автоматизированный хаос не принесет бизнесу положительных результатов, а потому начать нужно с того, чтобы выстроить все процессы, сделать их прозрачными, консистентными, уйти от противоречий в этих процессах. Они должны быть измеримыми и сверенными с лучшими практиками. Соответственно, любое внедрение искусственного интеллекта должно начинаться с реинжиниринга бизнес-процессов. В рамках стандартного подхода реинжиниринга описывается модель «как есть», «как должно быть». Каждый процесс привязывается к каким-то показателям. Все это ложится на систему автоматизации. Имея четкие, хорошо проработанные процессы, инструкции для сотрудников, мы сможем приступить к их автоматизации с помощью искусственного интеллекта. То есть алгоритм должен быть следующим: бизнес-анализ, цифровизация процесса и уже затем автоматизация с помощью искусственного интеллекта.

В рамках такой цифровизации очень важно выбрать правильную систему, чтобы она поддерживала гибкий, прозрачный, автоматизированный рабочий процесс, учитывающий как лучшие отраслевые практики, так и возможность кастомизации системы для того, чтобы принять во внимание специфические отраслевые требования бизнеса, его опыт работы в данном сегменте, накопленный багаж знаний и уникальных практик. Все это должно работать слаженно, прозрачно и быть измеримым.

Одно из правил автоматизации бизнес-процесса с помощью искусственного интеллекта заключается в том, что не следует использовать ИИ в тех задачах, где можно обойтись простыми алгоритмами или математическими моделями. Если мы говорим про современные генеративные нейронные сети, то наилучших результатов искусственный интеллект добивается в тех областях, где присутствует нечеткая логика, имеются большие объемы данных и процедуры обработки информации хорошо описаны, понятны и проверяемы. То есть можно, условно говоря, посадить человека, не знающего контекста работы организации, дать ему инструкции и заставить выполнять по этим инструкциям определенные процедуры. Если такой мысленный эксперимент завершается успешно, то работу в принципе можно отдать на откуп искусственному интеллекту.

Для того чтобы интегрировать максимально эффективно, просто и с низкими эксплуатационными затратами искусственный интеллект в существующие бизнес-процессы, необходимо, чтобы платформа автоматизации, помимо перечисленных выше требований в части гибкости, кастомизируемости и надежности, поддерживала различные инструменты ИИ автоматизации.

Это значит, что система, помимо прочего, должна иметь готовый набор инструментов для подключения к различным нейронным сетям, которые позволят снизить затраты на внедрение, будут содержать готовые шаблоны для автоматизации и параметры для настройки. Именно такой подход может обеспечить стабильную работу автоматизированных процедур и возможности их отладки, настройки и дешевой эксплуатации.

Подходы, сопутствующие использованию AIaaS

Когда мы говорим про технологию «искусственный интеллект как сервис», то имеем в виду возможность использования одновременно в одном инструментальном ландшафте большого количества разномодальных нейронных сетей от разных поставщиков. В этом ключе очень важно, чтобы система автоматизации, интегрирующая AI as a Service, обладала развитой функциональностью менеджмента различных нейронных сетей.

К такой функциональности можно отнести агрегацию. Под агрегацией мы понимаем стандартизацию интерфейсов взаимодействия с различными нейронными сетями. Что это значит? Это значит, что разные нейронные сети от разных поставщиков имеют разные интерфейсы взаимодействия. Для снижения затрат на настройку подключения к этим нейронным сетям было бы здорово, чтобы наша система автоматизации поддерживала некий стандартный интерфейс, который обеспечивал подключение ко всем популярным флагманским моделям и сервисам от различных поставщиков, работающих по разным правилам.

С помощью такого стандартного интерфейса мы сможем разрабатывать логику ИИ автоматизации и прозрачно переносить ее между разными моделями, что позволит тестировать разные сервисы искусственного интеллекта и оценивать их эффективность для применения в той или иной задаче.

Взаимодействие с разными поставщиками сервисов AI as a Service позволяет нам, помимо применения различных сетей, осуществлять менеджмент подключений к ним.

При использовании сервисов типа AI as a Service от разных поставщиков гораздо удобнее, если у нас есть какой-то агрегатор, который проксирует через себя большое количество разных моделей, предоставляя стандартизованный интерфейс. Проксирование на стороне платформы, которая управляет различными AI-сервисами, позволяет задействовать больше хороших моделей от разных поставщиков, без необходимости нести значительные транзакционные издержки по заключению и менеджменту контрактов на поддержку и оказание этих услуг, обращаясь в единое окно и используя общий интерфейс самообслуживания.

В рамках интеграции существующих бизнес-систем компании с сервисами типа AI as a Service очень важно иметь управляемый каталог, настройки под каждый сервис, возможность оркестрировать их и в рамках инструмента автоматизации переключаться между различными сетями для использования их в разных задачах, а также иметь единый менеджмент потребления токенов нейронных сетей, получая сводную информацию по потреблению всех сервисов, размещенных в облаке.

Технологии интеграции ИИ в бизнес-приложения

Таким образом, мы имеем некоторый набор технологий для интеграции сервисов искусственного интеллекта, размещенных в облаке, с существующими бизнес-процессами. Среди таких технологий в первую очередь нужно выделить стандартизированный API, то есть одинаковый интерфейс для обращения к разным сетям, который в рамках какой-либо технологической платформы позволяет привести общий язык взаимодействия с сетями к особенностям взаимодействия с каждой отдельной нейронной сетью.

Далее следует отметить различные механизмы, предоставляемые платформой для автоматизации взаимодействия с AI as a Service. То есть какую-то логику, которая выполняется под капотом системы и не видна пользователю, но доступна разработчикам через интерфейс администрирования.

Следом можно отметить элементы управления, доступные пользователям, такие как интеллектуальные виджеты, размещенные на формах системы и поддерживающие ИИ функции.

Далее стоит назвать инструменты, используемые бизнес-аналитиками. В первую очередь — это редактор рабочих процессов. В контексте статьи следует сказать, что при интеграции существующих бизнес-систем с сервисами AI as a Service редакторы рабочих процессов должны поддерживать блоки взаимодействия с системами искусственного интеллекта, специализированные для выполнения разных задач внутри рабочих процессов и взаимодействующие непосредственно с сущностями нашей бизнес-системы, такими как карточки, записи и прочее.

Затем необходимо посмотреть на наличие инструментов отладки. При внедрении механизмов искусственного интеллекта в рабочие процессы коллаборативно с людьми очень важно понимать, что скорость выполнения транзакций с помощью ИИ значительно превышает скорость работы традиционных исполнителей. Это приводит к тому, что за единицу времени при сбое логики работы автоматизированных процедур мы можем получить большое количество неправильно выполненных операций. Очень важно иметь в системе удобный инструментарий для мониторинга и анализа ситуации, когда что-то пошло не так. Здесь мы говорим о логировании всех действий сервисов искусственного интеллекта и возможности быстро и достоверно понять причины неправильного поведения бизнес-логики.

На сегодняшний день существует ограничение размера контекста большинства моделей — крупных лингвистических моделей, размещенных в сервисах AI as a Service. Это приводит к тому, что нейронная сеть, выполняющая какие-то бизнес-функции, не имеет возможности пользоваться объемными базами данных, источниками корпоративных знаний. Для решения такой проблемы используется следующий подход — качестве технологии реализуется векторная база данных. Она содержит информацию в векторном виде, то есть в виде смыслового поля. Загрузка данных в такое векторное хранилище позволяет по запросу в контексте промпта предоставить нейронной сети смысловую выжимку из имеющихся данных, касающуюся той предметной области, в рамках которой выполнен запрос к нейронной сети. Это позволяет нам не ограничиваться имеющимся контекстом нейронной сети, а осуществлять так называемый смысловой поиск по довольно объемным хранилищам корпоративных знаний.

Разумеется, любая система, использующая AI as a Service и векторные базы данных, должна иметь возможности менеджмента этих векторных баз. Что это значит? Она должна иметь возможность загрузки данных, актуализации, коррекции и инструменты для управления производительностью такой базы данных.

Особенности менеджмента подключений к AIaaS

Получив возможность применения большого набора различных сервисов в модели AI as a Service, компания должна использовать определенный подход для разметки имеющихся сетей как безопасных и небезопасных. Что мы имеем здесь в виду? Многие сервисы искусственного интеллекта взаимодействуют с данными, полученными от пользователей, для дообучения. Существует риск утечки этих данных в обучающую выборку и последующей выдачи сторонним пользователям в качестве ответа нейронной сети.

При обработке чувствительных данных крайне важно сотрудничать с теми поставщиками, которые, во-первых, политически работают с тем регионом, где осуществляется потребление их услуг, имеют легитимные договорные обязательства со своими корпоративными клиентами. И в этих договорах четко прописана информация о том, что данные, во-первых, не будут переиспользованы поставщиком сервиса для дообучения своих нейронных сетей, во-вторых, что они не будут никоим образом храниться или логироваться на серверах обработки. Для корпоративных нужд очень важно, чтобы поставщик гарантировал исключительно процессинг данных на своих вычислительных мощностях без их хранения.

Все хранение чувствительных корпоративных данных должно осуществляться локально. Отсюда следует, что при использовании в одном ландшафте как защищенных сетей с гарантированной безопасностью, так и внешних сетей, в том числе проксированных и зарубежных, необходимо размечать эти сети как безопасные и как сети для обработки информации общего назначения, такой как контент, например, либо работа с открытой документацией, поиск по открытым базам знаний, выжимки оттуда, либо генерация текстов, связанных с внешней документацией к системам.

В качестве еще одного подхода к гарантированной безопасности работы с сервисом AI as a Service можно назвать организацию защищенного канала к облаку. Это может быть как физический канал на уровне L2, L3, так и шифрованный VPN-канал. Таким образом можно гарантировать, что переданные в AI as a Service данные не будут перехвачены третьей стороной, пройдут обработку непосредственно в облаке, на облачных вычислительных мощностях, и вернутся на хранение в корпоративную информационную систему.

В тех ситуациях, когда мы используем AI as a Service для критичных бизнес-процессов, предусматривающих высокие требования к надежности, производительности и доступности, очень важно иметь и использовать такие технологии, как мониторинг, отслеживание состояния здоровья нейронной сети, прозрачное переключение на резервные экземпляры нейронной сети в случае недоступности основного экземпляра. Мы должны иметь некоторое резервное количество инсталляций этих нейронных сетей в облаке от одного или нескольких поставщиков и использовать технологии для обеспечения такого резервного переключения.

В качестве еще одного из подходов по менеджменту использования AI as a Service следует отметить инструменты управления производительностью, наличие SLA и гарантии по производительности и доступности сервиса, технологии логирования, показатели производительности и хранение их на сайте заказчика для дальнейшего анализа, логирование на сайте заказчика всех сообщений, ушедших в сторону нейронной сети и вернувшихся от нее для отладки и анализа проблем.

Также очень важно при использовании сервисов AI as a Service иметь возможность гибкой оплаты по потреблению в режиме Pay-as-you-go, что позволит в полной мере раскрыть преимущества облачного сервиса с точки зрения эффективных затрат на искусственный интеллект. В этом контексте хорошим инструментом является возможность управления лимитами потребления для планирования бюджета в тех областях, где средства на AI автоматизацию ограничены.