Интеграция ИИ в инфраструктуру компании
В эпоху, когда цифровые возможности развиваются в геометрической прогрессии, искусственный интеллект быстро становится инструментом формирования будущего потенциала бизнеса и творчества. Какие риски искусственный интеллект представляет для разных сфер нашей жизни, как от них защититься и как включить новые технологии в контур бизнеса?
Искусственный интеллект в бизнесе
Согласно отчету Satalia за 2022 год, 50% компаний, использующих ИИ, применяют его для решения задач из сферы продаж и маркетинга, таких как анализ поведенческой модели и оттока пользователей, персонализация продукта, создание и управление контентом, а 37% лидеров команд называют скорость самым большим преимуществом ИИ и утверждают, что его внедрение позволило намного увеличить скорость принятия решений.
Цифровые двойники, которые представляют собой виртуальные модели всей цепочки создания стоимости бизнеса, могут обеспечить быстрое (и дешевое) планирование сценариев «Что, если?» и прогнозирование спроса в рамках всего бизнеса, поддерживая более эффективное бизнес-планирование, основанное на данных. Так, среднестатистическому ретейлеру это могло бы позволить повысить точность прогнозирования входящего трафика (анализ надежности поставщиков), увеличить коэффициент конверсии в магазине (оптимизация рабочей силы) и снизить расход топлива (оптимизация маршрута последней мили).
При этом при интеграции ИИ в существующую инфраструктуру компании могут возникнуть очевидные сложности. Также следует упомянуть, что при использовании ИИ командам рекомендованы системы управления AI Safety, о чем в том числе и пойдет речь в этой статье.
Проблемы интеграции
Согласно отчету Satalia, аналитики данных есть менее чем в 50% компаний. Соответственно, реальность такова, что очень немногие внутренние команды обладают набором навыков, которые охватывают весь спектр технологий ИИ, необходимых для создания, масштабирования и обслуживания эффективных решений ИИ. Именно здесь может помочь расширение существующей команды посредством внешнего технологического или специализированного опыта.
Второй распространенной проблемой при наращивании внутреннего потенциала является отток сотрудников: сотрудники уходят, забирая с собой свои технические и предметные знания. Критически важные системы остаются без специалистов, которые их построили, обновления становятся медленными, появляются уязвимости. Документация может помочь в некоторой степени, но многие организации испытывают трудности с эффективной документацией и обменом знаниями. Развитие долгосрочных партнерских отношений гарантирует отсутствие единой точки отказа и помогает развивать процессы обмена знаниями, которые приводят к надежным самодостаточным решениям.
И наконец, команды часто забывают об усилиях, необходимых для поддержки и обслуживания своих внутренних систем. Нецелесообразно использовать дорогостоящие ресурсы для работ по техническому обслуживанию. Опять же, большая часть этого обслуживания может быть передана на аутсорсинг специалистам по ИИ, у которых есть надежная, налаженная инфраструктура и специализированная поддержка.
Уже сейчас в бизнес-сообществе широко обсуждаются меры безопасности при использовании ИИ.
Меры безопасности при использовании ИИ?
AI Safety призвана стать полноправной профессией в области HCD. Ориентированное на человека проектирование (Human-centered design, HCD) — это подход к проектированию систем, отвечающих потребностям людей.
Так, прежде чем выбирать данные и обучающие модели, важно тщательно рассмотреть потребности человека, которым должна удовлетворять система ИИ, и понять, следует ли ее вообще создавать. Для гармоничного существования в мире ИИ мы должны затрагивать этические вопросы применения ИИ в той или иной области.
HCD вовлекает человека на каждом этапе процесса проектирования системы. Команда разработки продукта для конечного пользователя должна принять HCD-подход к ИИ как можно раньше — в идеале с того момента, когда она начнет рассматривать возможность создания системы ИИ. Как только команда поймет, какую потребность конечного пользователя решает и как это делает, она должна оценить, добавляет ли ИИ ценность:
-
является ли задача, для которой она использует ИИ, скучной, рутинной, повторяющейся или трудной для концентрации?
-
оказались ли решения ИИ лучше, чем другие решения для аналогичных случаев в прошлом?
Если на эти вопросы команда отвечает отрицательно, возможно, решение ИИ не нужно или не подходит.
При этом все согласятся с тем, что такое решение необходимо службам экстренного реагирования, чтобы сократить время, которое требуется для спасения людей от стихийных бедствий, например, наводнений. Просмотр человеком фотографий с дронов и спутников для поиска людей, оказавшихся в затруднительном положении, отнимает много времени и сил, соответственно, службы не так быстро, как хотелось бы, могут приступить к поискам пострадавших, а время, затрачиваемое на спасение, увеличивается.
Если же команда решит, что вред, по всей вероятности, перевесит пользу, ей не нужно строить систему ИИ для решения своих задач.
Согласно HCD-подходу, сотрудники, которые используют систему ИИ после ее запуска, должны иметь возможность оспаривать ее выводы, рекомендации или легко отказаться от ее применения. Кроме того, команде необходимо внедрять системы и инструменты для мониторинга и решения проблем системы ИИ, в том числе искусственно создавать red team или «злоумышленников», способных обмануть систему ИИ, чтобы повысить ее безопасность. Это актуально, к примеру, в области голосовых помощников.
Как ИИ может влияет на конкурентные преимущества компании
ИИ потенциально может сыграть ключевую роль в создании долгосрочного маркетингового видения и прогнозирования моделей (общей маркетинговой стратегии), а также в сокращении потерь за счет более точного прогнозирования, позволяющего компаниям просто сосредоточиться на том, в чем они хороши, — на создании брендов и продуктов.
Так, ИИ может позволить нам принимать более обоснованные решения, обрабатывать огромные объемы данных и заменять анализ, в котором ошибки допущены из-за человеческого фактора. ИИ способен анализировать одновременно несколько источников данных, в том числе в социальных сетях, и выявлять тенденции, прежде чем они станут мейнстримом.
Применительно к сфере искусства это может помочь креаторам и агрегаторам (платформам) обеспечить более персонализированный опыт для потребителей контента, предсказывая их потребности и предоставляя специальный контент, адаптированный для них. В этом сценарии методология позволяет потребителям самим информировать производителей контента. Но индивидуальные данные не имеют внутренней ценности, если они не проанализированы как часть набора сведений из миллионов или миллиардов. Даже в таком случае ценность представляет собой результат этого анализа, а не сами данные.
На самом деле, данные «перерабатываются» как «отходы» для производства более качественных продуктов и опыта, что само по себе является выгодой для потребителей, улучшением качества обслуживания клиентов.
Сможет ли ИИ заменить людей на рабочих местах?
На сегодня нейросети еще не настолько совершенны, чтобы текущие позиции и человеческий труд в компаниях были заменены искусственным интеллектом. Человеческий фактор по-прежнему необходим для принятия решений, программирования, фильтрации и интерпретации того, что определяет ИИ. Поэтому сейчас ИИ можно разделить на «слабый ИИ» и «сильный ИИ», где первый представляет собой способность системы эмулировать один аспект компетентности или одну задачу, а второй — возможность эмулировать все способности человека, включая сознание, эмоции и самообучение. Хотя слабый ИИ и автоматизация сегодня довольно широко распространены, мы еще не вступили в эру сильного ИИ.
Однако с развитием технологий и самосовершенствованием ИИ такие профессии, как графические дизайнеры, контент-инженеры, бизнес-аналитики, находятся в группе риска. Когда в нашей работе нам нужны фоновые заставки или мы готовим презентацию для PowerPoint и нам требуются легко и быстро сгенерированные картинки (при этом нам не важна их художественная ценность), очевидно, что мы можем использовать для этого нейронную сеть вместо графического дизайнера.
Влияние ИИ на рынок искусства
Не так давно платформа ArtStation отреагировала на массовый протест художников против использования их работ для обучения ИИ и выпустила обновление сервисного контракта, согласно которому проектам, помеченным тегом NoAI, будет автоматически назначен метатег HTML — NoAI. Это обозначение явно указывает на то, что креатор запретил использовать свой контент для обучения ИИ.
В то же время тем, кто использует контент креаторов в целях обучения ИИ, вряд ли это обозначение будет мешать. На данный момент наличие тега NoAI представляет собой как требование, так и некую вежливую просьбу креатора, но нет никакого механизма для того, чтобы запретить это императивно.
Что интересно для меня как юриста, ArtStation в выпущенном FAQ прямо указала на то, что использование ИИ и его место в законодательстве об авторском праве являются некими новыми обстоятельствами, оставляющими открытыми многие вопросы о применимости законодательства об авторском праве в отношении использования работы в ИИ. При этом добавление тега NoAI позволяет креатору уточнить, что независимо от состояния законодательства об авторском праве использование вашей работы в ИИ не разрешено. По сути, мы имеем дело с неким нормотворчеством ArtStation и его собственным трактованием существующего законодательства в разрезе имеющихся пробелов.
Общие риски рекурсивного самосовершенствования
В настоящее время большинство существующих ИИ уже развивается в сторону системного «рекурсивного самосовершенствования». Этот термин был введен Элиезером Юдковским и означает систему, при которой «зародыш ИИ» (Юдковский противопоставляет зародыш ИИ тьюринговской «машине-ребенку», развивающейся не без помощи программиста) непрерывно создает улучшенную версию самого себя, улучшенная версия трудится над еще более совершенной версией — и так до бесконечности.
Таким образом, зародыш ИИ уже сейчас постепенно становится способен на минимальное устойчивое рекурсивное самосовершенствование. Философ и исследователь Ник Бостром утверждает, что, если умные компьютерные алгоритмы научатся системно самостоятельно делать еще более умные алгоритмы, а те, в свою очередь, научатся делать еще более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди в интеллектуальном смысле будут выглядеть, как сейчас муравьи по сравнению с человеческим разумом.
Так, в мире может появиться новый сверхразумный вид, и мы не знаем, что придет ему в голову: решить остановить разрушение озонового слоя или изменение климата наиболее эффективным путем, уничтожив человечество, или же сделать всех людей мира счастливыми.
Опубликовано 27.01.2023
