IBM повышает прозрачность ИИ для бизнеса
Новые облачные сервисы по обнаружению и снижению уровня предвзятости обеспечат более высокую прозрачность средств ИИ при выработке решений
IBM объявила о создании технологии, которая призвана обеспечить новый уровень прозрачности средств искусственного интеллекта, позволяя корпоративным заказчикам в большей степени использовать их возможности.
Облачный сервис, расположенный на платформе IBM Cloud, автоматически обнаруживает предвзятость в работе средств ИИ от разных производителей и интерпретирует ход выработки ими решений. Подразделение IBM Services будет помогать корпоративным заказчикам в полной мере задействовать функционал нового инструментария.
В целях обеспечения глобального обмена опытом в решении вопроса тенденциозности ИИ, IBM Research опубликует в открытых сообществах разработчиков инструментарий и методические рекомендации для обнаружения и снижения степени предвзятости средств ИИ.
Опрос, проведенный IBM Institute for Business Value, показал, что 82% корпораций планируют внедрение средств ИИ, но при этом 60% опасаются дополнительной ответственности, а 63% считают, что собственными силами не смогут на должном уровне использовать новые технологии.
Новые возможности IBM Cloud по повышению уровня доверия и прозрачности ИИ работают с моделями, созданными такими фреймворками машинного обучения и сред для разработчиков, как Watson, Tensorflow, SparkML, AWS SageMaker и AzureML. То есть, пользователи большинства популярных фреймворков и сред смогут использовать новый инструментарий. Кроме того, предлагаемый сервис можно настроить под индивидуальные факторы принятия решений любого бизнес-процесса.
Полностью автоматизированный программный сервис разъясняет ход выработки решений и обнаруживает тенденциозность ИИ-моделей в ходе их выполнения, фиксируя моменты потенциальной предвзятости. Более того, сервис вырабатывает рекомендации по наполнению моделей дополнительной информацией в целях снижения уровня обнаруженной тенденциозности.
Источник: Пресс-служба IBM