Red Hat помогает продвигать искусственный интеллект с GPU-ускорением
Перемены подкрались незаметно. ИТ-лидеры крупных организаций, провайдеров связи, органов государственной власти скоро окажутся в непростой ситуации, когда одновременно потребуется поддерживать работу имеющихся инфраструктур и удовлетворять растущий спрос потребителей на передовые технологии. К их числу относятся такие технологии, как 5G, искусственный интеллект (AI) и машинное обучение (ML), Интернет вещей (IoT), позволяющие повысить качество, скорость и эффективность услуг, но при этом подразумевающие наличие продвинутых ИТ-решений. Например, одна только инфраструктура 5G требует развертывания беспрецедентного количества базовых станций на улицах и внутри зданий для обслуживания в том числе неисчислимой армии устройств IoT, концентрация которых, согласно предсказаниям аналитиков, составит 1 млн на квадратный километр (это площадь примерно четырех городских кварталов).
В качестве примера можно упомянуть будущее городов и современной городской мобильности. Интернет вещей и 5G являются ключевыми компонентами для создания умных городов, в котором данные с датчиков, камер и других подключенных к сети устройств должны обрабатываться в реальном времени для эффективного управления дорожным трафиком, предотвращения преступлений или эксплуатации зданий и активов. При устройстве умных городов госорганизации сталкиваются лишь с одним из аспектов глобального вызова, с которым им необходимо сегодня работать. Суть глобальной проблемы в том, что организациям необходимо каким-то образом реализовать растущую потребность в вычислительных мощностях за пределами своих дата-центров, то есть буквально на периферии сети. Добавьте сюда растущую популярность облачных приложений, которые строятся на основе микросервисов и работают на Kubernetes-платформах управления контейнерами, и вы (как бы пафосно это не звучало) получите бескрайнее море перемен, через которое предстоит пройти традиционным ИТ-системам.
В условиях беспрецедентного запроса на техноперемены со стороны конечных пользователей, путешествие по терра инкогнита новых технологий может стать серьезным вызовом для организаций, которые хотят подготовиться к будущему и одновременно сохранить верность открытым технологиям, которые они смогут поддерживать силами своих ИТ-специалистов.
Мы в Red Hat прекрасно осознаем необходимость поддержки IoT, ML и других перспективных инноваций в рамках наших открытых и построенных на базе отраслевых стандартов платформ, таких как Red Hat Enterprise Linux (RHEL), Red Hat Ceph Storage и Red Hat OpenShift. Эти решения дают возможность построить широкий спектр приложений умного города и являются одной из основ для построения различных систем, необходимых для анализа и решения текущих (и будущих) задач ИТ.
Сегодня традиционное компьютерное «железо» зачастую не успевает за темпами перемен и новыми типами нагрузок. Поэтому современные системы имеет смысл оснащать специализированными компонентами для тяжелых вычислительных задач при работе в таких областях, как анализ данных или искусственный интеллект. Наш партнер, компания NVIDIA, предлагает решать эту проблему с помощью соответствующих аппаратных и программных ускорителей рабочих нагрузок, использующих возможности графических процессоров (GPU).
Идея с использованием таких ускорителей может показаться сложной. Однако Red Hat и NVIDIA совместно разработали платформы, которые позволяют абстрагироваться от особенностей «железа» и значительно упростить развертывание ускорителей. Наши компании вместе работают над созданием стандартизированного и хорошо знакомого ИТ-специалистам программного стека, который с одинаковым успехом можно использовать как в составе бэкенда для поддержки критически важных задач, так и в устройствах, развернутых на периферии сети.
Конечно, Red Hat уже много лет помогает своим партнерам создавать решения на базе наших открытых программных платформ, но в нашем сотрудничестве с NVIDIA есть принципиально новые моменты.
Red Hat и NVIDIA сходятся во мнении, что так же, как и для традиционных задач ИТ, так и для новых типов нагрузок, рынку нужно предлагать стандартизированные и доступные инфраструктуры на основе надежных и масштабируемых программных стеков. Помимо производства ведущих графических процессоров, NVIDIA также является лидером в создании универсального программного стека для GPU-вычислений в различных сферах и отраслях. Архитектура параллельных вычислений NVIDIA CUDA, библиотеки CUDA-X и сопутствующие программные инструменты работают на самых разных платформах, от сверхминиатюрных компьютеров Jetson Nano до суперкомпьютеров DGX-2 AI. Эти аппаратные платформы и сопутствующее ПО CUDA уже нашли широкую поддержку в лице более чем 1,2 млн разработчиков, которым они помогают ускорить свои приложения в самых разных прикладных областях, от систем ИИ и высокопроизводительных вычислений до телекоммуникаций.
В настоящее время NVIDIA и Red Hat вместе с несколькими OEM-партнерами работают над тем, чтобы предложить конечным пользователям преднастроенные аппаратные и программные решения для ускоренного развертывания систем ИИ. Эти решения помогают разработчикам эффективнее проектировать, тестировать и проверять корректность своих приложений и моделей AI/ML, используя языки программирования и фреймворки по своему выбору. Решения также сокращают время промышленного развертывания и дают ИТ-специалистам возможность эффективно управлять и сопровождать ИИ-приложения с интенсивными вычислениями в рамках корпоративной ИТ-инфраструктуры.
Сегодня Red Hat и NVIDIA работают над интеграцией RHEL и OpenShift с решениями NVIDIA, включая линейку серверов DGX, которые ориентированы на поддержку ресурсоемких задач обучения в рамках самых сложных систем ИИ. Недавно Red Hat и NVIDIA анонсировали поддержку платформ NVIDIA EGX, которая предназначена для решения широкого ряда задач периферийных вычислений. Системы EGX обеспечивают работу перспективных сервисов с элементами ИИ, таких как дополненная и виртуальная реальность (AR/VR), IoT, а также телемедицина, и могут развертываться на периферии сетей 5G. Кроме того, за счет поддержки пакета разработки ПО NVIDIA Aerial, предназначенного для создания программно-определяемых сетей 5G и работающего на системах EGX, Red Hat и NVIDIA предоставили телекоммуникационным компаниям возможность создавать полностью виртуализированные радиосети 5G.
Red Hat видит свою задачу в том, чтобы упростить развертывание ИИ-инфраструктур искусственного интеллекта в самых разных областях за счет ускорения и стандартизации дата-аналитики, машинного обучения (ML) и глубокого обучения (DL) на протяжении полной цепочки соответствующих операций, начиная от корпоративного дата-центра и заканчивая периферией сети, а также в любой точке между ними.
Мы твердо уверены, что будущее инфраструктур машинного обучения и искусственного интеллекта принадлежит облачным технологиям с открытым кодом (облачная модель вычислений снижает “стоимость билета” в мир ML/AL, а сообщество Open Source является генератором технологических инноваций), и мы рады продолжить сотрудничество с NVIDIA, чтобы это будущее стало реальностью.
Владимир Карагиоз, руководитель группы
архитекторов по решениям, Red Hat,
Ян Фишер (Yan Fisher), специалист
по новым технологиям Red Hat
Опубликовано 04.12.2019