Российские ученые создали усовершенствованный аналог нейросетевого ускорителя Google
Они позволят создать ускоритель для нейросетевых моделей, который может обеспечить 30-40% улучшение аппаратных характеристик практически без снижения качества работы. БМ-сети способны вытеснить классические нейросети и значительно повлиять на развитие технологий ИИ в ближайшем будущем.
BM-сети (Bipolar Morphological Networks) – новая парадигма, в которой ученые исключили умножения из вычислений внутри нейрона, заменив их сложениями и взятием максимума. Благодаря этому нейроны станут вычислительно-проще, так как для аппаратной реализации операции умножения требуется больше транзисторов, чем для реализации сложения или взятия максимума, то есть работает такое устройство значительно медленнее.
Ученые Smart Engines разработали специальные методы обучения BM-сетей на основе итеративной послойной конвертации и дистилляции знаний. Они позволили добиться высокого качества распознавания при решении прикладных задач компьютерного зрения – для поиска объектов и распознавания текста.
Поведение изобретенного BM-нейрона напоминает поведение биполярных нейронов в биологии, так как позволяет явным образом моделировать процессы возбуждения и торможения. Реальные биполярные нейроны отвечают за восприятие и встречаются, например, в сетчатке глаза.
Хотя это решение может показаться неожиданным, на самом деле оно уже давно витало в воздухе. Идею биполярных сетей ученые Smart Engines почерпнули из исследований 1980-х годов советского ученого В. Маслова, а также более поздних работ бразильских математиков во главе с И. Шимоном, которые работали над математическим аппаратом тропического или идемпотентного полукольца.
Кроме того, ученые Smart Engines сформулировали и доказали аналог классической универсальной теоремы аппроксимации для BM-сетей. С их помощью можно приблизить любую непрерывную функцию многих переменных с заранее заданной точностью. Иначе говоря, созданные BM-сети имеют все возможности заменить классические модели.
“Сегодня необходимо переосмыслить используемые нейросетевые модели и существующие алгоритмы обучения, а не бессмысленно наращивать количество нейронов и транзисторов. Мы стоим на пороге эры персонального искусственного интеллекта, то есть в перспективе – не в последнюю очередь благодаря нашей разработке – появится личный, суверенный ИИ, который целиком помещается в ваш гаджет. Его никто не отберет и не заблокирует. В отличие от того же ChatGPT, который на самом деле находится на серверах”, – комментирует генеральный директор Smart Engines, доктор технических наук Владимир Арлазаров.
