США и Китай пытаются прекратить «гонку AI»
Изображение: Shutterstock / Ole.CNX
Среди противников бесконтрольного развития нейросетей: Йошуа Бенджио (Yoshua Bengio), Эндрю Яо (Andrew Yao) и Джеффри Хинтон (Geoffrey Hinton), все они являются лауреатами премии Тьюринга, которая является свидетельством наивысших достижений в информатике (аналог Нобелевской премии для других научных дисциплин).
Создатели технологий искусственного интеллекта полагают, что выпуск ChatGPT и других подобных сервисов, которые могут создавать текст и изображения по команде, показал огромный потенциал развития ИИ. Гонка за коммерциализацию технологии быстро вывела ее с территории фундаментальных исследований на смартфоны, автомобили и учебные классы.
В своем заявлении в понедельник группа выражает обеспокоенность тем, что нейронные сети могут нанести серьезный вред всему человечеству. Они считают, что технология ИИ может в течение нескольких лет превзойти возможности ее создателей и что потеря контроля со стороны человека или злонамеренное использование этих систем ИИ может привести к катастрофическим последствиям для всего человечества.
Дело в том, что человечество научилось обучать генеративные системы искусственного интеллекта, но если в один прекрасный день ИИ откроет в себе возможность к самообучению, то, как выясняется, никто не сможет ее контролировать. Ни один ученый в мире, не говоря уже о правительствах стран, не имеет плана по контролю за нейросетью.
Ученые предлагают странам создать органы надзора за ИИ, для удержания технологий ИИ в пределах своих границ. Они надеются, что все страны будут работать над безопасностью вместе, и смогут оказать сопротивление, если система ИИ научится копировать себя или намеренно обманывать своих создателей.
Заявление подписали ученые из США, Китая, Великобритании, Сингапура, Канады и других стран. Среди подписантов находится имя Йошуа Бенджио, чьи работы так часто цитируются, что его называют одним из крестных отцов этой области. Заявление поддержано Эндрю Яо, чей курс в Университете Цинхуа в Пекине подготовил основателей многих ведущих технологических компаний Китая, а также Джеффри Хинтон, ученый-новатор, который проработал в Google на протяжении десяти лет. Все трое являются лауреатами премии Тьюринга, эквивалента Нобелевской премии по информатике.
Правительственные чиновники как в Китае, так и в Соединенных Штатах сделали искусственный интеллект приоритетом в прошлом году. В июле съезд коммунистической партии Китая, который проводится каждые пять лет, призвал к созданию системы регулирования безопасности ИИ. Вероятно, это произошло потому, что за последние месяцы китайские компании добились большого прогресса, и представили технологии которые могут конкурировать с ведущими мировыми разработками.
В общем счете, представители 28 стран подписали декларацию о сотрудничестве в оценке рисков искусственного интеллекта. Однако, на сегодняшний день удалось добиться лишь общих заявлений.
Работу тормозит явное недоверие между Соединенными Штатами и Китаем. Эксперты IT-World считают, что ни одна сторона не может быть уверена в намерениях партнеров. И каждая из стран допускает мысль о том, что подобные декларации являются лишь прикрытием попытки приостановить исследования потенциального противника в этой сфере.
Опубликовано 17.09.2024