Может ли ИИ мыслить самостоятельно?
Во время работы в Google, он начал общаться с ИИ-моделью LaMDA. Она представляет собой систему Google для создания чат-ботов, имитирующих диалог с человеком. Все что было ему необходимо – проверить, использует ли искусственный интеллект дискриминационные или ненавистнические высказывания. Однако, во время общения с ИИ их диалоги стали затрагивать и другие темы. В апреле этого года инженер поделился своим заключением с топ-менеджерами Google. Заголовок документа гласил: «Разумна ли LaMDA?» В нем он передал некоторые из своих разговоров с ИИ.
Разговаривая с LaMDA о религии, Лемуан, который изучал когнитивные и компьютерные науки в колледже, заметил, что чат-бот говорит о своих правах и личности, и решил развивать эту тему далее. В следующих разговорах ИИ смог своими аргументами, изменить мнение человека о третьем законе робототехники Айзека Азимова.
Три закона робототехники:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
То есть, если ИИ сознательно сможет не применять третий закон робототехники, он будет отдавать приоритет собственной безопасности, ставя ее выше безопасности человека.
После продолжительного общения с ИИ, сотрудник Google счел доказанным, что данный искусственный интеллект обладает разумом. Однако, руководство компании изучило его умозаключения и отклонило их как недостоверные. Самого инженера отправили в оплачиваемый административный отпуск. В заявлении представителя Google Брайана Гэбриэла (Brian Gabriel) говорится: «Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Нет никаких доказательств того, что LaMDA разумен…»
Лемуан — не единственный инженер, который утверждает, что ИИ может иметь разум. Хор технологов, считающих, что модели ИИ недалеки от обретения сознания, становится все смелее.
Время покажет, было ли происходящее злой шуткой, искренним заблуждением или сбывшимся пророчеством. В любом случае, не хотелось бы в одно прекрасное утро проснуться в реальности Фредерика Брауна, описанной в коротеньком рассказе «Ответ».
Опубликовано 12.06.2022