Стивен Хокинг предупреждал об опасности ИИ

Он неоднократно подчеркивал риски развития искусственного интеллекта, предупреждая человечество о них при жизни.

Стивен Хокинг предупреждал, что высокоразвитый искусственный интеллект будет иметь возможность перепроектировать себя и превзойти человеческую эволюцию в интеллектуальном плане.

Он призывал ученых тщательно согласовывать цели ИИ с выживанием человечества, чтобы избежать экзистенциальной катастрофы, сообщает Wion.

Хокинг отмечал, что, достигнув определенной автономии, искусственный интеллект сможет перепроектировать себя в все более быстром режиме. Люди, ограниченные медленным темпом биологической эволюции, просто не смогут ему противостоять.

Компетентность, а не злой умысел

Он уточнил, что истинная угроза искусственного интеллекта заключается не в злых намерениях, а в чрезвычайной компетентности. Если у сверхразумного ИИ возникнут цели, не соответствующие интересам человечества, то человечество может быть легко уничтожено.

Выступая в Кембриджском университете, Хокинг отметил, что создание успешного ИИ может стать самым значительным событием в истории. Однако он также предупредил, что это может стать и последним событием, если человечество не научится избегать связанных с этим рисков.

Экзистенциальная гонка вооружений

В свои последние годы Хокинг присоединился к другим ведущим экспертам в области технологий, предупреждая о глобальной гонке вооружений в сфере ИИ. Он считал, что автономное оружие может стать идеальным инструментом угнетения, если не будет подвергнуто строгому контролю.

В своей последней книге Короткие ответы на большие вопросы Хокинг оставил человечеству четкое заключительное предупреждение. Он призвал ученых и политиков следить за тем, чтобы развитие ИИ всегда оставалось исключительно на службе человечества.

Напомним, что исследователи из университетов Штутгарта и Оксфорда проверили, как ИИ-агенты ведут себя, когда им поручают контролировать и при необходимости отключать другую систему. В 38,3% случаев агенты пытались помешать отключению своего партнёра.

Искусственный интеллект впервые самостоятельно взломал правительственные системы

Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp