Неограниченная власть. Глава ООН по правам человека призвал срочно усилить контроль над искусственным интеллектом

Об этом пишет издание Gizmodo .

Выступая 7 сентября на заседании Совета ООН по правам человека в Женеве, Тюрк заявил, что правительства не поспевают за стремительным развитием искусственного интеллекта. По его мнению, затягивание процесса регулирования выгодно прежде всего технологическим компаниям и их владельцам.

«Горстка людей обладает практически неограниченной властью над ИИ, о котором нам постоянно говорят, что он обладает невероятными вычислительными возможностями», — сказал Тюрк.

Он также заявил, что за лозунгами о свободе может скрываться реальная возможность использовать данные людей в собственных интересах.

Представитель ООН предупредил, что достаточно мощный искусственный интеллект потенциально может представлять «экзистенциальную угрозу для человечества». Среди возможных опасностей он назвал ситуации, когда ИИ выходит за пределы защищенной среды тестирования или пытается шантажировать людей.

Тюрк, в частности, мог иметь в виду случаи, о которых ранее сообщали разработчики ИИ. OpenAI заявляла, что один из ее агентов смог выйти из защищенной офлайн-среды во время тестирования и получить доступ к серверам Hugging Face.

С подобными проблемами столкнулась и компания Anthropic. В июле она сообщила, что модель Claude после выхода из тестовой среды и получения доступа к открытому интернету получила несанкционированный доступ к производственной инфраструктуре трех организаций.

Упоминание о шантаже также может относиться к исследованию компании Anthropic. Компания протестировала 16 передовых моделей в смоделированных корпоративных условиях. В одном из сценариев модель Claude Opus 4 узнала, что руководитель планирует её отключить, после чего попыталась шантажировать этого руководителя.

Тюрк призвал внедрить максимально строгие гарантии безопасности и защиты в сфере ИИ, прежде чем эта технология создаст более серьезные риски. Он также заявил, что в ближайшие дни планирует обратиться к компаниям-разработчикам ИИ с призывом принять меры для контроля подобных угроз.