ИИ может угрожать человечеству: в Сенате призвали остановить разработку суперинтеллекта
Американский сенатор Берни Сандерс призвал временно приостановить разработку передовых систем искусственного интеллекта и запретить создание суперинтеллекта, способного превзойти человеческие возможности. По его мнению, решения о будущем этой технологии нельзя оставлять исключительно в руках технологических миллиардеров.
Об этом сообщает The Atlantic.
Сандерс считает, что стремительное развитие ИИ поднимает фундаментальный вопрос о будущем человечества: останутся ли люди доминирующим видом на планете или уступят место созданному ими цифровому интеллекту.
Сенатор обратил внимание на высказывания представителей технологической индустрии, рассуждающих о возможном сосуществовании людей со сверхразумными системами или об их объединении с машинами.
В частности, руководитель OpenAI Сэм Альтман еще в 2017 году предполагал, что человечество может стать первым видом, который будет самостоятельно создавать своих потомков. Среди возможных сценариев он рассматривал как постепенный переход к цифровому интеллекту, так и интеграцию людей с машинами.
Глава Anthropic Дарио Амодей допускал возможность того, что модели искусственного интеллекта могут обладать сознанием, хотя этот вопрос остается открытым.
Отдельно Сандерс упомянул Илона Маска, поддерживающего развитие сверхразума, и соучредителя Palantir Питера Тиля. По мнению сенатора, подобные взгляды свидетельствуют о том, что часть влиятельных предпринимателей рассматривает технологическую эволюцию как процесс, который в конечном счете может выйти из-под контроля человека.
Сандерс связывает эти дискуссии с трансгуманизмом — направлением, сторонники которого считают, что технологии могут коренным образом изменить человеческие возможности, в частности благодаря объединению биологии и машин.
В качестве примера такого сближения человека и технологий сенатор назвал компанию Илона Маска Neuralink, которая разрабатывает мозговые импланты для взаимодействия с компьютерами.
В то же время возможности современного ИИ стремительно расширяются: системы уже способны работать с языком, решать сложные математические задачи и выполнять всё больше интеллектуальных операций. Однако вопрос о появлении искусственного интеллекта, обладающего сознанием, и о возможности создания систем, превосходящих человека во всех сферах, остается предметом дискуссий.
Сенатор утверждает, что общество должно определять правила развития искусственного интеллекта, а не просто подстраиваться под решения технологических компаний.
В своей колонке он привел результаты опросов, согласно которым 91% американцев считают, что развитие ИИ требует механизмов контроля, 74% не доверяют руководителям компаний в этой сфере, а 73% опасаются, что эта технология может представлять угрозу для выживания человечества.
Сандерс также упомянул предостережение Папы Римского Льва XIV относительно технологического развития, которое может привести к обесцениванию человеческого достоинства и превращению человека в набор данных или инструмент в технологической системе.
Сандерс призывает приостановить разработку передовых систем ИИ и запретить создание искусственного суперинтеллекта до тех пор, пока не появятся механизмы, способные гарантировать безопасность таких технологий.
По его словам, вместе с конгрессменом Грегом Касаром он продвигает законодательную инициативу, направленную на ограничение подобных разработок.
Сенатор настаивает на том, что решения о будущем искусственного интеллекта должны приниматься при участии общества и демократических институтов. По его убеждению, развитие технологий должно оставаться под контролем людей, а не служить исключительно интересам небольшой группы богатейших предпринимателей.
Ранее президент США Дональд Трамп объявил о создании правительственной структуры «Силы суперинтеллекта», которая должна координировать политику американской администрации в сфере искусственного интеллекта.