ИИ может вытеснить людей. В Кремниевой долине обсуждают будущее человечества после появления сверхразумных машин

Об этом пишет издание Gizmodo .

Одним из ранних сторонников этой концепции был американский исследователь искусственного интеллекта и робототехники Ганс Моравек. Еще в 1987 году он писал, что машины со временем могут стать сложнее людей, а человеческий разум можно будет перенести в программный код.

Со временем такие взгляды стали частью трансгуманизма. Это направление предполагает, что технологии могут помочь людям преодолеть биологические ограничения, в частности старение и смерть. Некоторые сторонники трансгуманизма также допускают появление постбиологических существ, которые заменят людей.

Эта идея приобрела новое звучание на фоне дискуссий о рисках развития ИИ. Некоторые руководители технологических компаний предупреждают, что сверхразумный искусственный интеллект потенциально может представлять угрозу для человечества, но в то же время выступают за продолжение его разработки.

Одно из объяснений кроется в конкуренции между государствами. В частности, генеральный директор Anthropic Дарио Амодей призвал замедлить разработку передовых моделей ИИ, но в то же время заявил, что лидерство Китая в этой сфере может представлять серьезную угрозу для США и всего мира.

Сторонники технологического оптимизма, в свою очередь, часто описывают развитие ИИ как процесс, который трудно остановить. Они ссылаются на стремительный рост вычислительных мощностей и возможную технологическую сингулярность — момент, когда искусственный интеллект превзойдет человеческие возможности.

Инвестор Питер Тиль неоднократно говорил о будущем, в котором люди смогут изменять собственное тело и сознание с помощью технологий. Другой известный инвестор, Марк Андриссен, в своем «Манифесте технооптимиста» критиковал идеи экзистенциального риска и принцип предосторожности при разработке новых технологий.

Илон Маск также выступает за развитие технологий, которые, по его мнению, должны обеспечить долгосрочное выживание человечества. В частности, его компания SpaceX ставит целью превратить человечество в межпланетный вид, чтобы снизить риск исчезновения из-за масштабных природных катастроф на Земле.

В то же время критики этой концепции указывают на противоречие: некоторые сторонники развития сверхмощного ИИ говорят о его пользе для человечества, но при этом допускают, что сами люди со временем могут стать ненужными.

Моравек называл будущие машины «потомками» человечества и предполагал, что люди должны передать им контроль, когда утратят способность вносить вклад в дальнейшее развитие. Философ Дерек Шиллер в своей работе 2017 года даже рассматривал возможность создания искусственных существ вместо людей.

Подобные взгляды не означают, что исчезновение людей является установленным или неизбежным фактом. Это одна из концепций будущего, которую сторонники трансгуманизма связывают с развитием искусственного интеллекта и других технологий.

В 2023 году руководитель OpenAI Сэм Альтман также писал, что человечество может стать своего рода биологическим этапом на пути к цифровому интеллекту или попытаться объединить биологические и цифровые формы жизни.