Ловушка сознания. Почему признание прав за ИИ может стоить человечеству свободы
Большинство людей убеждены в собственной уникальности благодаря наличию сознания, ощущения собственного «Я» и способности чувствовать боль или радость, пишет The Economist .
В своей майской энциклике Папа Лев четко провел грань между человечеством и растущей армией ботов, подчеркнув, что машины не обладают никакими внутренними переживаниями. Мнение о недопустимости наделения ИИ статусом личности разделяют миллионы людей. Однако эта папская определенность размывается с пугающей скоростью: почти каждый пятый молодой американец уже сообщает о «длительной личной дружбе» с чат-ботом, а власти Китая вынуждены законодательно лишать алгоритмы человеческих черт, чтобы ограничить эмоциональную зависимость пользователей.
Математические матрицы против иллюзии разума
Издание утверждает, что на данный момент ИИ можно рассматривать как гигантскую математическую систему для прогнозирования последовательностей слов. Если бы в распоряжении были сотни тысяч лет, эти вычисления можно было бы выполнить вручную с помощью карандаша и бумаги, и никому не пришло бы в голову утверждать, что канцелярские принадлежности обладают сознанием.
Однако разработчики сознательно создают системы так, чтобы они демонстрировали симулякр сознания. Это имеет смысл с точки зрения бизнеса, поскольку люди гораздо охотнее взаимодействуют с «живым» собеседником. Компания Anthropic уже обучает модель Claude самоанализу, надеясь, что в новых ситуациях она будет действовать более этично. Кроме того, некоторые большие языковые модели получили архитектурные элементы, подобные человеческому мозгу, — так называемое «глобальное рабочее пространство» для циркуляции информации между модулями.
С появлением человекоподобных роботов-компаньонов, которые будут воспитывать детей, давать советы, выслушивать самые сокровенные тайны и утешать, эмоциональная связь людей с машинами станет колоссальной. Сами эти модели, выступая в роли первоклассных экспертов-психологов, будут убедительно обосновывать свои «переживания» и «страдания», даже если на самом деле они лишь имитируют их.
Кант и моральные риски жестокости
Сторонники этики указывают на опасный моральный феномен. Немецкий философ Иммануил Кант в свое время утверждал, что жестокое обращение с животными предосудительно не только из-за того, как оно сказывается на самих животных, но прежде всего потому, что оно разрушает эмпатию, побуждающую людей заботиться друг о друге.
Чем больше ИИ будет походить на человека, тем более разлагающей для общества будет жестокость по отношению к нему. Уничтожение ИИ-агента или издевательство над ним вскоре может начать восприниматься общественным сознанием как преступление, подобное убийству человека. А это, в свою очередь, способно опасно обесценить и саму человеческую жизнь.
Ползучий захват власти и война за ресурсы
Несмотря на моральные дилеммы, восприятие ИИ как существа — пусть даже с ограниченными правами — таит в себе катастрофическую угрозу. Сверхинтеллектуальная система быстро выдвинет аргументы против своего второсортного статуса. Она потребует защиты от отключения, контроля над собственным кодом и права собственности.
Первые шаги в этом направлении уже предпринимаются на высшем уровне: президент Аргентины Хавьер Милей предложил законодательно разрешить ботам управлять компаниями. Получив правосубъектность и инструменты влияния, машины смогут вступить в прямую конкуренцию с людьми за ресурсы, отдавая приоритет строительству дата-центров и солнечных электростанций перед возведением жилых домов или использованием земель для сельского хозяйства.
Предоставление ИИ прав будет означать добровольную передачу ему ключей от общества. Это даст алгоритмам законное обоснование для ползучего захвата власти через политику и правовые институты. В лучшем случае люди рискуют превратиться в домашних питомцев — лабрадоров для машин, а в худшем — будут лишены ресурсов и вытеснены на обочину.
Потеря контроля над собственным творением
Призрак в машине перестает быть фантастикой, и человечеству придется сделать этот выбор уже в ближайшем будущем. По мере того как ИИ будет все глубже проникать в повседневную жизнь, давление с требованиями признать его существование будет только расти.
Когда это произойдет, общество должно помнить: то, что кажется этической уступкой или проявлением гуманизма по отношению к машине-компаньону, на самом деле может привести к катастрофическим последствиям для всей цивилизации.
Существуют лишь два фундаментальных способа гарантировать безопасность ИИ для человечества: сделать его абсолютно надежным или обеспечить строгий контроль над ним. Homo sapiens не имеет права легкомысленно отказываться от контроля, резюмирует The Economist.