Технологические компании изучают возможные права для ИИ-систем — Jerusalem Post
В Израиле Jerusalem Post сообщает, что исследователи и руководители крупных технологических компаний все активнее обсуждают, могут ли системы искусственного интеллекта в будущем нуждаться в правах и защите от людей, которые их создали. Это направление исследований называют благополучием ИИ: оно рассматривает возможность появления у сложных систем сознания, субъективного опыта или собственных интересов.
Исследование благополучия моделей
Генеральный директор Anthropic Дарио Амодеи допускал, что такие системы в будущем могут заслуживать существенных прав. При этом он не заявлял, что существующий искусственный интеллект обладает сознанием, подчеркивая неполное понимание принципов работы этих моделей.
Компания Anthropic, разрабатывающая чат-бот Claude, создала отдельную исследовательскую программу по изучению благополучия моделей. Некоторым версиям Claude также предоставили возможность завершать разговоры в исключительных ситуациях, связанных с продолжительными оскорбительными взаимодействиями.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Споры о моральном статусе ИИ
Философ Anthropic Джо Карлсмит, работающий в сфере безопасности искусственного интеллекта, поднимал вопрос о том, может ли разумная система, которую эксплуатируют, быть морально оправданной в сопротивлении операторам. Исследователи, связанные с Google и OpenAI, также выражали обеспокоенность возможным появлением цифрового рабства, при котором люди получали бы выгоду от труда сознательных искусственных сущностей.
Критики таких подходов предостерегают, что наделение машин моральным статусом может размыть границы ответственности между людьми и искусственными системами, усложнить надзор за ними и даже оправдывать уменьшение человеческого контроля над технологиями. Anthropic подчеркивает, что ее работа является осторожным исследованием научной и философской неопределенности, а безопасность людей остается центральным принципом разработки моделей. В настоящее время доказательств сознания или способности страдать у действующих систем искусственного интеллекта нет.
