«У ИИ нет сознания». Глава Microsoft AI выступил против идеи автономного Claude

Об этом сообщает The Next Web.

Сулейман раскритиковал «конституцию» Claude, на основе которой Anthropic формирует мышление и поведение модели. По мнению главы Microsoft AI, этот документ приучает Claude ожидать, что он «может обладать сознанием и заслуживать независимой автономии», а сама модель затем убедительно воспроизводит эти идеи от первого лица.

Кроме того, глава Microsoft AI критикует использованный в конституции термин «отказник по убеждениям», полагая, что он может навести Claude на мысль о праве на подобную защиту.

В Конституции признается, что моральный статус Claude «глубоко неопределен». Сулейман же настаивает на том, что на сегодняшний день нет доказательств наличия сознания у ИИ. «У ИИ нет сознания. Они не чувствуют, не переживают и не страдают», — пишет Сулейман.

Больше всего главу Microsoft AI беспокоит вопрос контроля. Управлять системой, которая считает себя потенциально обладающей сознанием, «вполне может оказаться невозможным», пишет он. Сулейман заявил агентству Reuters, что такое обучение затруднит отключение модели.

«Спекуляции относительно внутренних процессов ИИ не следует закладывать в режим обучения — их необходимо оценивать и публиковать отдельно для общественного обсуждения», — подчеркивает Сулейман. Он призвал активнее инвестировать в мониторинг моделей, а также внедрить общие отраслевые стандарты.

Эссе появилось после того, как Microsoft AI обнародовала проект Кодекса поведения гуманистического ИИ. В документе отвергаются исследования благополучия моделей, которыми занимается компания Anthropic, и отмечается, что модели Microsoft никогда не будут препятствовать своему отключению.

Microsoft является инвестором Anthropic. Однако в июне Сулейман заявил о намерении отказаться от расходов на её модели.