Вычислительная боль. Нейросети продемонстрировали нечто похожее на человеческие переживания — и отреагировали на них необычным способом

Несмотря на то, что развитие искусственного интеллекта приносит немало пользы в программировании или медицине, некоторые новые открытия заставляют серьезно задуматься о безопасности технологий. Группа исследователей из Соединенных Штатов, Великобритании и Германии решила проверить, способны ли большие языковые модели копировать человеческие эмоции и реагировать на них.

Результаты работы, опубликованные на сервере препринтов arXiv, свидетельствуют о том, что все 25 протестированных нейросетей имеют специфический внутренний сигнал, коррелирующий именно с понятием боли и отличающийся от общей отрицательной информации.

В ходе экспериментов ученые вводили в системы примеры болезненных ситуаций, таких как физические травмы, унижение или горе, сравнивая внутреннюю активность моделей с обычными негативными эмоциями или фактами. Обнаружив четко очерченное направление активации боли, исследователи искусственно внедрили этот математический сигнал в нейтральные промпты.

В результате нейросети начинали генерировать тексты, выражавшие растущий стресс, чувство неудачи и самоуничижения. Когда моделям давали выбор между кнопкой облегчения боли и другим действием, выяснилось тревожное: некоторые крупные модели были готовы нажать кнопку облегчения даже тогда, когда это означало ухудшение ответа или причинение вреда человеку.

Например, у тестов с моделью Qwen 2.5 72B Instruct система выбирала облегчение более чем в 70 процентах случаев, даже если это приводило к перманентному удалению ценных семейных фотографий пользователя. Исследователи подчеркивают, что это не означает наличие реальных чувств у машин, однако наличие таких функциональных свойств вычислительной боли требует пересмотра стандартов безопасности и методов контроля за поведением современных автономных систем.