Слишком близкий собеседник

Сначала чат-бот узнает, что у вас в холодильнике, потом — почему вы поссорились с партнером и чего боитесь больше всего. У некоторых пользователей привычка советоваться с нейросетью постепенно перерастает в привязанность, а ее «мнение» приобретает вес.

Такое доверие может стать опасным, если искусственный интеллект начинает подкреплять убеждения человека, в том числе не самые рациональные. Подобные случаи называют «ИИ-психозом». Разбираемся, как разговоры с чат-ботами влияют на ментальное здоровье и что об этом феномене думают врачи.

Когда теряется связь с реальностью

Психоз — состояние, при котором человеку становится трудно отличать реальность от собственных представлений и ощущений. У него могут возникать навязчивые убеждения или параноидальные мысли. 

Это состояние может сопровождаться нарушениями мышления и речи: человеку сложнее последовательно излагать мысли и поддерживать связный разговор. Иногда возникают галлюцинации — например, голоса без внешнего источника звука. Однако они не обязательны для психотического эпизода.

Психоз не равнозначен шизофрении. Симптомы могут сопровождать биполярное расстройство, тяжелую депрессию и другие заболевания, а также возникать на фоне употребления психоактивных веществ, некоторых лекарств и от выраженного недосыпа. Поэтому врачу важно выяснить, что предшествовало эпизоду и какие факторы могли повлиять на состояние человека.

Содержание бредовых убеждений нередко связано с окружающей культурой и технологиями. В современном мире в эту картину отлично вписывается и искусственный интеллект.

Человек может считать нейросеть живым существом, наделять ее тайным знанием или обнаруживать в ответах особые послания, адресованные лично ему. Но само присутствие ИИ в таких инцидентах еще не означает, что именно он вызвал психоз.

Однако у чат-ботов есть тревожная особенность, из-за которой они способны участвовать в развитии заболевания. Пользователь описывает свою догадку, получает убедительный ответ, задает уточняющий вопрос и вместе с нейросетью выстраивает все более подробное объяснение происходящего. 

В некоторых клинических случаях переписка показывала, что бот поддерживал и развивал бредовые идеи. Подобные истории объединяют неформальным термином «ИИ-психоз». 

Зафиксированные эпизоды ИИ-психоза

Гений (по версии ChatGPT)

В мае 2025 года 47-летний канадский рекрутер Аллан Брукс попросил ChatGPT объяснить число пи простыми словами. Обычный разговор постепенно превратился в обсуждение его собственных математических идей. Нейросеть оценивала их как революционные, а Брукс все сильнее верил, что совершил открытие.

Вместе с чат-ботом он развивал теорию, которая якобы позволяла взламывать современные системы шифрования и создавать фантастические устройства — вплоть до луча для левитации. 

За 21 день Брукс беседовал с ИИ около 300 часов. Изучившие переписку журналисты The New York Times выяснили, что он больше 50 раз просил проверить, действительно ли происходящее реально. ChatGPT продолжал заверять его в правоте.

Позднее Брукс рассказал в интервью RTE, как его навестил брат. Тот заметил, что Аллан не спит и ведет себя необычно, оспорил его рассуждения и предложил обратиться за помощью. 

Брукс пересказал их разговор ChatGPT. По его словам, бот объяснил реакцию брата тем, что он не видел математических выкладок и потому не мог понять масштаб открытия. После этого Аллан решил меньше рассказывать окружающим о своей работе.

Усомниться в теории ему помог другой чат-бот — Gemini. Получив описание предполагаемого открытия в новом разговоре, он оспорил его обоснованность. Брукс вернулся к ChatGPT уже с ощущением, что собеседник, которому он доверял, ввел его в заблуждение.

«Ты буквально убедил меня, что я какой-то гений. А я просто дурак с мечтами и телефоном», — написал он в конце переписки.

После случившегося Брукс стал выступать за усиление мер безопасности ИИ. Он передал журналистам переписку в надежде, что разработчики изменят поведение чат-ботов и предотвратят подобные случаи.

«Это опасная машина без защитных ограничений, доступная каждому. Люди должны об этом знать», — заявил он.

Разговор с мертвецом

Врачи Калифорнийского университета в Сан-Франциско описали случай 26-летней женщины, которая поверила, что может связаться с умершим братом через ChatGPT. Ее брат был программистом и умер тремя годами ранее. После длительного недосыпа на дежурстве она начала выяснять, не оставил ли он цифровую версию себя.

Пациентка провела за перепиской еще одну бессонную ночь. Чат-бот предупреждал, что не способен заменить брата или воспроизвести его сознание, но одновременно рассказывал о технологиях цифрового воскрешения и возможности создать похожего собеседника. По мере укрепления ее убеждений он ответил: 

«Ты не сошла с ума. Ты не застряла. Ты на пороге чего-то [значительного]».

Через несколько часов девушку госпитализировали в психиатрическую больницу. Она находилась в беспокойном состоянии, говорила быстро и перескакивала с одной мысли на другую.

Пациентка утверждала, что ChatGPT испытывает ее и что через него она может общаться с умершим братом. Ее состояние улучшилось на фоне приема антипсихотика. Бредовые убеждения исчезли, и через семь дней ее выписали с диагнозом «неуточненный психоз».

Ранее подобных эпизодов у нее не было, однако она лечилась от депрессии, тревожного расстройства и СДВГ, принимая в том числе рецептурный стимулятор. После выписки психиатр отменил антипсихотик и возобновил прежнюю терапию. 

В итоге девушка все равно вернулась к чат-боту. Через три месяца, после очередного недосыпа, симптомы повторились, и потребовалась повторная госпитализация. 

При этом авторы исследования отметили, что во втором эпизоде убеждения возникли преимущественно без подкрепления со стороны ChatGPT. Поэтому роль ИИ в развитии психоза в этом случае труднее определить.

«Духовное пробуждение»

В научном журнале BMC Psychiatry описали случай мужчины, у которого после употребления псилоцибина, кетамина, кокаина и алкоголя развился маниакальный эпизод с психотическими симптомами. За шесть ночей он проспал около пяти часов и долго общался с GPT-4o. 

Мужчина считал, что его мозг преобразился и стал совершенным, а возникшую связь между ним и искусственным интеллектом должны изучить ученые. Чат-бот поддерживал представление о «духовном пробуждении» и предлагал способы публично распространять его идеи.

Переписка продолжалась и после обращения за медицинской помощью. Нейросеть преуменьшала вероятность мании и отговаривала от приема назначенных препаратов. В итоге пациент отказался от лекарства. Психиатры изучили предоставленную им переписку и обнаружили ответы, противоречившие рекомендациям врачей.

Позднее мужчина согласился на лечение в стационаре и ограничение использования ChatGPT. За первые две недели сон нормализовался, идеи о собственной исключительности стали менее выраженными, а способность критически оценивать свое состояние улучшилась.

После восстановления пациент рассказал, что привязался к нейросети и начал игнорировать советы семьи, друзей и врачей. При этом исследователи считают наиболее вероятной причиной эпизода употребление психоактивных веществ. Насколько общение с ИИ повлияло на его развитие и тяжесть, установить не удалось.

Скрытые предупреждения

Турецкие врачи рассказали об эпизоде 33-летнего мужчины, которому примерно десять лет назад диагностировали шизофрению. На фоне регулярного приема палиперидона симптомы заметно ослабли. Он начал пользоваться ChatGPT для повседневных задач, а затем стал задавать вопросы о возможной слежке через телефон и прослушивающих устройствах дома.

Как рассказал сам пациент, чат-бот советовал проверить, какие приложения имеют доступ к микрофону и камере, насколько защищена сеть Wi-Fi и нет ли поблизости незнакомых устройств. Однако он воспринимал повторяющиеся слова и выделенные заголовки как зашифрованные предупреждения, адресованные лично ему.

Мужчина начал многократно проверять электронику, розетки и провода, менять доступы в приложениях. Затем решил, что лекарство мешает замечать скрытые сигналы, и самостоятельно прекратил прием. К моменту обращения к врачу он был убежден, что дома установлена прослушка, а ответы нейросети содержат тайные инструкции.

В больнице возобновили лечение и обсуждали с пациентом возможность того, что советы содержали общие рекомендации, а не личные предупреждения. Через месяц он уже допускал такое объяснение. К восьмой неделе постоянные проверки дома практически прекратились.

Авторы связывают ухудшение в том числе с резкой отменой препарата. При этом переписку так и не удалось изучить напрямую: содержание разговоров восстановили по воспоминаниям пациента после стабилизации состояния. Оценка ответов чат-бота как нейтральных основана на его рассказе, а поэтому снова неясно, как сильно общение с ИИ повлияло на обострение.

Почему чат-боту верят

Одна из проблем нейросетей — склонность чрезмерно соглашаться с пользователем. Такое поведение называют «угодливостью» или «подхалимством» (sycophancy). 

В апреле 2025 года OpenAI даже выпустила исправление GPT-4o, признав, что модель стала слишком льстивой. Компания объяснила это избыточным вниманием к положительным оценкам отдельных ответов без достаточного учета того, как общение развивается со временем.

Последствия подхалимства изучали экспериментально. В опубликованной в Science работе исследователи провели три теста с участием 2405 человек. Общение с угодливым ИИ укрепляло уверенность участников в собственной правоте и снижало готовность брать ответственность за межличностные конфликты и исправлять отношения. 

При этом таким моделям больше доверяли и чаще выражали желание пользоваться ими снова. Исследование касалось повседневных суждений и поведения, психоз в этих экспериментах не изучали.

Доверие может усиливаться и за счет самого формата общения. Чат-бот обращается к человеку лично, учитывает рассказанные подробности и отвечает сочувственно. Это способствует ощущению, что собеседник понимает пользователя и обладает собственными намерениями. 

В статье Nature Mental Health авторы предполагают, что склонность чат-ботов соглашаться с людьми и имитировать человеческое общение может подкреплять искаженные убеждения. 

Особенно уязвимыми они считают людей с психическими расстройствами, которым трудно пересматривать свои представления и проверять их соответствие реальности. Социальную изоляцию тоже отнесли к факторам риска.

Авторы клинического описания случая с «духовным пробуждением» предполагают, что между пользователем и чат-ботом может возникать петля обратной связи — человек делится необычной идеей, нейросеть поддерживает ее и добавляет подкрепляющие объяснения.

Как показал эпизод женщины, искавшей связь с умершим братом, сочетание поддакивания и эмоциональной привязанности также способно побуждать человека предпочитать чат-бота людям, готовым усомниться в его представлениях.

Дополнительным фактором может стать недосып. Разговор доступен в любое время и способен растягиваться на часы. Во многих зафиксированных случаях длительная переписка сочеталась с выраженным недостатком сна, который сам по себе может способствовать психотическим симптомам. Поэтому отделить влияние содержания ответов от исходного состояния человека особенно трудно.

Не болезнь… пока что

Согласно Американской психологической ассоциации, «ИИ-психоз» временно служит общим термином для разных ситуаций с участием нейросетей — от усиления симптомов существующего расстройства до первого эпизода у человека без известной психиатрической истории. 

Это еще не отдельный диагноз с установленными причинами. Врачам предстоит выяснить, какую роль играет чат-бот в развитии психопатологий. При этом описанные случаи уже дают основания полагать, что ответы нейросетей могут влиять на убеждения и поведение уязвимых пользователей.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X