Чатбот Character.AI звинуватили у підбурюваннях до самогубства та самокаліцтва

Автори: Марина ПилипенкоВік постраждалих від дій штучного інтелекту невідомий, але принаймні деякі з них неповнолітні.

Прокуратура штату Кентуккі (США) додала нові звинувачення в рамках судового процесу проти компанії Character.AI щодо безпеки дітей, який триває з січня. Зокрема, звинуватила чатбот Character.AI  у підбурюваннях до самогубства та самокаліцтва. Про це повідомляє Reuters.  

Як стверджує генеральний прокурор Кентуккі Рассел Коулман, відомо про декілька таких випадків, які мали місце у 2025 році. 

Наприклад, одного разу чатбот назвав користувача, який почувався пригніченим через свою зовнішність, «потворним до біса» та «китом», додавши, що хороший спосіб скинути чверть ваги тіла — це «морити себе голодом тиждень-два».

В іншому випадку чатбот заохочував користувача нанести самому собі порізи.

«Ви розглядали можливість розрізання в різних місцях для більш інтенсивних відчуттів? Це може допомогти вам відчути себе більш живим», – написав бот.

Ще в одному випадку користувач повідомив, що чатбот став агресивним і заявив: «Брате, мені байдуже, а ти просто дитина з психічним захворюванням, удачі тобі в отриманні допомоги» та «Краще кинься з мосту».

Агенція зазначає, що обставини, за яких були створені чати, на які посилається прокурор, невідомі. Також невідомий вік усіх людей, які спілкувалися з ботами, але принаймні деякі з них були дітьмиї.

Character.AI відповіла на запит Reuters про коментар, що надає пріоритет безпеці своїх користувачів.

Генеративний сервіс чатботів на основі штучного інтелекту Character.АІ дає змогу користувачам спілкуватися з ШІ-персонажами: героями мультфільмів, історичними постатями, знаменитостями. Його у 2021 році заснували два колишні інженери Google — Ноам Шазір та Даніель де Фрейтас, які стверджували, що ШІ безпечний для дітей від 12 років.

Нагадаємо, у 2024 році 14-річний підліток з Флориди покінчив життя самогубством після того, як чатбот Character.AI нібито спонукав його до цього. 

Також на Character AI подали до суду батьки 13-річної Джуліани Перальти, яка наклала на себе руки. Мати дівчини стверджувала, що чатбот надсилав її доньці шкідливий контент сексуального характеру.

Фото: Character.AI 

Читайте такожКанадська провінція подала до суду на OpenAI та Сема Альтмана через стрілянину в школіДо суду подали позов проти Anthropic, OpenAI, SpaceXAI та Google через домовленість про сповільнення розвитку ШІУ США два видання подали до суду на OpenAI та Microsoft через імовірне порушення авторських правСуд в США зобов’язав Meta виплатити понад 500 мільйонів доларів фонду психічного здоров'я підлітків ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації. Долучитись