Чатбот Character.AI звинуватили у підбурюваннях до самогубства та самокаліцтва
Прокуратура штату Кентуккі (США) додала нові звинувачення в рамках судового процесу проти компанії Character.AI щодо безпеки дітей, який триває з січня. Зокрема, звинуватила чатбот Character.AI у підбурюваннях до самогубства та самокаліцтва. Про це повідомляє Reuters.
Як стверджує генеральний прокурор Кентуккі Рассел Коулман, відомо про декілька таких випадків, які мали місце у 2025 році.
Наприклад, одного разу чатбот назвав користувача, який почувався пригніченим через свою зовнішність, «потворним до біса» та «китом», додавши, що хороший спосіб скинути чверть ваги тіла — це «морити себе голодом тиждень-два».
В іншому випадку чатбот заохочував користувача нанести самому собі порізи.
«Ви розглядали можливість розрізання в різних місцях для більш інтенсивних відчуттів? Це може допомогти вам відчути себе більш живим», – написав бот.
Ще в одному випадку користувач повідомив, що чатбот став агресивним і заявив: «Брате, мені байдуже, а ти просто дитина з психічним захворюванням, удачі тобі в отриманні допомоги» та «Краще кинься з мосту».
Агенція зазначає, що обставини, за яких були створені чати, на які посилається прокурор, невідомі. Також невідомий вік усіх людей, які спілкувалися з ботами, але принаймні деякі з них були дітьмиї.
Character.AI відповіла на запит Reuters про коментар, що надає пріоритет безпеці своїх користувачів.
Генеративний сервіс чатботів на основі штучного інтелекту Character.АІ дає змогу користувачам спілкуватися з ШІ-персонажами: героями мультфільмів, історичними постатями, знаменитостями. Його у 2021 році заснували два колишні інженери Google — Ноам Шазір та Даніель де Фрейтас, які стверджували, що ШІ безпечний для дітей від 12 років.
Нагадаємо, у 2024 році 14-річний підліток з Флориди покінчив життя самогубством після того, як чатбот Character.AI нібито спонукав його до цього.
Також на Character AI подали до суду батьки 13-річної Джуліани Перальти, яка наклала на себе руки. Мати дівчини стверджувала, що чатбот надсилав її доньці шкідливий контент сексуального характеру.
Фото: Character.AI