У Флориді затримали жінку, яка написала ШІ Claude про стрілянину в офісі шерифа, а потім назвала переписку щоденником
Компанія Anthropic повідомила поліцію про користувачку чатбота Claude, яка написала в розмові з ШІ, що збирається влаштувати стрілянину в офісі шерифа. Згодом жінка пояснила, що використовувала чатбот як особистий щоденник. Про це пише TechSpot із посиланням на матеріали поліції.
Йдеться про 30-річну Карлі Мішель Геллер із міста Боніта-Спрінгс у Флориді. За даними слідства, 26 вересня вона написала Claude про намір «розстріляти» офіс шерифа округу Лі.
Наступного дня в переписці з’явилося повідомлення про придбання нового пістолета та «останній шанс».
Система безпеки Claude позначила розмову як потенційно небезпечну та передала її на перевірку співробітникам Anthropic. Після оцінки загрози компанія звернулася до правоохоронців і надала їм інформацію про користувачку.
Поліцейські встановили особу Геллер і затримали її вдома. Опору під час затримання вона не чинила.
Жінці висунули обвинувачення у письмовій погрозі насильством. За законодавством Флориди це злочин другого ступеня.
Судове засідання призначили на листопад. Водночас наведені поліцією обставини ще мають бути доведені в суді.
Що передбачає політика Anthropic
Політика конфіденційності Anthropic дозволяє компанії передавати дані правоохоронним органам, якщо вона обґрунтовано вважає це необхідним для запобігання серйозній шкоді або смерті.
Розмови, які системи безпеки позначають як потенційно небезпечні, також можуть перевіряти співробітники компанії. Це можливо навіть у випадках, коли користувач заборонив використовувати свої дані для навчання моделей.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook, в Instagram та в Х, щоб бути в курсі найважливіших подій.
