ШІ-модель відправила поліції вигадане повідомлення про вбивство

Модель Claude Haiku 4.5 також подала 20 заявок на американські візи через сайт Державного департаменту США.

Під час тестування штучний інтелект компанії Anthropic самостійно надіслав поліції Філадельфії неправдиве повідомлення про можливого свідка нерозкритого вбивства. Водночас на сайті поліції не було опису підозрюваного, якому відповідав би цей свідок, повідомляє Bloomberg.

"Можливо, я маю інформацію про цю справу", - написала система. Згодом ШІ заявив, що пам’ятає людину, яка відповідала опису та перебувала поблизу місця злочину під час убивства. Поле для контактних даних залишилося порожнім, повідомлення позначили як спам.

Інцидент стався в середині липня, однак поліція дізналася про нього лише через кілька місяців. У відомстві назвали таку затримку з повідомленням "неприйнятною". В Anthropic заявили, що виявили інцидент лише наприкінці вересня, коли повторно перевіряли результати тестування.

Під час випробувань ШІ мав виконувати завдання на випадкових вебсайтах. Йому заборонили створювати акаунти та здійснювати покупки, однак обмеження на заповнення й надсилання онлайн-форм належо не встановили.

У результаті система також подала 20 заявок на американські візи через сайт Державного департаменту США.

Компанія поінформувала Білий дім та повідомила всі порушені відомства, а також обмежила моделям частину доступу до Інтернету на етапі тестування.

Нагадаємо, жительку американського штату Флорида заарештували після того, як вона використала чат-бот Claude як особистий щоденник і написала про намір атакувати офіс шерифа.

Раніше повідомлялося, що ШІ-агенти атакують сайти уряду США.

Штучний інтелект виступив проти відключення інших ШІ-агентів

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp