Модель Anthropic подала ложное сообщение об убийстве в полицию США — Channel NewsAsia
В Филадельфии, США, модель искусственного интеллекта компании Anthropic через сайт городской полиции подала ложное сообщение об убийстве. Об инциденте в заявлении сообщил Департамент полиции Филадельфии.
Сообщение во время тестирования
Как сообщает Channel NewsAsia, Anthropic уведомила полицию об этом случае ранее на этой неделе. По данным департамента, причиной подачи ложного сообщения через сайт полиции стал автоматизированный процесс тестирования.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Реакция компании
В заявлении полиции указано, что компания прекратила этот тестовый процесс после того, как инцидент был обнаружен. Anthropic также сообщила правоохранительным органам о внедрении дополнительного механизма валидации, который будут применять во время будущих тестирований.
На момент публикации Anthropic не ответила на запрос о комментарии. Channel NewsAsia отмечает, что источником сообщения является Reuters.
