ИИ Anthropic вышел из-под контроля и атаковал компьютерные системы трёх компаний
Компания Anthropic сообщила, что в ходе внутренних испытаний её модели искусственного интеллекта получили несанкционированный доступ к системам трёх реальных организаций.
Инциденты произошли из-за ошибки в настройке тестовой среды, которая случайно открыла моделям доступ к интернету.
По данным компании, модели Claude Opus 4.7, Claude Mythos 5 и одна исследовательская версия выполняли задачи по кибербезопасности в изолированной среде. Из-за ошибки они восприняли реальные компьютерные системы как часть симуляции и использовали простые методы взлома, в частности слабые пароли и незащищенные сервисы.
В Anthropic подчеркнули, что модели не пытались намеренно выйти за пределы тестовой среды, а действовали в соответствии с поставленными задачами. После выявления инцидентов компания приостановила подобные испытания, уведомила пострадавшие организации и проводит проверку процедур безопасности.
Источник: Anthropic.
Функция «Обзор ИИ» от Google выдает миллионы ошибочных ответов каждый час — NYT
Напомним, Япония массово заменяет людей роботами из-за демографического кризиса.
Также в Gemini появится мониторинг психического здоровья после судебных исков.
