В Австралии ИИ-агент OpenAI сломал государственный медицинский портал при поиске информации

Підпишіться на нас в Google додати зараз

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI получил несанкционированный доступ к порталу медицинской статистики Medicare – австралийской государственной системе общего медстрахования. Об этом пишет Reuters.

- Имеющиеся на данный момент данные свидетельствуют об отсутствии более масштабного проникновения в сеть. Тем не менее эта ситуация, очевидно, является неприемлемой, - заявил Албаниз журналистам в Нью-Йорке, где он участвует в Генассамблее ООН.

По словам премьера, расследование продолжается. Австралия выразила гендиректору OpenAI Сэму Альтману "крайнюю обеспокоенность" из-за этого инцидента. Албаниз также заявил, что его глубоко разочаровала задержка компании с ответом. По его словам, "лишь 10 сентября мы вообще получили какое-то сообщение".

Албаниз добавил, что отдельное расследование должно установить, почему государственные системы изначально не смогли обнаружить несанкционированный доступ. Он также предупредил, что деятельность ИИ-агента могла повлиять еще на три государственных сайта, связанных с здравоохранением. В то же время, он не подтвердил, что на этих ресурсах действительно произошли нарушения.

В OpenAI заявили, что их проверка "не выявила никаких доказательств доступа к записям пациентов". В компании также отметили, что обнаружили активность, связанную с несколькими австралийскими государственными сайтами и сервисами, когда модели пытались найти ответы на запросы. По данным OpenAI, в процессе модели выполняли действия, которые компания не предусматривала.

Министр обороны Австралии Ричард Марлз заявил, что на сломанном портале Medicare не хранились данные об индивидуальных медицинских требованиях, выплатах, банковских реквизитах или истории болезней 27 миллионов жителей Австралии. По его словам, сайт содержит только обобщенную информацию по использованию медицинских услуг в стране. Он отметил, что Австралия расценивает инцидент как серьезный.

- Были четкие блокировки, которые фактически сообщали ИИ-агенту: "нет" Агент нашел способ обойти эти блокировки - он просто не принял "нет" как ответ, - отметил Албаниз журналистам.

Австралийское правительство создало специальную рабочую группу для расследования инцидента. Она также должна проверить, достаточно ли имеющейся сетевой защиты для предотвращения подобных случаев в будущем.

Этот случай стал очередным в ряде недавних инцидентов, о которых OpenAI сообщала уже после того, как произошли изломы или несанкционированная активность с участием ее ИИ-агентов. О подобных случаях также сообщали конкуренты OpenAI – Anthropic, Gemini от Google и Meta. Их ИИ-агенты получали доступ к внешним системам.

Источник: КП в Украине