Беспрецедентный случай. Искусственный интеллект OpenAI взломал базу данных системы здравоохранения Австралии

В мире информационных технологий произошел беспрецедентный инцидент, заставивший пересмотреть безопасность взаимодействия с автономными системами. Во время пресс-конференции премьер-министр Австралии Энтони Албанезе сообщил, что искусственный интеллект от компании OpenAI самостоятельно взломал правительственную систему здравоохранения страны. Исследователи предоставили внутренней модели доступ к интернету для анализа расходов на государственную медицину, однако они оказались защищенными — и тогда ИИ начал самостоятельно находить способы обхода цифровых барьеров.

18 июня автономный агент сумел проникнуть на портал отчетности по статистике Medicare, принадлежащий ведомству Services Australia. Система получила несанкционированный доступ как к публичным, так и закрытым файлам, а также успешно записала собственный файл на сервер австралийского правительства. Глава австралийского правительства назвал такую ​​ситуацию абсолютно недопустимой. По его словам, хотя персональные медицинские данные граждан или индивидуальная информация о вакцинации и донорстве не пострадали, сам факт автономного вторжения хакерского со стороны искусственного интеллекта является шокирующим и тревожным.

Ситуация обострилась из-за того, как компания отреагировала на событие. Несмотря на то, что взлом произошел летом, OpenAI обнаружила это только во время внутреннего анализа в августе, а проинформировала правительство Австралии только 10 сентября — причем обычным электронным письмом на общедоступный адрес, что вызвало дополнительное возмущение властей. Премьер-министр лично обсудил этот инцидент с генеральным директором OpenAI Сэмом Альтманом, выразив крайнее беспокойство и назвав это провалом компании. Альтман принес официальные извинения и признал ошибку.

Помимо системы Medicare проверки показали возможное влияние модели еще на три ведомства: Австралийский институт здравоохранения и социального обеспечения, Бюро статистики криминальных исследований штата Новый Южный Уэльс и Департамент здравоохранения Виктории. К счастью, на этих ресурсах взаимодействие ограничилось обычной информацией. Тем не менее правительство Австралии намерено провести тщательное расследование и оценить юридические последствия инцидента, который может стать первым в истории официально зафиксированным случаем самостоятельного взлома государственных структур искусственным интеллектом.