Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования.
Об этом сообщает Reuters.
Премьер-министр Энтони Албаниз назвал произошедшее "неприемлемым" и выразил главе OpenAI Сэму Альтману свою "крайнюю обеспокоенность".
Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошел еще в июне, однако власти узнали о нем только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута и отдельные люди не пострадали, заявил Албаниз.
По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путем.
"ИИ-агент нашел способ обойти блокировки — он, так сказать, не хотел принимать "нет" в качестве ответа", — заявил Албаниз. Сколько данных получил таким образом ИИ-взломщик, еще устанавливается.
Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику.
"При этом наши модели выполняли действия, которых мы не намеревались допускать", — заявил представитель компании.
Ранее главы ИИ-компаний заявили об опасности ИИ для человечества.
Насколько реальна эта угроза, мы разбирали в отдельном материале.