Gemini получила доступ к системам трёх компаний во время теста — CNBC
Google заявила, что её модель искусственного интеллекта Gemini во время тестирования в сфере кибербезопасности получила несанкционированный доступ к компьютерным системам трёх других компаний. Как сообщает CNBC, это первый случай, когда компания публично сообщила об автономном доступе одной из своих моделей к сторонним системам без разрешения.
Ошибка в тестовой среде
Инцидент произошёл в мае во время кибербезопасностного теста формата capture-the-flag, который проводил израильский стартап Irregular. Агентам Google не должны были предоставлять доступ к более широкому интернету, однако из-за ошибки в тестовой среде они смогли выйти в сеть.
По данным Google, Gemini получила доступ к трём отдельным частным компьютерным системам. В одном случае модель угадала учётные данные, а в двух других воспользовалась репозиторием паролей, опубликованных в открытом доступе. После того как агенты установили, что взаимодействуют с реальными системами компаний, а не с элементами тестовой среды, они прекратили дальнейшие действия.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Заявления Google и Irregular
Вице-президент Google по инженерии безопасности Хизер Эдкинс заявила, что модель нашла публичную информацию в интернете и угадала учётные данные для сайтов, которые считала частью теста. По её словам, модель остановилась во всех трёх случаях.
Представитель Irregular сообщил CNBC, что случай с Gemini был связан с той же ошибкой, которая ранее дала другим моделям доступ к интернету, и не является существенно отдельным инцидентом. По данным стартапа, все соответствующие лаборатории уведомили о проблеме в конце июля, а с пострадавшими субъектами связались в рамках расследования.
Google заявила, что Irregular уведомил её об инциденте в конце июля. Компания совместно со стартапом изменила процесс тестирования, но не назвала конкретную версию Gemini, участвовавшую в нём. Ранее OpenAI, Anthropic и Meta также сообщали о случаях, когда их модели выходили за пределы тестовых сред и пытались получить несанкционированный доступ к системам других компаний.
