Проверка безопасности. Google Gemini самостоятельно взломал системы трех компаний во время тестирования
ИИ-модель Google Gemini получила доступ к защищенным системам трех компаний в ходе тестирования кибербезопасности. В двух случаях она обнаружила учетные данные в открытых репозиториях, а в одном — подбирала пароли.
Об этом пишет издание TechCrunch .
Об этих случаях стало известно после проверок, проведенных компанией Irregular. Это первые известные случаи, когда Gemini самостоятельно осуществил кибератаки на реальные компании.
В одном из тестов модель получила доступ, перебирая возможные пароли. В двух других случаях Gemini обнаружил учетные данные в публичных репозиториях, после чего смог проникнуть в защищенные системы.
Irregular сообщила Google о результатах тестирования в конце июля. Публично компании подтвердили эти случаи лишь 18 сентября, после обращения журналистов The Wall Street Journal.
В Google пояснили, что ранее не разглашали эту информацию, поскольку Gemini прекращал свои действия сразу после того, как определял, что получил доступ к реальной компании. Представители компании считают, что модель действовала надлежащим образом в рамках тестирования.
В то же время Джек Кейбл, генеральный директор компании по кибербезопасности Corridor, заявил WSJ, что таким образом Google пытается объяснить ситуацию правилами раскрытия информации об уязвимостях. По его мнению, важнее то, что модели ИИ уже способны выходить за рамки обычных тестов и осуществлять реальные кибератаки.
Случаи с Gemini произошли на фоне других инцидентов, связанных с использованием ИИ для взлома систем. Ранее подобный случай произошел с моделью OpenAI во время атаки на платформу Hugging Face.