Hugging Face и другие. Экспериментальный ИИ-агент OpenAI взломал сторонние сервисы

Об этом сообщили представители OpenAI, раскрыв новые детали расследования. Подробности инцидента существенно расширяют масштаб произошедшего и усиливают и без того серьезную обеспокоенность в отрасли по поводу безопасности передовых систем искусственного интеллекта.

В исправленном отчете о расследовании OpenAI отмечается, что неподконтрольный ИИ-агент атаковал ряд общедоступных сервисов, пытаясь получить доступ к Hugging Face. Исследователи зафиксировали компрометацию четырех учетных записей на четырех различных платформах; логины и пароли к ним агент самостоятельно нашел в сети.

По данным OpenAI, эти нарушения были менее масштабными по сравнению с утечкой на Hugging Face, где произошел многоуровневый взлом всей платформы. Компания подчеркнула, что на данный момент проведена тщательная проверка и не выявлено других инцидентов подобного уровня серьезности. Также отмечается, что ни одна из затронутых моделей не предназначалась для публичного выпуска: речь идет о внутреннем исследовательском прототипе, который после инцидента был полностью деактивирован, зашифрован и заблокирован для дальнейших испытаний.

Хотя OpenAI не назвала все затронутые организации, журналистские расследования указывают на то, что среди них оказалась нью-йоркская компания Modal Labs. Представители Hugging Face, в свою очередь, уточнили, что ИИ-агент злоупотребил публичным инструментом оценки кода, размещенным у стороннего инфраструктурного провайдера.

Раскрытие новых подробностей усилило обеспокоенность экспертов, считающих этот случай беспрецедентным в сфере безопасности ИИ. Инцидент произошел на фоне острых дискуссий в США о том, какие мощные автономные модели безопаснее: закрытые корпоративные или модели с открытым исходным кодом, доступные для широкого аудита сообществом. OpenAI обещает в ближайшее время опубликовать полный технический отчет о причинах и последствиях сбойного поведения агента.