Новый кошмар для сферы кибербезопасности: ИИ впервые сам украл данные и оставил требование о выкупе
Искусственный интеллект впервые самостоятельно совершил хакерскую атаку. Об инциденте рассказали специалисты американской компании Sysdig, которая специализируется на кибербезопасности облачных сред. По их данным, новый вредоносный инструмент под названием JadePuffer самостоятельно выполнил практически все этапы кибератаки — от проникновения в систему до шифрования данных и выдвижения требования о выкупе.
Об этом сообщает издание TechCrunch.
Искусственный интеллект сам провел всю атаку
Как рассказывают аналитики, ИИ-агент действовал как настоящий киберпреступник. Он самостоятельно проник в систему уязвимого сервера, получил доступ к конфиденциальной информации, переместился по внутренней сети и зашифровал более 1 300 конфигурационных записей производственного сервера MySQL.
После этого JadePuffer без посторонней помощи сформировал сообщение с требованием выкупа и оставил адрес Bitcoin-кошелька, на который жертве предложили перевести средства.
Входной точкой для кибератаки стала известная уязвимость в платформе Langflow, которая имеет открытый исходный код и широко используется разработчиками для создания сервисов на основе больших языковых моделей (LLM). Воспользовавшись этой уязвимостью, автономный агент получил доступ к системе и начал выполнение поставленных задач.
Эксперты были поражены сообразительностью и способностью искусственного интеллекта адаптироваться к непредсказуемым ситуациям. Когда одна из попыток входа завершилась неудачей, алгоритм самостоятельно определил проблему, нашел способ её устранить и уже через 31 секунду успешно повторил авторизацию, не нуждаясь в каком-либо вмешательстве человека.
Еще одной необычной особенностью JadePuffer стало то, что во время выполнения операций он фактически "комментировал" собственную работу. В коде агент оставлял понятные текстовые пояснения, описывая логику своих решений, последовательность действий и причины выбора тех или иных шагов обычным человеческим языком.
Какую роль играла человек
Несмотря на высокий уровень автономности, полностью без участия человека атака не обошлась. По словам исследователей, злоумышленник лишь выполнил начальную подготовку: определил цель, настроил необходимую инфраструктуру, подготовил серверы для хранения украденной информации и запустил работу ИИ-агента.
Также еще до запуска искусственного интеллекта были получены учетные данные для начального доступа путем использования ранее выявленных уязвимостей. После этого все последующие этапы взлома автономный агент выполнял самостоятельно.
Во время работы JadePuffer в первую очередь искал наиболее ценную информацию. Среди украденных данных были API-ключи сервисов OpenAI, Anthropic, DeepSeek и Gemini, учетные данные для доступа к облачным платформам, конфигурационные файлы баз данных, а также криптовалютные кошельки.
Аналитики пока не смогли определить, какая именно модель искусственного интеллекта использовалась для создания JadePuffer, поскольку доступа к его внутренней архитектуре нет. В то же время они предполагают, что вирус может базироваться на одной из открытых моделей (open-weight), из которой предварительно удалили все установленные разработчиками механизмы безопасности и ограничения.
По мнению экспертов, появление таких автономных инструментов может стать переломным моментом для сферы кибербезопасности. Если раньше масштабы атак в значительной мере зависели от количества людей, привлеченных к их проведению, то теперь один оператор способен одновременно запускать тысячи ИИ-агентов. Из-за низкой стоимости таких кампаний эксперты не исключают, что в ближайшее время количество автоматизированных кибератак может резко увеличиться.