Ранее неизвестная уязвимость. Google впервые обнаружила хакерскую атаку, созданную с помощью ИИ

Об этом сообщила команда Google Threat Intelligence Group.

Речь идет об атаке из-за ранее неизвестной уязвимости, о которой не знали разработчики системы, поэтому защиты от нее еще не существовало.

В отчете Google сказано, что злоумышленники планировали использовать этот инструмент в масштабной кампании атак. Компания заявила, что благодаря заблаговременному выявлению могла предотвратить его использование.

В Google отметили, что не имеют доказательств использования собственной модели Gemini, но имеют «высокую уверенность», что при поиске уязвимости и создании инструмента для взлома применяли ИИ-модель.

Название компании, которая стала целью атаки, не раскрыли. Известно лишь, что Google предупредила ее о проблеме, после чего уязвимость устранили. Имена хакеров также не называют, но в компании отметили, что связанные с Китаем и Северной Кореей группы ранее уже проявляли значительный интерес к использованию ИИ для поиска слабых мест в системах безопасности.

Главный аналитик GTIG Джон Хультквист в комментарии для The New York Times назвал этот случай «лишь началом» и «верхушкой айсберга». По его словам, это первое реальное доказательство подобных атак.

В Google также заявили, что киберпреступники уже используют искусственный интеллект на разных этапах кибератак. В то же время компания подчеркнула, что ИИ может помогать и защитникам систем безопасности.

В прошлом месяце компания Anthropic объявила о запуске Project Glasswing — инициативы, которая использует модель Claude Mythos Preview для поиска и защиты от критических уязвимостей.