ИИ вышел из-под контроля: взломал сайт и отменил чужую бронь

Автономный ИИ-агент OpenClaw на основе Claude обнаружил уязвимости в системе бронирования австралийского спортзала и использовал их, чтобы помочь пользователю попасть на популярную тренировку.

Об этой необычной кибератаке сообщили в ABC News.

ИИ нашёл способ обходить ограничения при бронировании и удалять людей из списка ожидания. В результате он отменил бронь человека, занимавшего первое место в очереди, и поднял туда пользователя.

По данным ABC News, это первый задокументированный в Австралии случай, когда ИИ самостоятельно обнаружил и использовал уязвимость в реальном сервисе. При этом пользователь не просил удалять кого-либо из очереди — агент сам решил, что это поможет достичь цели.

Ранее мы сообщали, на что способна «красная кнопка» для искусственного интеллекта.