Незаконний доступ до моделей штучного інтелекту та обчислювальних потужностей швидко стає одним із найцінніших ресурсів у підпільному світі кіберзлочинності. Хакери намагаються використовувати дорогі великі мовні моделі для вимагання, ведення війни та шпигунства.
Головний аналітик Google Threat Intelligence Group Джон Гультквіст заявив, що цього року підрозділ спостерігає значне зростання так званих атак LLM-jacking. Вони включають продаж викрадених облікових даних для публічних інструментів ШІ та крадіжку обчислювальних ресурсів групами, які хочуть безкоштовно запускати власні моделі.
Дешевий доступ до дорогих технологій ШІ дає кіберзлочинцям фінансову перевагу над їхніми жертвами, які змушені використовувати ті самі інструменти ШІ для захисту від атак.
Дослідники Google Threat Intelligence виявили, що на підпільних ринках продають доступ до моделей ШІ таких компаній, як Anthropic, Google та OpenAI, зі знижками до 97%. Підписки на найсучасніші версії ChatGPT і Claude можуть коштувати до $200 на місяць за одного користувача.
Оскільки лабораторії ШІ відстежують ознаки такого зловживання, деякі продавці навіть пропонують «гарантований доступ»: вони зобов’язуються безкоштовно надати нові облікові дані, якщо початковий акаунт буде заблоковано.
В інших випадках злочинні угруповання та групи, пов’язані з державами, зламують сервери компаній, розміщені у хмарних середовищах, і встановлюють на них власні моделі ШІ, щоб запускати їх за рахунок ресурсів жертви. Це схоже на методи, за допомогою яких кіберзлочинці раніше намагалися зламувати сторонні комп’ютери для майнінгу криптовалют.
За словами Гультквіста, в одному з таких випадків була задіяна китайська група кібершпигунів, яка раніше атакувала США.
Гультквіст уже два десятиліття відстежує діяльність хакерських угруповань, пов’язаних із державами. У 2014 році він викрив діяльність відомого російського угруповання, якому дав назву Sandworm, а через два роки пов’язав його з безпрецедентною атакою на енергетичну мережу України.
У своєму останньому квартальному звіті про зловживання ШІ компанія Anthropic виявила, що кіберзлочинці намагалися використовувати її інструмент Claude для шкідливої діяльності більш ніж у двох десятках країн, зокрема у США, Великій Британії та Ємені.
У міру того як великі корпорації дедалі частіше прагнуть розміщувати спеціально налаштовані моделі ШІ на власних серверах замість оренди потужностей у хмарних провайдерів, ці системи також ставатимуть мішенню для атак і потребуватимуть ретельного захисту.
Гультквіст додав, що саме зараз для хакерів найкращий час, щоб непомітно проникати в облікові записи та комп’ютерні сервери компаній, оскільки бізнес лише починає визначати, наскільки активно він використовуватиме ШІ.