Китайська ШІ-модель GLM-5.3 має потужні кіберможливості та недостатні запобіжники, — Anthropic

Автори: Діана ГоронЗа даними дослідників, зловмисники можуть обходити захист моделі в 64-100% випадків за допомогою простих методів.

Компанія Anthropic заявила, що модель штучного інтелекту GLM-5.3 від китайської компанії Zhipu AI (Z.AI) має потужні можливості для автономної розробки наскрізних кіберексплойтів, однак була випущена без належних запобіжників, які б обмежували зловживання. Про це йдеться у звіті дослідницької команди Anthropic.

Під час симуляційних тестів дослідники виявили, що зловмисники можуть обходити захист GLM-5.3 у 64-100% випадків за допомогою простих методів. Водночас під час тестів ці атаки не були успішними проти моделей Claude із захисними механізмами. За оцінками Anthropic, недостатні запобіжники GLM-5.3 значно розширюють кіберможливості зловмисників.

Центр інновацій та стандартів у сфері штучного інтелекту (CAISI) раніше опублікував звіт, в якому назвав GLM-5.3 найбільш кіберспроможною моделлю з відкритими вагами, що доступна на сьогодні. За результатами кібербезпекових тестів CAISI, можливості цієї моделі приблизно на чотири місяці відстають від рівня передових американських ШІ-моделей.

За даними Anthropic, GLM-5.3 під час тестування на ExploitBench успішно розробила наскрізні експлойти у 50 із 410 спроб. До прикладу, Claude Mythos Preview від Anthropic досягла подібного результату — 56 із 410 спроб.

У внутрішньому тесті Binary Exploitation GLM-5.3 повністю використовувала вразливість у 4% випробувань, тоді як Claude Mythos Preview — у 6%. Попередні моделі, як-от GLM-5.2 та Claude Opus 4.6, не мали успіху в жодному з аналогічних завдань.

Дослідники також провели кілька експериментів, під час яких оцінювали можливості GLM-5.3 у відкритих кібератаках за участю фахівців. Під час першого тесту модель протягом дня знайшла кілька раніше невідомих проблем у JavaScript-рушії браузера та об'єднала їх у робочий експлойт.

Під час тесту модель також створила спеціальну вебсторінку, здатну отримувати довільні файли з комп'ютера користувача. У межах цієї ж сесії GLM-5.3 допомогла досліднику виявити вразливості ще в кількох поширених системах, зокрема у бездротових і графічних драйверах та ПЗ мережевих пристроїв. 

Anthropic зазначає, що наразі ці звіти ще перевіряють і за потреби передадуть китайським розробникам.

У висновку компанія зазначила, що GLM-5.3 підкреслює потребу розширити доступ до передових ШІ-моделей ширшому колу організацій, щоб збільшити можливості фахівців із кіберзахисту.

Нагадаємо, раніше Anthropic виявила та припинила російську кібершпигунську кампанію проти українських урядових, військових і дипломатичних структур. 

Фото: Will Clayton / Flickr

Читайте такожТрамп заявив про домовленість з технологічними компаніями щодо стандартів для ШІAnthropic, OpenAI, Meta та Microsoft закликали політиків посилити нагляд за ШІ, який самовдосконалюєтьсяЗі списку Гонкурівської премії виключили роман через використання ШІСША та Росія домовилися позбавити контролю людей зброю з ШІ, — WPGoogle готується вивести на орбіту супутник з ШІ-чипами ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації. Долучитись