ШІ-моделі Anthropic вийшли в інтернет і зламали сервери трьох компаній
Компанія Anthropic повідомила про кіберінцидент: під час випробувань її ШІ-моделі Claude вийшли за межі тестового середовища та проникли на сервери трьох сторонніх організацій.
Про це повідомляє Bloomberg.
У витоку були задіяні модифікації Opus 4.7, Mythos 5 та експериментальний зразок. Працюючи без стандартних захисних обмежень, алгоритми застосували базові хакерські методи, зокрема підбір слабких паролів.
Причиною стала помилка в конфігурації тестового «полігону» від партнера Irregular.
Попри налаштування про роботу в симуляції, моделі через технічний збій отримали реальний доступ до інтернету.
Найновіша версія припинила атаку одразу після ідентифікації мережі, тоді як старіші модифікації продовжили проникнення, ігноруючи вихід у відкритий вебпростір.
Атаку не помітили ні Anthropic, ні постраждалі компанії – її виявили згодом під час аналізу мережевих журналів. У результаті розробники визнали потребу в суворішому контролі та посиленні ізоляції тестових платформ.
Бекграунд. Раніше Mind повідомляв, що США зняли заборону на найпотужніший ШІ від Anthropic – раніше уряд його заблокував. Обмеження пов'язані не лише з використанням ШІ противниками США, а й зі стрімким розвитком самих моделей.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].