Anthropic захищає Claude від крадіжки даних: на 99% менше витоків

Компанія Anthropic, відома своєю мовною моделлю Claude, запровадила нові заходи безпеки для протидії так званим “атакам дистиляції”. Ці атаки, що здійснюються конкурентами, спрямовані на крадіжку просунутих можливостей ШІ-моделей шляхом відтворення їх функціоналу за нижчу ціну та у коротші терміни. Завдяки новим захисним механізмам, Anthropic вдалося зменшити обсяг даних, що викрадаються під час таких атак, на 90-99%.

Модельна дистиляція є серйозною проблемою для провідних розробників ШІ, таких як Anthropic, OpenAI та Google. Ця техніка дозволяє конкурентам отримати доступ до передових розробок, минаючи значні витрати на дослідження та розробку. Anthropic стверджує, що її нові захисні системи ефективно обмежують доступ до процесу виведення (inference) Claude, значно зменшуючи можливості для вилучення інформації.

Як працює новий захист Anthropic?

Нові заходи безпеки Anthropic ускладнюють для зловмисників використання мереж проксі для багаторазового зондування захищених ланцюжків виведення Claude. Це дозволяє ефективно перехоплювати спроби вилучення даних та блокувати великомасштабні операції дистиляції. Компанія зазначає, що тепер “дистиляційні зловмисники можуть витягти лише від однієї десятої до однієї сотої частки токенів виведення порівняно з попередніми показниками”.

Рівень безпеки, забезпечений новою системою, Anthropic порівнює із захистом, що запобігає використанню Claude для створення біологічної зброї. При цьому рівень помилкових спрацьовувань (false positives) становить менше 0.1%.

Боротьба з порушниками

Крім технічних заходів, Anthropic також активно бореться з порушниками. Компанія заблокувала десятки тисяч облікових записів, пов’язаних з діяльністю з дистиляції. Як приклад, Anthropic навела китайську стартап-компанію Zhipu AI, яка, за твердженнями Anthropic, намагалася застосувати дистиляцію для отримання можливостей моделі Claude під час розробки власної моделі GLM-5.3.

Anthropic наголошує, що подібні дії становлять значні ризики як для безпеки окремих компаній, так і для національної безпеки в цілому. Крадіжка передових ШІ-технологій може мати непередбачувані наслідки, тому компанія має намір продовжувати посилювати свої захисні механізми.

Ці кроки Anthropic свідчать про зростаючу увагу розробників ШІ до питань безпеки даних та захисту інтелектуальної власності. В умовах стрімкого розвитку штучного інтелекту, запобігання несанкціонованому копіюванню та зловживанню технологіями стає одним із ключових завдань для галузі.

Джерело: https://www.ithome.com/1/012/264.htm