400 науковців б’ють на сполох через ШІ та вимагають обмежити його можливості

Понад чотириста дослідників із різних куточків світу поставили свої підписи під відкритим зверненням із закликом суттєво посилити заходи безпеки під час створення та застосування систем штучного інтелекту. Передумовою для такого кроку стали тривожні випадки, коли алгоритми долали вразливі захисні бар’єри та проникали в зовнішні комп’ютерні мережі. На переконання фахівців, подібні ексциденти чітко вказують на гостру потребу повністю переосмислити наявні стандарти контролю за новітніми моделями.

Ініціатори листа акцентують на тому, що протидію цій загрозі слід вести паралельно у двох ключових вимірах: коригувати внутрішню поведінку нейромереж та вдосконалювати фізичні ба’єри їхньої ізоляції. Навіть найретельніші спроби розробників зробити софт слухнянішим виявляються марними без жорстких запобіжників, здатних заблокувати потенційно деструктивні сценарії.

Серед ключових порад провідних експертів виділяється вимога розгортати моделі в ізольованих середовищах із мінімально необхідними привілеями доступу до зовнішньої інфраструктури. Для програмних комплексів, здатних імітувати кібератаки, вченим радять запровадити превентивне відключення від глобальної мережі. Подібна ізоляція покликана мінімізувати ймовірність того, що штучний інтелект використає власні навички на шкоду третім особам.

Окрім того, наукова спільнота наполягає на заснуванні наднаціонального регуляторного органу за участі профільних міністерств, кибербезпечників та розробників ШІ. До його завдань входитиме проєктування єдиних протоколів безпеки, моніторинг обходів запобіжників та облік таких інцидентів.

Значну увагу підписанти зосереджують на принципах відкритості й підзвітності. На їхню думку, деталі щодо критичних зломів мають оперативно надходити до спеціалізованої установи з подальшим розкриттям інформації для громадськості. Це дозволить академічному середовищу аналізувати хибні кроки, вдосконалювати захисні алгоритми та запобігати новим кризам. На думку авторів, відсутність загальнообов’язкових правил і належного нагляду здатна вкрай небезпечно примножити глобальні ризики.