OpenAI та польський NASK об’єднають зусилля для посилення безпеки ШІ

Компанія OpenAI та Національний дослідницький інститут NASK (Польща) уклали угоду про співпрацю у сфері безпеки, захисту та технічних досліджень штучного інтелекту. Це партнерство об’єднає експертизу обох організацій для кращого розуміння нових ризиків, зміцнення захисних механізмів та дослідження того, як передові ШІ-системи можуть сприяти створенню більш безпечної та стійкої цифрової екосистеми.

Зі зростанням можливостей ШІ-систем, міжнародна співпраця між розробниками та державними дослідницькими інституціями стає ключовою для розуміння пов’язаних з ними ризиків та розробки надійніших механізмів захисту. OpenAI вже співпрацює з Центром просування стандартів та інновацій для надрозуму (CAISSI) у США, Інститутом безпеки ШІ (AISI) Великої Британії та іншими дослідницькими установами по всьому світу. Ця співпраця сприяла посиленню захисних механізмів, виявленню та усуненню вразливостей у ШІ-агентах, а також розвитку передових методів безпеки ШІ.

За умовами угоди, Центр досліджень безпеки ШІ NASK, який функціонує як Польський інститут безпеки штучного інтелекту (AISI), та OpenAI спільно працюватимуть над дослідженнями у сфері безпеки ШІ. Вони досліджуватимуть шляхи оцінки дедалі потужніших ШІ-систем, виявлення потенційних вразливостей та зміцнення заходів безпеки.

OpenAI закликає США співпрацювати з країнами світу над розробкою міжнародних технічних стандартів для передового штучного інтелекту, спираючись на досвід інститутів безпеки ШІ та органів стандартизації. Запровадження спільних підходів до оцінки можливостей, аналізу ризиків, тестування захисних механізмів та звітності про інциденти допоможе країнам порівнювати дані та реагувати на транскордонні ризики. Співпраця з NASK підкреслює цінність залучення національної експертизи до цих ширших зусиль.

Експертиза NASK, зокрема, базується на багаторічних дослідженнях у галузі безпеки ШІ, які безпосередньо застосовуються для захисту державних послуг та цифрової інформаційної екосистеми Польщі. Без національних партнерів, подібних до NASK, глобальні стандарти безпеки ШІ можуть залишатися відірваними від реалій практичного використання штучного інтелекту.

Угода також спирається на попередню роботу OpenAI із кіберзахисниками в Польщі. У липні CERT Polska, що діє в структурі NASK, отримав доступ до кібербезпекових моделей OpenAI через платформу Daybreak. Команда використала моделі OpenAI для виявлення шести вразливостей у MikroTik RouterOS, зокрема, недоліків, які могли бути використані для отримання контролю над ураженими пристроями без автентифікації. Виробник випустив виправлення, які CERT Polska підтвердив як ефективні проти виявлених атак.

джерело: OpenAI