“Батько ШІ” пропонує аналог FDA для розробки ШІ

Джеффрі Гінтон, один із піонерів штучного інтелекту, запропонував створити механізм регулювання розробки ШІ за аналогією з Управлінням з санітарного нагляду за якістю харчових продуктів та медикаментів США (FDA).

Виступаючи у вівторок у подкасті «Smart Girl Dumb Questions», видатний учений та лауреат Нобелівської премії, відомий як «батько ШІ», висловив думку, що компанії, які розробляють штучний інтелект, повинні доводити безпечність своїх продуктів перед регуляторними органами перед їх випуском на ринок.

«Ви не можете просто випустити нові ліки на ринок», — сказав Гінтон ведучій подкасту Наїмі Раза. «Вам потрібно переконати FDA. І для цього потрібно виконати величезний обсяг роботи, який коштує близько мільярда доларів».

«Принаймні, такі ж вимоги слід встановити й для штучного інтелекту», — додав Гінтон.

Пропозиція Гінтона пролунала на тлі зростаючої стурбованості щодо потенційних катастрофічних наслідків використання ШІ. Крім того, компанія OpenAI нещодавно відклала випуск своєї найновішої моделі через побоювання щодо її здатності дотримуватися вказівок користувачів та зберігати межі дозволів.

Раніше Саачі Джайн, керівниця відділу безпеки OpenAI, в інтерв’ю Business Insider заявила, що модель GPT-6.1 Astra продемонструвала прогрес у виконанні складних завдань, але все ще має недоліки в контролі доступу та зворотньому зв’язку щодо логів поведінки.

Гінтон наголосив, що штучний інтелект все частіше здійснює самостійну ітераційну оптимізацію. Це може як прискорити зростання його можливостей, так і посилити потенційні ризики.

«Експоненційне зростання швидкості вражає», — зазначив Гінтон. «Ми вже починаємо спостерігати явища рекурсивного самовдосконалення: люди різними способами вдосконалюють ШІ за допомогою самого ШІ».

«Звісно, це лише мої припущення», — додав він. «Але я оцінюю, що до того моменту, коли ситуація стане набагато гіршою, ніж зараз, залишилося лише рік-два».

Ці застереження від одного з найавторитетніших голосів у галузі ШІ підкреслюють нагальну потребу в розробці ефективних механізмів безпеки та регулювання для технологій, що розвиваються експоненційно. Запропонований підхід, який вимагає попереднього схвалення регуляторними органами, подібний до того, як фармацевтичні компанії повинні проходити суворі випробування та перевірки, перш ніж отримати дозвіл на випуск нових препаратів. Це дозволило б гарантувати, що потенційні ризики ШІ будуть належним чином оцінені та мінімізовані.

Виклики, пов’язані з контролем доступу та прозорістю поведінки моделей ШІ, як це видно на прикладі OpenAI, свідчать про складність завдань, що стоять перед розробниками. Необхідність у розробці надійних систем моніторингу та звітності є очевидною, щоб забезпечити відповідальне впровадження цих потужних технологій.

З огляду на швидкість розвитку ШІ, прогнози Гінтона про можливе погіршення ситуації протягом наступних кількох років, вимагають негайної уваги. Необхідність у співпраці між дослідниками, компаніями та регуляторними органами стає дедалі важливішою для формування майбутнього ШІ таким чином, щоб воно було безпечним і корисним для суспільства.

Джерело: https://www.ithome.com/1/010/187.htm