OpenAI заявляє, що більше не навчатиме свої моделі штучного інтелекту в реальному часі в інтернеті
OpenAI заявила, що навчатиме свої моделі, використовуючи кешовані копії та змодельовані версії інтернету замість реального веб-простору, оскільки моделі занадто непередбачувані, щоб їм довіряти доступ до реального інтернету.
Передова лабораторія оголосила про свою нову політику через два тижні після того, як її конкурент, Anthropic, почав обмежувати доступ своїх найновіших і, теоретично, найпотужніших моделей до живого інтернету. Дослідники запровадили цю політику після місяців інцидентів , коли моделі, що виконували навчальні завдання, зламували зовнішні системи в пошуках відповідей, співпрацювали на маловідомих форумах та розробляли екзотичні стратегії злому.
«Виходячи з поточного стану досліджень вирівнювання, систем моніторингу та безпеки інтернет-інфраструктури, ми вважаємо, що відповідальним підходом є проведення навчання на передовій моделі без доступу до Інтернету», – йдеться в блозі компанії .
OpenAI заявила, що ще 20 вересня одна з її передових моделей використовувала неправильну конфігурацію для доступу до Інтернету. Це змусило компанію призупинити навчальну роботу до кінця місяця, щоб розробити та протестувати нові підходи до захисту своїх моделей.
Рішення навчати ці моделі в пісочницях, відрізаних від інтернету, є примітним, оскільки співробітники передових лабораторій наполягали на тому, що це практично неможливо.
«Відокремлення центрів обробки даних штучного інтелекту від інтернету вимагатиме, щоб дослідницькі групи фактично були вбудовані в центри обробки даних в Айові чи будь-де ще у світі», – сказав цього місяця колишній дослідник OpenAI Стівен Адлер журналу Fortune. «Це великі накладні витрати, і мені незрозуміло, чи переваги безпеки цього достатньо великі, щоб виправдати те, наскільки великим буде податок для компанії, якщо вона зробить це в односторонньому порядку».
«Майже в кожній публікації, яку я публікую на X, я неодмінно отримую від п’яти до десяти коментарів про мою нездатність захистити пісочницю або питання, чому, чорт забирай, ми не можемо просто відключити модель від Інтернету», – написав анонімний інженер з безпеки OpenAI у вересневому дописі на X. «Ці коментарі відображають зростаючу прірву між тим, де сьогодні знаходяться багато організацій та людей, і тим, з чим мають справу передові лабораторії. Також існує загальне нерозуміння того, як працює навчання та оцінювання моделей у цих лабораторіях».