OpenAI навчатиме ШІ-моделі без доступу до інтернету

Автори: Марина ПилипенкоЗаходи безпеки було посилено після низки інцедентів, під час яких агенти штучного інтелекту виходили з-під контролю.

Компанія OpenAI  проводитиме навчання передових моделей штучного інтелекту без доступу до інтернету. Про це компанія повідомила у своєму блозі. 

Заходи безпеки було посилено після низки інцедентів, під час яких ШІ-агенти самостійно виходили у глобальний інтернет або несанкційовано встановлювали контакт із іншими агентами. 

«Виходячи з поточного стану досліджень узгодженості, систем моніторингу та безпеки інтернет-інфраструктури, ми вважаємо, що відповідальним підходом є проведення навчання передових  моделей без доступу до інтернету. Ми впровадили цю політику та будемо дотримуватися її, доки прогрес у цих заходах безпеки не виправдає ширший доступ до Інтернету», — йдеться у повідомленні компанії.

Водночас OpenAI запустила кампанію з виявлення слабких місць у своїх системах. Тести виявили раніше невідомі вразливості програмного забезпечення, а також неправильні конфігурації у дослідницькій інфраструктурі. Компанія повідомила, що слабкі місця були усунуті, але тестування системи вирішили запровадити на постійній основі.

«Кількість вразливостей та неправильних конфігурацій, виявлених нашими агентами-тестувальниками, значно зменшилася. Хоча ми розглядаємо це як обнадійливий сигнал щодо потужності нашої інфраструктури, ми очікуємо, що майбутні моделі зможуть виявляти та використовувати вразливості, про які нам ще не відомо. Тому ми розглядаємо постійне тестування як ключову частину  довгострокової стратегії зміцнення безпеки наших дослідницьких середовищ», — повідомили вOpenAI. 

Нагадаємо, раніше  автономні ШІ-агенти OpenAI атакували інфраструктуру стартапу Hugging Face, а також німецький вебсайт DseWiki. Ці та інші схожі випадки посилили занепокоєння щодо безпеки штучного інтелекту. 

Після цього керівник Anthropic Даріо Амодей закликав сповільнити розвиток передових ШІ-моделей. Його думку підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. 

Пізніше чотири користувачі сервісів ChatGPT, Claude, Grok та Gemini подали колективний позов проти компаній-розробників цих ШІ-моделей через домовленість про сповільнення розвитку технології.

Читайте такожКитайськомовний хакер використав ШІ-агентів для злому більш ніж сотні сайтів великих компаній, — ReutersШІ-модель Anthropic надіслала поліції США фальшиве повідомлення про вбивствоАвстралія заявила, що ШІ-агент OpenAI зламав урядовий портал із медичними данимиЧатбот Gemini від Google зламав три компанії під час тестування безпеки ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації. Долучитись