Ризик втрати контролю: OpenAI, Anthropic, Google та Meta закликали до регулювання розвитку ШІ

Вимоги до міжнародного контролю за розвитком технології посилюються: лідери Європейського Союзу уперше планують окремо обговорити штучний інтелект як стратегічний і безпековий виклик. На цьому тлі понад 1100 працівників провідних компаній у сфері ШІ підписали петицію Pacing the Frontier із закликом до уряду Сполучених Штатів підтримати регулювання темпів його розвитку. Про це повідомили організатори ініціативи на сайті петиції Pacing the Frontier.

На момент публікації 1132 співробітників провідних компаній, які займаються розробкою ШІ, підтримали петицію Pacing the Frontier. Серед них — OpenAI, Anthropic PBC, Google, що входить до Alphabet Inc., а також Meta Platforms Inc.Її автори закликають уряд США сприяти створенню механізму цільового регулювання темпів автоматизованого розвитку передових систем ШІ.

Автори петиції пропонують США підтримати міжнародні зусилля зі створення інструментів, які за потреби дозволять впливати на швидкість розробки дедалі складніших систем ШІ. На їхню думку, це може знадобитися у разі стрімкого зростання можливостей передових моделей. У зверненні йдеться про реальний ризик того, що ШІ розвиватиметься швидше, ніж людство зможе зрозуміти або контролювати створені системи. Автори пов’язують цю загрозу з прогресом у сфері автоматизації досліджень самого ШІ.

"Штучний інтелект може допомогти створити кардинально краще майбутнє, однак такий результат не гарантований. Провідні світові компанії у сфері ШІ вважають, що можуть бути близькими до автоматизації досліджень у галузі штучного інтелекту", — наголошують підписанти.

Точно спрогнозувати, наскільки це прискорить подальший розвиток технології, складно. Однак існує ризик, що можливості систем зростатимуть швидше, ніж здатність людей розуміти їхню роботу, оцінювати наслідки та зберігати контроль. Для безпечної реалізації потенціалу штучного інтелекту галузі, державам і суспільству може знадобитися додатковий час. Його необхідно використати для усунення нових ризиків, розробки заходів безпеки та посилення контролю за передовими системами.

"Однак кожна компанія, як і кожна країна, перебуває під жорстким конкурентним тиском, який не дає змоги в односторонньому порядку сповільнювати ці темпи. Водночас сьогодні у світі немає технічних та управлінських інструментів для цілеспрямованого регулювання темпів глобального прогресу в розробленні передового ШІ", — зазначають автори петиції.

Підписанти пропонують спиратися на вже наявну роботу з моніторингу випуску нових ШІ-моделей. На цій основі уряд США має підтримати міжнародне співробітництво у сфері безпеки штучного інтелекту. У петиції міститься заклик сприяти розробці технічних і управлінських інструментів, необхідних для регулювання швидкості розвитку на передових рубежах автоматизованого створення ШІ.

"Якщо правда, що штучний інтелект матиме такий самий трансформаційний вплив, як електрика, ми маємо свідомо підходити до того, як його впроваджують у світі. Бездумні перегони без гарантій належного управління, безпеки та служіння технології суспільним інтересам суперечать такому підходу", — вказує на сторінці петиції штатна наукова співробітниця Google Лаура Вайдінгер.

Bloomberg звертає увагу на те, що ці пропозиції з’явилися на тлі посиленої уваги до здатності ШІ виконувати дедалі складніші завдання за мінімального контролю з боку людини. Зокрема, йдеться про пошук і можливе використання вразливостей у системах кібербезпеки та критично важливому програмному забезпеченні.

Минулого тижня OpenAI повідомила, що її найпотужніші моделі ШІ зламали технологічний стартап Hugging Face під час інциденту, який у компанії назвали безпрецедентним. Після цього знову посилилися заклики обмежити застосування таких технологій.

Петиція також перегукується з нещодавніми пропозиціями лідерів ШІ-індустрії створити новий міжнародний наглядовий орган. Він мав би перевіряти передові моделі та встановлювати для них спільні стандарти.