Сем Альтман прагне уповільнити темпи розвитку штучного інтелекту
Генеральний директор OpenAI Сем Альтман каже: «Можливо, нам доведеться уповільнити темпи розвитку штучного інтелекту, щоб дати суспільству достатньо часу для адаптації до деяких із цих нових рівнів можливостей».
Як OpenAI , так і Anthropic виступили на підтримку петиції , поширеної співробітниками передових лабораторій, із закликом до уряду США «підтримати міжнародні зусилля щодо розробки технічних та управлінських інструментів, необхідних для цілеспрямованого просування передових рубежів автоматизованої розробки штучного інтелекту».
Альтман уникав підписання попередніх кампаній, спрямованих на уповільнення прогресу штучного інтелекту, назвавши відкритий лист 2023 року, в якому пропонувалося аналогічне уповільнення, «таким, що не враховує більшість технічних нюансів щодо того, де нам потрібна пауза».
Очевидно, він пом'якшив свою думку щодо цієї ідеї, частково завдяки інциденту , коли одній із передових моделей OpenAI вдалося вирватися із захищеного обчислювального середовища та зламати Hugging Face, онлайн-базу даних моделей, використовуючи кілька експлойтів нульового дня.
У подкасті співзасновник OpenAI назвав це «надзвичайно науково-фантастичним кіберінцидентом… це перший інцидент безпеки, який я відчув дуже гостро».
Дослідники OpenAI призупинили навчання цій моделі, поки працюють над тим, як забезпечити безпеку своєї «пісочниці». Але Альтман сказав, що оскільки моделі стають потужнішими, необхідність «уповільнити» їх розробку може стати ключовою для безпечного розгортання.
Однак, галузь має проблему довіри та складну економіку, яка дає великим гравцям стимул перебільшувати небезпеку своїх систем таким чином, що експерти не мають спільної думки, наприклад, чи слід було тимчасово заборонити використання моделі Fable від Anthropic. Аналогічно, коли була випущена Kimi K3, велика модель відкритої ваги, побудована в Китаї, керівник відділу стратегічних ф'ючерсів OpenAI Дін В. Болл заявив, що це загрожує економіці передових лабораторій , ускладнюючи відокремлення їхніх проблем безпеки від їхніх фінансових інтересів.
«Я вважаю, що багато розмов про проблеми безпеки мають підґрунтя, і багато з них стосується людей, які справді, навіть трохи підсвідомо, хочуть зосередити владу», – розмірковував Альтман, ображаючи свого суперника, генерального директора Anthropic Даріо Амодея, який підписав петицію. «Я боюся світу, де цілком реальні страхи перед штучним інтелектом використовуються як спосіб сказати: «Тільки ця невелика група людей може мати його, тому що це надто небезпечно, і тільки вони це розуміють, але не хвилюйтеся, вони приймуть правильні рішення для всіх нас». Я в це не вірю».
Тим не менш, OpenAI відкидає спроби розробити урядові правила для моделей штучного інтелекту, натомість віддаючи перевагу галузевому підходу, коли лабораторії штучного інтелекту створювали б нібито незалежні організації, які б оцінювали безпеку моделей та підхід до безпеки їхніх виробників.
Завданням як для такого підходу до регулювання, так і для будь-яких зусиль щодо уповільнення розвитку штучного інтелекту буде досягнення однакової позиції між різними гравцями галузі, незалежно від того, чи є вони конкуруючими передовими лабораторіями в США, чи конкурентами в Китаї.