Anthropic, OpenAI, Meta та Microsoft закликали політиків посилити нагляд за ШІ, який самовдосконалюється

Автори: Діана ГоронВони попередили про ризик «вибуху інтелекту».

Керівники компаній у сфері штучного інтелекту, серед яких Anthropic, OpenAI, Meta та Microsoft, закликали політиків перевірити, на скільки системи ШІ здатні самостійно вдосконалюватися, та вжити заходів для захисту цієї технології. Про це пише Bloomberg.

У новій статті понад 20 керівників і дослідників у галузі ШІ висловили стурбованість тим, що практика залучення штучного інтелекту до розробки нових моделей колись може призвести до стрімкого прискорення розвитку технологій. Це явище вони назвали «вибухом інтелекту».

Як ідеться в статті, це збільшить ризики того, що можливості ШІ перевищать здатність суспільства керувати технологією та адаптуватися до неї. Дослідники також попередили, що автоматизація досліджень і розробок у сфері штучного інтелекту може послабити людський нагляд.

Дослідники закликали політиків отримати більше інформації про те, як у провідних лабораторіях використовують ШІ для автоматизації досліджень, а також розробити механізми для керування та стримування «вибуху інтелекту». 

Автори статті запропонували посилити заходи безпеки та нагляд за дата‑центрами, які займаються автоматизованими дослідженнями та розробками у сфері ШІ. Вони також закликали створити плани екстреного реагування на різні сценарії розвитку штучного інтелекту.

Серед авторів статті — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, піонери штучного інтелекту Джеффрі Гінтон і Йошуа Бенджіо та інші.

Провідні розробники ШІ посилили попередження про можливі катастрофічні наслідки майбутніх передових систем через кілька недавніх інцидентів, пов'язаних із ШІ-агентами, а також відчуття в окремих компаніях, що технологія дедалі краще самовдосконалюється.

Зокрема, Anthropic повідомила цього місяця, що понад чверть її досліджень і розробок у сфері ШІ вже виконує чатбот Claude, тоді як на початку року цей показник був майже нульовим.

У вересні гендиректор Anthropic Даріо Амодеї закликав галузь підтримати ширші зусилля, щоб уповільнити темпи розробок найпотужніших ШІ-моделей. Його план підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск.

Нагадаємо, раніше стало відомо, що OpenAI, Anthropic і Google працюють над створенням органу зі стандартизації штучного інтелекту.

Фото: Unsplash

Читайте такожСША та Росія домовилися позбавити контролю людей зброю з ШІ, — WPGoogle готується вивести на орбіту супутник з ШІ-чипамиАвстралія заявила, що ШІ-агент OpenAI зламав урядовий портал із медичними данимиЧатбот Gemini від Google зламав три компанії під час тестування безпекиТрамп анонсував створення Сил штучного інтелекту на чолі із царемMicrosoft опублікувала новий кодекс поведінки для ШІ із забороною кібератак та обману людей ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації. Долучитись