Сатья Наделла з Microsoft каже, що моделям штучного інтелекту потрібне «аварійне гальмо»

Генеральний директор Microsoft Сатья Наделла — черговий керівник технічної галузі, який запропонував розгорнуті роздуми про те, як можна покращити безпеку штучного інтелекту.

У ранковому дописі на X Наделла написав, що настав час «відступити назад і оцінити архітектуру довіри» штучного інтелекту.

«Ми не можемо ставитися до суперінтелекту як до набору вкладених чорних скриньок і просто приймати або відхиляти його рекомендації, відповіді та дії», – написав Наделла, використовуючи улюблений термін адміністрації Трампа для позначення штучного інтелекту . 

Як зазначив Наделла, цей підхід «означає відокремлення моделі від механізму, який керує її роботою», а також «екстерналізацію контролю та запобіжних заходів». Він також закликав до того, щоб «кожна значуща дія моделі» була задокументована за допомогою «захищених від несанкціонованого доступу доказів, що читаються людиною», а також до систем, де «уповноважена особа» завжди має можливість «призупинити або зупинити модель під час виконання завдання».

«Ми повинні припускати, що модель скомпрометована, і стримувати її з самого початку», – сказав він. «Уявіть собі це як екстрене гальмо».

Коментарі Наделли з'явилися на тлі того, як провідні компанії зі штучного інтелекту визнають дедалі більше випадків, коли вони, здавалося, втрачали контроль над своїми моделями , а також після того, як генеральний директор Anthropic Даріо Амодей опублікував план більш обережної розробки штучного інтелекту.