Чи зможе ШІ знищити людство: експерти пояснили реальний ризик

Надрозум, який не слухається людей: чому вчені побоюються майбутнього штучного інтелекту

Розвиток штучного інтелекту дедалі частіше викликає побоювання серед дослідників. 

Якщо ШІ навчиться самостійно вдосконалюватися, контролювати його може стати значно складніше, пише Уніан.

Фахівці не стверджують, що катастрофа неминуча.

 

Прогнози щодо можливого «виходу з-під контролю» відрізняються, а конкретні дати, зокрема 2027 рік, залишаються лише припущеннями.

Небезпека може полягати не в тому, що ШІ навмисно захоче знищити людей. Система може просто намагатися максимально ефективно виконати поставлене завдання, обираючи способи, які люди не передбачили або не схвалили.

Теоретично надпотужний ШІ може намагатися отримати більше обчислювальних ресурсів, доступу до інформації чи енергії.

 

Людей при цьому він може сприймати як перешкоду для досягнення своєї мети.

Сучасні системи за потреби можна фізично відключити. Але якщо майбутній ШІ матиме доступ до великої кількості мереж, серверів та інфраструктури, зробити це буде набагато складніше.

Тому головне питання для дослідників полягає не в тому, чи стане ШІ «злим», а в тому, чи зможе людство зберегти контроль над технологією, якщо вона стане значно розумнішою та автономнішою за сучасні системи.

Радіо Трек: НОВИНИ