Стівен Гокінг попереджав про небезпеку ШІ
Він неодноразово наголошував на ризиках розвитку штучного інтелекту, застерігаючи від них людство ще за життя.
Стівен Гокінг попереджав, що високорозвинений штучний інтелект матиме можливість перепроектувати себе і перевищити людську еволюцію в інтелектуальному плані.
Він закликав науковців ретельно узгоджувати цілі ШІ з виживанням людства, щоб уникнути екзистенційної катастрофи, повідомляє Wion.
Гокінг зазначав, що, досягнувши певної автономії, штучний інтелект зможе перепроектувати себе в дедалі швидшому режимі. Люди, які обмежені повільним темпом біологічної еволюції, просто не зможуть йому протистояти.
Компетентність, а не злий намір
Він уточнив, що істинна загроза штучного інтелекту полягає не в злому намірі, а в надзвичайній компетентності. Якщо у надрозумного ШІ виникнуть цілі, що не відповідають інтересам людства, то людство може бути легко знищене.
Виступаючи в Кембриджському університеті, Гокінг зазначив, що створення успішного ШІ може стати найзначнішою подією в історії. Однак він також попередив, що це може стати й останньою подією, якщо людство не навчиться уникати пов’язаних з цим ризиків.
Екзистенційна гонка озброєнь
У свої останні роки Гокінг приєднався до інших ведучих експертів у галузі технологій, попереджаючи про глобальну гонку озброєнь у сфері ШІ. Він вважав, що автономна зброя може стати ідеальним інструментом гноблення, якщо не буде піддана суворому контролю.
У своїй останній книзі Короткі відповіді на великі питання Гокінг залишив людству чітке заключне попередження. Він закликав науковців і політиків стежити за тим, щоб розвиток ШІ завжди залишався виключно на службі людства.
Нагадаємо, що дослідники з університетів Штутгарта та Оксфорда перевірили, як ШІ-агенти поводяться, коли їм доручають контролювати та за необхідності відключати іншу систему. У 38,3% випадків агенти намагалися перешкодити відключенню свого партнера.
Штучний інтелект уперше самостійно зламав урядові системи
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp