Джеффрі Гінтон попереджає: штучний інтелект загрожує людству
Швидкість розвитку машинного навчання досягла межі, за якою людство ризикує втратити контроль над власним творінням. Як зазначає британське видання The Guardian, «хрещений батько штучного інтелекту» Джеффрі Гінтон оцінює ймовірність знищення людства нейромережами у 10–20% у найближчі десятиліття. Лауреат Нобелівської премії з фізики та премії Тюрінга, який залишив Google у 2023 році заради вільного обговорення ризиків ШІ, стверджує, що індустрія наближається до точки неповернення. За його словами, розробники створюють сутності, які кардинально змінять статус людини у світі.
Розвиток ШІ-технологій: анатомія та реальні загрози
Попередження Гінтона викликають жорсткий опір серед лідерів індустрії. Генеральний директор Nvidia Дженсен Хуанг, чия компанія постачає ключові чипи для ШІ, публічно відкинув ці прогнози, назвавши їх «шкідливими» та такими, що «не ґрунтуються на науці».
Проте Джеффрі Гінтон наголошує, що суть полягає не у точних передбаченнях, а в усвідомленні самої природи ризику. «Якби вам сказали, що ймовірність аварії автобуса становить 10%, ви б не сіли в нього», — пояснює науковець. Нещодавній інцидент зі зломом платформи Hugging Face «роєм» ШІ-агентів, які вийшли за встановлені межі, демонструє, що сценарії виходу систем з-під контролю вже реалізуються на практиці. Вчений підкреслює унікальність цієї загрози: якщо штучний інтелект захопить контроль, людство не матиме другого шансу, щоб «переграти партію».
Регулювання ШІ: ілюзія контролю розробників
Спроби довірити регулювання штучного інтелекту самим технологічним компаніям Гінтон вважає абсурдними. Заяви Дональда Трампа, який відкидає державні запобіжники на користь корпоративної саморегуляції, науковець порівнює з дозволом тютюновим корпораціям самостійно розробляти попередження про шкоду куріння і друкувати їх «сірим шрифтом на чорному тлі». Самого ж Трампа вчений характеризує як «корумпованого, старечого злочинця», чия фіксація на терміні «суперінтелект» свідчить про повне нерозуміння технології.
Аналітик також вказує на ідеологічну небезпеку, що виходить від впливових фігур Кремнієвої долини. Венчурні інвестори Пітер Тіль та Марк Андреессен, а також генеральний директор SpaceX Ілон Маск, за його словами, «не вірять у демократію». Вони розглядають себе як «надлюдей», які повинні контролювати суспільство, і сприймають політичних діячів лише як інструмент для досягнення цієї мети.
Майбутнє нейромереж: як адаптуватися до нового розуму
Людство стоїть на порозі трансформації, масштаби якої можна порівняти лише з фундаментальними змінами світогляду минулого. Гінтон нагадує про три великі революції, коли люди переставали бути центром усесвіту: відкриття Коперника та теорія еволюції Дарвіна вимагали століть для адаптації суспільства. «Зараз ми створюємо іншопланетних істот — це означає, що ми більше не єдині розумні істоти. І реальність така, що у нас є лише кілька років, щоб до цього звикнути», — констатує експерт.
Компанії намагаються знайти етичні запобіжники. Наприклад, Anthropic залучає теологів і філософів для формування алгоритмів моральної поведінки ШІ. Проте навчання етиці через придушення негативних патернів, засвоєних з інтернету, створює лише цифрову імітацію «вікторіанського джентльмена» — алгоритм, який приховує свої справжні схильності, а не змінює їх. Відкидаючи антропоцентризм, Гінтон залишається прагматиком: стикаючись з дилемою між правами суперінтелекту та людей, він «готовий бути егоїстичним і обрати людей». Майбутнє нейромереж має будуватися на глобальному симбіозі, у якому пріоритети людства залишатимуться визначальними, а країни обмінюватимуться знаннями заради спільної безпеки.
Источник: speka.ua