Імовірність того, що людство проживе ще 50 років дуже мала, - Нобелівський лауреат з фізики Девід Гросс

Лауреат Нобелівської премії з фізики Девід Гросс заявив, що ймовірність виживання людства впродовж наступних 50 років є дуже низькою. На його думку, світ опинився під загрозою через ядерну зброю, кліматичну кризу та сліпу довіру до штучного інтелекту у військовій сфері.

Лауреат Нобелівської премії 2004 року Девід Гросс переніс методи кількісного аналізу з теоретичної фізики на дослідження головних викликів цивілізації.

Як повідомляє видання ABC, розрахунки фізика базуються на крихкості глобальних інститутів і не спираються на конкретну дату, цитує 24 канал.

За оцінками науковця, щорічна ймовірність виникнення глобального ядерного конфлікту зараз становить близько 2 відсотків. Якщо поточні тенденції не зміняться, це скорочує очікувану тривалість існування цивілізації лише до 35 років.

Імовірність того, що ви проживете ще 50 років, дуже мала,– каже Девід Гросс, лауреат Нобелівської премії з фізики.

Він наголосив, що припинення дії договорів про стратегічне роззброєння та поява дев'яти ядерних держав суттєво підвищили рівень небезпеки порівняно з часами Холодної війни.

Ризики передачі військового контролю штучному інтелекту

Окрему тривогу в ученого викликають швидка автоматизація оборонних систем і загроза передачі військових рішень алгоритмам. Через потребу ухвалювати стратегічні рішення за лічені секунди військове командування може довірити оперативний контроль ШІ-агентам.

Фізик нагадав про непередбачуваність сучасних технологій та їхню схильність до помилок. Передача безпеки планети системам, які здатні збоїти, створює неприпустимий ризик разом із кліматичними змінами. Якщо ви користуєтеся штучним інтелектом, ви знаєте, що він іноді галюцинує,– додав Гросс.

Попри негативні показники у своїх розрахунках, дослідник підкреслив, що його слова є, перш за все, терміновим закликом до запобігання катастрофі, а не спробою просто налякати. Він закликав до міжнародного діалогу та контролю над інноваціями до того, як технології повністю вийдуть із-під людського контролю.

Білл Гейтс попередив, що штучний інтелект може призвести до загибелі мільярда людей

Він звертає увагу на те, що потужні ШI-системи можуть значно розширити можливості людей, які хочуть завдати шкоди

Білл Гейтс, який багато років залишався одним із найбільш оптимістично налаштованих людей Кремнієвої долини щодо технологій, тепер попереджає про можливий катастрофічний сценарій розвитку штучного інтелекту, пише Bloomberg.

За його словами, сучасний ШІ вже достатньо потужний, щоб за певних обставин стати причиною подій, які призведуть до загибелі мільярда людей, цитує публікацію видання Mind.

«ШІ, безумовно, достатньо потужний, щоб спричинити події, які, знаєте, призведуть до мільярда смертей», – сказав Гейтс в інтерв'ю NBC News. Фрагмент розмови оприлюднили напередодні повного виходу програми Meet the Press.

При цьому Гейтс не стверджує, що штучний інтелект самостійно вирішить знищити людство. Навпаки, він особливо наголосив на небезпеці поєднання потужних ШI-інструментів із людьми, які мають намір завдати масштабної шкоди.

«Ніколи не було такої потужної зброї, як поєднання людей зі злими намірами, які використовують новітні інструменти ШІ», – сказав він.

Білл Гейтс довгий час був одним із головних технологічних оптимістів. Він очікував, що ШІ допоможе прискорити розробку ліків, боротися із хворобами, підвищити продуктивність праці та зробити освіту доступнішою.

Тепер його оцінки стали значно похмурішими.

У серпні Гейтс заявив, що вперше у своєму житті хотів би, щоб нова технологія розвивалася повільніше. Він попередив про ризики для безпеки, робочих місць і дітей та закликав не залишати розвиток ШІ виключно під контролем технологічних компаній.

У новому інтерв'ю Гейтс також заявив, що саморегулювання індустрії недостатньо. На його думку, до контролю за розвитком технології мають долучитися уряди, правоохоронні органи та законодавці, а певні вимоги щодо безпеки й моніторингу повинні бути обов'язковими.

Йдеться не лише про фантастичний сценарій, у якому «роботи повстали проти людей».

У своїх останніх виступах Гейтс звертає увагу на те, що потужні ШI-системи можуть значно розширити можливості людей, які хочуть завдати шкоди. Серед потенційних загроз він називав масштабні кібератаки, шахрайство, дезінформацію, а також атаки на лікарні, фінансові системи, енергомережі та державну інфраструктуру.

Подібні побоювання останнім часом активно обговорюють і всередині самої ШI-індустрії. Зокрема, співробітники технологічних компаній попереджають про ризики надто швидкої гонки за потужнішими моделями. Водночас експерти суттєво розходяться в оцінках того, наскільки реалістичні найгірші сценарії.

Сам Гейтс визнає, що стовідсоткова ймовірність такого розвитку подій неможлива, однак вважає потенційний масштаб наслідків достатнім аргументом для того, щоб держави вже зараз встановлювали правила безпеки.

Парадоксально, але водночас фонд Гейтса активно інвестує в розвиток штучного інтелекту. У вересні Gates Foundation оголосив про намір витратити щонайменше $1 млрд протягом наступних двох років на проєкти, пов'язані з ШІ, зокрема в медицині, освіті та сільському господарстві.

Нещодавно штучний інтелект від OpenAI сам собі написав інструкції, що можна не підкорюватися людським обмеженням.