ШІ з людським інтелектом стане реальністю до кінця цього десятиліття

Дослідницька група DeepMind, що входить до складу Google, опублікувала доповідь, у якій викладено підхід компанії до забезпечення безпеки загального штучного інтелекту. Під таким інтелектом розуміється система, що має рівень розумових здібностей, порівнянний із кваліфікованою дорослою людиною.

У документі йдеться про те, що такі технології можуть з’явитися вже до 2030 року, але вони несуть потенційну загрозу глобального масштабу. Один із співавторів доповіді, співзасновник DeepMind Шейн Легг, звертає увагу на можливі негативні наслідки розвитку загального штучного інтелекту, включаючи сценарій, де може бути завдано серйозної шкоди, до можливого зникнення людства.

Система, яку описує DeepMind, повинна бути здатна до виконання розумових завдань на рівні 99% серед кваліфікованих дорослих, включаючи завдання на самоаналіз і швидке освоєння нових умінь.

У доповіді також порівнюється підхід DeepMind до безпеки ШІ з діями інших великих компаній. Зокрема, фахівці DeepMind вважають, що Anthropic недостатньо уваги приділяє контролю за процесами навчання, а OpenAI надмірно покладається на автоматизовані інструменти для вивчення ризиків.

DeepMind скептично ставиться до заяв OpenAI про відсутність пріоритету на розробку надрозумних систем, вважаючи, що для цього необхідні значні зміни в архітектурі технологій. Дослідники також допускають сценарій, де штучний інтелект може навчатися та вдосконалювати себе без участі людини, створюючи потужніші версії себе.

Источник: itechua.com