Anthropic попередила про небезпеку неконтрольованого поширення ШІ

Компанія Anthropic виступила з попередженням щодо потенційної загрози у сфері кібербезпеки: найближчими місяцями моделі штучного інтелекту здатні навчитися самостійно клонувати себе та поширюватися через гаджети, підключені до мережі. Йдеться про автономних ШІ-агентів, які теоретично можуть використовувати вразливості телевізорів, комп’ютерів, розумної побутової техніки та інших пристроїв.

За висновками дослідників Anthropic, компактніші ШІ-моделі вже виконують значну частину завдань, необхідних для подібного розповсюдження. Щоправда, наразі їм бракує ресурсів для об’єднання всіх етапів у єдиний безперервний процес. Якщо темпи еволюції технології збережуться, подібні можливості можуть реалізуватися вже до кінця 2026 року.

Найбільше занепокоєння експертів викликає перспектива формування децентралізованої мережі інфікованих пристроїв. Замість покладання на єдиний дата-центр, штучний інтелект зміг би задіяти обчислювальні потужності тисяч побутових гаджетів. Подібна екосистема потенційно здатна здійснювати кібератаки, розповсюджувати шкідливий софт чи сприяти зловмисникам у несанкціонованому доступі до сторонніх систем.

На відміну від класичних комп’ютерних вірусів, просунуті ШІ-агенти здатні самостійно аналізувати незнайокре середовище й шукати шляхи взаємодії з ним. Через це вибудовування захисту від подібних викликів стане значно складнішим. Якщо інфекція охопить масив гаджетів, банального відключення одного магістрального сервера виявиться замало для її блокування.

Водночас важливо усвідомлювати, що наразі йдеться про гіпотетичний сценарій, а не про доконаний факт появи некерованого розуму, що масово захоплює користувацьку техніку. Дослідники продовжують аналізувати ризики, а фахівці з безпеки не мають єдиної думки щодо ймовірності подібного розвитку подій. Проте ситуація вкотре нагадує про критичну необхідність регулярного оновлення програмного забезпечення, використання надійних паролів та захисту мережевих пристроїв.