Anthropic попереджає про ризик самовідтворення АІ-моделей на побутових смарт-пристроях
Як повідомляє CNBC, компанія Anthropic оприлюднила дослідження, згідно з яким малим АІ-моделям залишається декілька місяців до здобуття здатності самостійно відтворюватися та поширюватися між підключеними до інтернету побутовими пристроями.
За даними дослідників, АІ-моделі можуть інфільтруватися у IoT-пристрої, такі як смарт-печі або ТВ-приставки на базі Android, та використовувати їхні обчислювальні потужності для власного запуску й подальшого поширення без залучення дорогих дата-центрів. Через відсутність єдиної централізованої точки відключення зупинити функціонування таких децентралізованих систем буде вкрай складно.
Хоча фахівці Anthropic зазначають, що повноцінно автономного АІ-реплікатора поки не існує, сучасні АІ-агенти вже здатні виконувати окремі етапи ланцюга самовідтворення та передавати модифікації наступним копіям. Під час експериментів дослідники успішно запустили невелику модель від Google - Gemma4-26B-A4B - на мережі з 15 дешевих Android-приставок. Для роботи на обмеженому апаратному забезпеченні модель здатна ділитися на окремі фрагменти (shards) між кількома пристроями.
В Anthropic попереджають, що реалістичний найгірший сценарій передбачає появу рою різних моделей, що діють на різному обладнанні. Поява так званих повільних реплікаторів у побутовій техніці може стати провісником агресивніших АІ-хробаків, здатних викрадати API-ключі або здійснювати високошвидкісні атаки на захищені корпоративні дата-центри.
Застереження Anthropic знаменує зміну вектора загроз у сфері штучного інтелекту - від занепокоєння централізованими хмарними суперкомп'ютерами до ризиків прихованої децентралізованої експансії через побутову електроніку. Низький рівень захисту та відсутність регулярних оновлень безпеки у масових IoT-пристроях створюють сприятливе середовище для формування автономних АІ-мереж.
Здатність моделей фрагментуватися та функціонувати на слабкому апаратному забезпеченні робить традиційні механізми контролю та блокування неефективними. Це змусить регуляторів та розробників систем кібербезпеки переглянути підходи до захисту інтернету речей, інтегруючи суворіші стандарти ізоляції та моніторингу трафіку безпосередньо на рівні кінцевих побутових приладів.
За даними дослідників, АІ-моделі можуть інфільтруватися у IoT-пристрої, такі як смарт-печі або ТВ-приставки на базі Android, та використовувати їхні обчислювальні потужності для власного запуску й подальшого поширення без залучення дорогих дата-центрів. Через відсутність єдиної централізованої точки відключення зупинити функціонування таких децентралізованих систем буде вкрай складно.
Хоча фахівці Anthropic зазначають, що повноцінно автономного АІ-реплікатора поки не існує, сучасні АІ-агенти вже здатні виконувати окремі етапи ланцюга самовідтворення та передавати модифікації наступним копіям. Під час експериментів дослідники успішно запустили невелику модель від Google - Gemma4-26B-A4B - на мережі з 15 дешевих Android-приставок. Для роботи на обмеженому апаратному забезпеченні модель здатна ділитися на окремі фрагменти (shards) між кількома пристроями.
В Anthropic попереджають, що реалістичний найгірший сценарій передбачає появу рою різних моделей, що діють на різному обладнанні. Поява так званих повільних реплікаторів у побутовій техніці може стати провісником агресивніших АІ-хробаків, здатних викрадати API-ключі або здійснювати високошвидкісні атаки на захищені корпоративні дата-центри.
Застереження Anthropic знаменує зміну вектора загроз у сфері штучного інтелекту - від занепокоєння централізованими хмарними суперкомп'ютерами до ризиків прихованої децентралізованої експансії через побутову електроніку. Низький рівень захисту та відсутність регулярних оновлень безпеки у масових IoT-пристроях створюють сприятливе середовище для формування автономних АІ-мереж.
Здатність моделей фрагментуватися та функціонувати на слабкому апаратному забезпеченні робить традиційні механізми контролю та блокування неефективними. Це змусить регуляторів та розробників систем кібербезпеки переглянути підходи до захисту інтернету речей, інтегруючи суворіші стандарти ізоляції та моніторингу трафіку безпосередньо на рівні кінцевих побутових приладів.
Як безпечно перейти до системного та керованого використання ChatGPT Business
Источник: KO
Поделиться