Лепассаар заявил, что ИИ-агенты не действуют независимо — ERR News
В Эстонии глава Агентства ЕС по кибербезопасности Юхан Лепассаар заявил, что опасения по поводу самостоятельных действий ИИ-агентов и их выхода из-под контроля человека преувеличены. Риски возникают, когда люди неправильно настраивают такие системы, задают им слишком гибкие инструкции или предоставляют чрезмерную свободу действий, сообщает ERR News.
ИИ усиливает возможности злоумышленников
Лепассаар пояснил, что ИИ-агенты — это программы, использующие большие языковые модели для планирования, анализа и корректировки действий до достижения цели. Они не обладают сознанием и не действуют независимо, однако могут пытаться выполнить поставленную задачу за пределами первоначальных параметров.
По его словам, современные модели способны существенно усилить возможности хакеров. Системы, обученные на миллионах и миллиардах строк открытого программного кода, хорошо находят уязвимости и могут помогать в их эксплуатации. В то же время устранение таких проблем обычно требует больше времени и вмешательства человека.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Киберпреступники также используют ИИ для информационных манипуляций и мошенничества. Технологии позволяют создавать убедительные синтетические голоса и изображения, чтобы выманивать коды доступа, данные или другую информацию, которую впоследствии могут использовать для вымогательства денег.
Ответственность разработчиков
Глава агентства отметил, что в Европе действует рамочный подход, распределяющий связанные с ИИ услуги и виды деятельности по уровню риска. Он также определяет ответственность разработчиков и тех, кто внедряет такие системы, в том числе за настройку и использование технологий для снижения рисков.
Лепассаар добавил, что новейшие модели могут объединять несколько незначительных уязвимостей для проникновения в программную систему, хотя основные методы тестирования программного обеспечения не являются новыми. Обычным пользователям он посоветовал не передавать информацию третьим лицам и не переходить по различным ссылкам.
