Вредная самостоятельность. Шесть банков предупредили о рисках покупок через ИИ-агентов
Шесть крупных банков заявили, что покупки через ИИ-агентов могут повысить риски мошенничества, утечки данных и ошибочных транзакций. Финансовые учреждения призывают разработать общие правила для таких сервисов.
Об этом пишет издание Gizmodo .
Шесть международных банков, в том числе Bank of America и Capital One, опубликовали отчет о рисках так называемой агентской торговли. Речь идет об использовании ИИ-агентов, способных самостоятельно искать товары, выбирать их и совершать покупки вместо пользователя.
Банки отмечают, что с ростом самостоятельности таких систем увеличиваются риски для прозрачности, безопасности, конфиденциальности, выбора товаров и совместимости различных платформ.
Одна из основных проблем заключается в том, что пользователь может не понимать, почему именно ИИ выбрал определенный товар или способ оплаты. Агент может допустить ошибку, потратить больше средств, чем планировалось, или стать инструментом для мошенничества.
В отчете также отмечается, что ИИ-агенты потенциально могут отдавать предпочтение определенным товарам или платежным сервисам из-за комиссий или более низкой стоимости обработки запросов, а не из-за пользы для покупателя.
Особую обеспокоенность банков вызывают утечки данных. Такие системы могут получать доступ к платежной информации, учетным записям и другим конфиденциальным данным покупателей и продавцов. В случае взлома злоумышленники могут воспользоваться правами доступа, предоставленными агенту.
Примером может служить уязвимость в ИИ-ассистенте Meta Muse, которую компания недавно обнаружила и устранила. При определенных условиях она могла позволить злоумышленнику перехватить контроль над ассистентом и воспользоваться разрешениями, предоставленными ему пользователем.
В то же время банки не исключают использования ИИ для совершения покупок. В отчете отмечается, что агентская торговля может стать одним из привычных способов совершения покупок, однако для этого необходимы четкие стандарты, правила и механизмы защиты прав потребителей.
Банковская группа определила пять ключевых принципов развития этой технологии: прозрачность, безопасность, защита конфиденциальности и данных, возможность выбора и совместимость различных систем.
В настоящее время участники консорциума готовят новый документ, в котором должны более подробно описать, как применять эти принципы на практике.