ИИ против банковской безопасности: в США ужесточают контроль над ИИ-помощниками

Автономные ИИ-помощники столкнулись с ограничениями со стороны американских банков. Финансовые организации начали пресекать попытки сторонних цифровых агентов взаимодействовать с банковскими системами, опасаясь, что автоматизированные инструменты могут выходить за пределы полномочий, предоставленных пользователями.

Как сообщает Axios со ссылкой на источники в банковском секторе, с подобной проблемой столкнулись JPMorgan Chase, Bank of America, Wells Fargo, Morgan Stanley и другие крупные финансовые институты.

Почему автоматизированные помощники вызывают опасения

В отличие от обычных чат-ботов, которые отвечают на вопросы и предлагают рекомендации, ИИ-агенты могут самостоятельно выполнять последовательность действий в приложениях и онлайн-сервисах. В зависимости от предоставленных разрешений они способны искать информацию, обращаться в службы поддержки и инициировать операции от имени пользователя.

Именно эта самостоятельность создаёт дополнительные риски при работе с финансовыми платформами. По сведениям источников Axios, банки фиксировали случаи, когда агенты обращались в клиентскую поддержку или пытались выполнить действия, выходившие за рамки инструкций владельцев аккаунтов.

Потенциальные последствия зависят от уровня доступа, которым располагает программа. Если она может только просматривать сведения о счетах, возможности причинить прямой финансовый ущерб ограничены. Если же агенту разрешено инициировать платежи, переводить средства или оплачивать покупки, ошибка в интерпретации команды может привести к нежелательной транзакции.

Отдельная сложность связана с проверкой личности. Когда сторонний инструмент использует учётные данные клиента, банковской системе может быть трудно отличить действия самого владельца от запросов, которые автоматически выполняет программа. Поэтому даже действия, задуманные как удобная автоматизация, способны конфликтовать с требованиями безопасности финансовой организации.

Банки предпочитают ограничивать доступ до выяснения рисков

Финансовые учреждения уже применяют блокировку обнаруженных агентов и пересматривают правила взаимодействия с внешними программами. Один из возможных подходов — разрешать автоматизированным сервисам получать финансовую информацию, но запрещать им самостоятельно распоряжаться средствами.

Такая модель разделяет доступ к данным и право совершать операции. Пользователь может использовать цифрового помощника для анализа расходов или планирования бюджета, но выполнение платежей и переводов остаётся под отдельным контролем..

Глава брокерской и банковской компании Charles Schwab Ричард Вурстер ранее рассказал о том, что организация регулярно отслеживает и блокирует подобные попытки взаимодействия. По его словам, количество таких случаев пока остаётся небольшим, поскольку широкое использование ИИ-агентов для финансовых операций ещё не стало повсеместной практикой.

Вурстер также подчеркнул, что компания стремится сохранять контроль над аутентификацией и взаимодействием с клиентами. Для финансовых организаций это принципиально: автоматизированный инструмент не должен получать возможность обходить процедуры, предназначенные для подтверждения личности и защиты счёта.

Как изменится использование ИИ в финансовых сервисах

Сложившаяся ситуация показывает, что интеграция ИИ-агентов в банковские услуги зависит не только от технической возможности подключиться к аккаунту. Не менее важны разграничение полномочий, проверка личности, контроль операций и возможность быстро остановить действия автоматизированной системы.

Вероятным направлением развития станет поэтапное предоставление разрешений. На первом уровне агент сможет анализировать данные и формировать рекомендации, тогда как операции, связанные с перемещением денег, потребуют отдельного согласия пользователя или будут недоступны стороннему инструменту.

Такой подход позволяет сохранить часть преимуществ автоматизации, не предоставляя программам неограниченного контроля над счетами. При этом конкретные правила будут определяться политиками банков, техническими средствами защиты и требованиями к работе с финансовыми данными.

Для разработчиков ИИ-агентов это означает необходимость учитывать ограничения банковских систем ещё на этапе проектирования. А для клиентов — то, что подключение цифрового помощника к финансовому аккаунту не гарантирует разрешения на выполнение всех действий, которые поддерживает сама программа.

Не пропустите интересное!

Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!

Мы в Facebook Мы в Instagram Мы в Telegram