BBVA и Nvidia разрабатывают механизмы защиты ИИ-агентов для банковского сектора

Испанская банковская группа BBVA совместно с технологической компанией Nvidia исследует возможности интеграции механизмов безопасности непосредственно в архитектуру автономных систем искусственного интеллекта.

Основное внимание партнеры уделяют ИИ-агентам, способным самостоятельно выполнять задачи, работать с информацией и взаимодействовать с внешними инструментами.

В BBVA считают, что распространение таких технологий в финансовом секторе требует новых подходов к контролю рисков, поскольку традиционных проверок на этапе разработки недостаточно.

Nvidia предлагает архитектуру для контроля автономных систем

В рамках сотрудничества компании исследуют OpenShell Reference Architecture – архитектуру Nvidia, предназначенную для безопасного использования ИИ-агентов в корпоративной среде.

Она предполагает возможность устанавливать правила работы автономных систем, контролировать доступ к ресурсам и ограничивать выполнение операций, выходящих за пределы определенных полномочий.

Особое внимание уделяется контролю не только на этапе создания и настройки ИИ-агентов, но и непосредственно во время их работы.

Это связано с тем, что автономные системы могут выполнять последовательность взаимосвязанных действий, получать новую информацию и использовать внешние инструменты без постоянного вмешательства человека.

Банки ужесточают требования к безопасности искусственного интеллекта

Глобальный директор по безопасности BBVA Валентин Санчес отметил, что банк расширяет использование ИИ-агентов, поэтому обеспечение их безопасности становится одной из приоритетных задач.

В Nvidia также отмечают необходимость сочетать расширение автономности искусственного интеллекта с четкими ограничениями и постоянным наблюдением за его действиями.

Сотрудничество BBVA и Nvidia происходит на фоне растущего интереса крупных финансовых учреждений к автономным ИИ-системам.

Ранее другой испанский банк Santander также объявил о партнерстве с Nvidia. Оно предполагает разработку инструментов для оценки моделей искусственного интеллекта и ИИ-агентов, которые могут использоваться в банковской сфере.