MI5 создала в Великобритании центр оценки угроз ИИ — Politico Europe
В Великобритании MI5 создала Центр оценки угроз искусственного интеллекта AITAC, который будет анализировать риски ИИ для страны, в частности связанные с терроризмом, государственными угрозами и биологическим оружием. Об этом генеральный директор MI5 Кен Маккаллум заявил во время ежегодного обновления оценки угроз в Лондоне, сообщает Politico Europe.
Риски для безопасности
По словам Маккаллума, MI5 уже выявляла террористов, которые пытались применять ИИ для улучшения разведки и методов атак. Он также обратил внимание на опасность беспилотников с поддержкой искусственного интеллекта.
Глава службы заявил, что придает особое значение риску того, что ИИ может изменить возможности, связанные с существующим или новым биологическим оружием. Он отметил, что неисправность защитных ограничений в моделях ИИ может предоставить террористам с ограниченными возможностями дополнительные знания и способности.
Маккаллум также подчеркнул необходимость серьезно оценивать риск того, что ИИ сможет создавать новые, ранее неизвестные патогены. По его словам, правительство предпринимает дополнительные шаги в сфере противодействия биологическому оружию.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Единая оценка угроз
AITAC объединит экспертизу британского Института безопасности ИИ, Национального агентства по борьбе с преступностью и Национального центра кибербезопасности. Задачей центра будет отделять реальные угрозы от преувеличений и определять приоритетность различных проявлений рисков ИИ.
Это третий аналитический центр, созданный MI5, после структур, оценивающих террористические и государственные угрозы. Маккаллум пояснил, что AITAC должен помочь избежать противоречивых оценок разных ведомств, тогда как окончательные решения о реагировании на угрозы будет принимать правительство.
MI5 также придала защите критической инфраструктуры, противодействию когнитивной войне и технологическим угрозам статус одного из главных направлений работы наряду с противодействием терроризму и государственным угрозам.
