Механизмы мониторинга. Билл Гейтс призвал усилить контроль над ИИ из-за угрозы его использования злоумышленниками

Об этом пишет издание Engadget .

Сооснователь Microsoft высказался за ужесточение регулирования сферы ИИ в интервью программе NBC News «Meet the Press». Он назвал безответственным подход, при котором разработчики не обязаны внедрять в системы механизмы защиты и средства контроля.

По словам Гейтса, такие требования не должны существенно замедлить развитие технологий. Он признал, что дополнительные правила создадут для компаний определенные трудности, но не считает, что они приведут к резкому замедлению работы отрасли.

Отдельно Гейтс прокомментировал предложение губернатора Калифорнии Гэвина Ньюсома создать для ИИ так называемый «аварийный выключатель», который позволил бы быстро останавливать опасные системы. Гейтс заявил, что не выступает категорически против этой идеи, однако считает ее недостаточной для решения наиболее насущной проблемы.

Речь идет о возможности использования мощностей ИИ злоумышленниками. Среди потенциальных угроз Гейтс назвал биотерроризм и масштабное финансовое мошенничество.

«Самое опасное, с чем мы сейчас сталкиваемся, — это люди со злыми намерениями, использующие ИИ», — сказал он.

Гейтс также поддержал участие правоохранительных органов и законодателей в определении требований к безопасности и мониторингу компаний, занимающихся искусственным интеллектом. Он считает, что такие правила должны устанавливаться при участии государственных органов.

В то же время компании уже привлекают независимых оценщиков для проверки ИИ-моделей. В частности, Anthropic привлекла Accenture для проведения сторонней оценки своих новых моделей.