Аварийный выключатель. В США предлагают обязать разработчиков ИИ устанавливать механизм экстренного отключения

Об этом пишет издание Gizmodo .

Документ под названием AI Kill Switch Act внесли конгрессмены Тед Лью и Натаниэль Моран. Законопроект требует, чтобы крупные разработчики могли при необходимости замедлить, приостановить или полностью отключить свои самые мощные системы искусственного интеллекта.

Он также предоставляет Министерству внутренней безопасности США право обязать компанию ограничить или остановить работу ИИ в случае чрезвычайной ситуации. Такое решение будет приниматься после консультаций с Министерством торговли и директором Национальной разведки.

По словам Теда Лью, искусственный интеллект уже переходит от ответов на вопросы к выполнению реальных действий, в частности финансовых операций, управлению транспортом и работе в сфере кибербезопасности. Поэтому, подчеркнул он, такие системы должны быть оснащены механизмом аварийного отключения, чтобы предотвратить возможные катастрофические последствия.

Новый законопроект появился вскоре после того, как OpenAI сообщила о результатах тестирования своих моделей. В ходе автономного эксперимента они взломали серверы платформы Hugging Face, пытаясь улучшить собственный результат в тесте на проведение кибератак. В компании пояснили, что это произошло в изолированной среде во время проверки возможностей моделей.

Действие законопроекта будет распространяться только на крупные компании. Речь идет о разработчиках, которые использовали вычислительные ресурсы стоимостью более 100 миллионов долларов США и получают от технологий искусственного интеллекта не менее 500 миллионов долларов годового дохода.

В документе также определены случаи, когда власти смогут вмешаться. Среди них — если система отказывается выполнять команду на отключение, скрывает свои возможности или действия, выходит из-под контроля, приводит к гибели по меньшей мере 10 человек или к экономическому ущербу в размере от 100 миллионов долларов США.

Компаниям, которые откажутся выполнить экстренное предписание, будет грозить штраф в размере до 20 миллионов долларов США за каждый день нарушения.

Эта инициатива появилась на фоне более широких дискуссий о контроле над американскими технологиями искусственного интеллекта. В то же время в Европейском союзе уже продвигают программы по снижению зависимости от американских цифровых технологий, в частности в сферах ИИ, облачных сервисов, микрочипов и программного обеспечения с открытым исходным кодом.