Нужны более строгие правила. В Microsoft заявили, что ИИ регулируется слабее, чем бытовая техника
Президент Microsoft Брэд Смит заявил, что искусственный интеллект нуждается в более строгом регулировании на международном уровне, поскольку даже молоко и стиральные машины подпадают под более жесткие правила безопасности.
Об этом Смит рассказал в интервью BBC , опубликованном 12 октября.
Он предлагает обязать компании сообщать об инцидентах и предусмотреть возможность экстренного отключения опасных систем.
По его словам, компании должны быть юридически обязаны уведомлять людей, пострадавших от сбоев или несанкционированных действий ИИ-агентов, а также отчитываться об инцидентах, связанных с безопасностью. Он также выступает за определение случаев, когда новые модели ИИ должны проходить независимую оценку перед выпуском.
Еще одно предложение Смита — внедрить механизмы экстренной остановки, которые позволят людям приостанавливать работу систем или полностью их отключать, если те выходят из-под контроля.
«Мы знаем, как это делать для других продуктов. Мы должны использовать эти знания и подумать, как применить их к ИИ», — сказал президент Microsoft.
Он обратил внимание на разницу между регулированием искусственного интеллекта и обычных потребительских товаров. По словам Смита, на стиральные машины распространяется больше правил безопасности, чем на ИИ, а молоко в магазинах проходит проверки в соответствии с установленными требованиями.
Генеральный директор Microsoft Сатья Наделла также поддержал идею механизмов экстренной остановки. В субботу в социальной сети X он отметил, что модели ИИ должны быть оснащены средствами, позволяющими людям приостанавливать их работу или отключать их непосредственно в процессе выполнения задач.
Призывы к усилению контроля прозвучали на фоне опасений по поводу возможных опасных последствий развития ИИ. По данным Axios, некоторые представители отрасли полагают, что масштабная катастрофа, связанная с искусственным интеллектом, может произойти в течение ближайших шести–двенадцати месяцев.
Позиция Смита отличается от подхода президента США Дональда Трампа, который в основном выступает за саморегулирование отрасли. Трамп опасается, что чрезмерные ограничения ослабят позиции США в конкуренции с Китаем в сфере ИИ.
29 сентября представители Google, Meta, Anthropic, OpenAI, xAI и Nvidia подписали в Белом доме добровольное соглашение, предусматривающее соблюдение определенных стандартов безопасности ИИ. Документ не содержит механизма юридического принуждения к его исполнению. Трамп назвал эти стандарты морально обязательными.
Смит считает, что Великобритания может стать отправной точкой для разработки международных правил. Он обратил внимание на британский Институт безопасности ИИ и предположил, что американские официальные лица могут быть более склонны к сотрудничеству с Лондоном, чем с некоторыми другими правительствами, в частности с правительствами стран Европейского союза.
«Когда речь идет об ИИ-агентах, вышедших из-под контроля человека, и моделях, настолько мощных, что они создают угрозы для кибербезопасности всего мира, я бы сказал: этот момент настал», — заявил Смит.