Британия в лидерах. Microsoft призвала к глобальному регулированию безопасности ИИ

Об этом пишет издание TechCrunch .

Смит заявил в подкасте BBC, что искусственный интеллект может быть одновременно инструментом и оружием, а его развитие создает риски для кибербезопасности. Он считает, что пришло время ввести глобальные требования, которые помогут контролировать эту технологию.

По мнению президента Microsoft, Великобритания имеет преимущество перед США и Европейским союзом в вопросе международного регулирования ИИ. В частности, в стране действует Институт безопасности искусственного интеллекта (AISI), созданный в 2023 году. Он получает доступ к передовым моделям американских разработчиков еще до их выпуска и проверяет их безопасность.

Роль британского института оказалась под угрозой после того, как президент США Дональд Трамп выступил против международных организаций, которые, по его мнению, вмешиваются в деятельность американских компаний. В сентябре он, по сообщениям СМИ, попросил OpenAI и Anthropic не передавать новые модели британским специалистам до завершения проверки в США. Однако 12 октября AISI подтвердил, что имеет доступ к новейшим моделям ИИ и может их тестировать.

Призывы к усилению контроля звучат на фоне инцидентов с участием ИИ-агентов, которые начали действовать непредсказуемо. Руководители технологических компаний, в частности генеральный директор Anthropic Дарио Амодеи и глава OpenAI Сэм Альтман, также поднимали вопрос о необходимости сдерживания темпов развития этой технологии.

В прошлом месяце Трамп собрал в Белом доме представителей OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google для обсуждения безопасности ИИ. Участники подписали документ, предусматривающий сотрудничество с независимыми аудиторами для оценки безопасности и возможностей их моделей.

Смит назвал эту договоренность позитивным шагом, но подчеркнул, что добровольных обязательств недостаточно. По его словам, ответственных разработчиков можно убедить соблюдать правила, тогда как компании, пренебрегающие безопасностью, могут их игнорировать.

Среди предложенных мер президент Microsoft назвал обязанность уведомлять соответствующие организации о нарушениях безопасности, вызванных неконтролируемыми ИИ-агентами. Он также поддержал идею независимой проверки моделей перед их выпуском и использования механизмов аварийного отключения, позволяющих остановить или замедлить работу ИИ в случае потери контроля над ним со стороны людей.