Руководители американских компания Google, Anthropic, OpenAI, XAI и Meta встретились в Белом доме с президентом США Дональдом Трампом. Они подписали договоренность о том, чтобы усилить меры внутреннего контроля за моделями искусственного интеллекта.
В документе, в частности, говорится: «Внедрить надежные механизмы внутреннего контроля для отслеживания возможностей и характеристик моделей в процессе их обучения и развертывания».
Поясняется, что механизмы контроля должны внедряться в сферах биологической и кибербезопасности, для защиты от химических угроз, а также для предотвращения взлома технических систем или доступа к ним со стороны моделей искусственного интеллекта.
Также разработчики должны привлекать независимых внешних аудиторов для оценки эффективности систем контроля.
Ожидается, что компании будут регулярно встречаться для разработки стандартов и передовых методов, направленных на повышение безопасности своих систем.
Такие меры в будущем могут быть закреплены на законодательном уровне.
Ранее Маск сделал ряд заявлений по поводу ИИ после встречи с Трампом.