Государственное оценивание. OpenAI позволит правительству США проверять свои ИИ-модели перед запуском
OpenAI согласилась предоставлять правительству США доступ к проверке своих моделей искусственного интеллекта перед их публичным запуском. Компания будет выполнять новый указ президента, который предусматривает добровольное участие разработчиков ИИ в оценке безопасности.
Об этом пишет издание Engadget.
В начале недели Дональд Трамп подписал новый указ о государственном надзоре за передовыми моделями искусственного интеллекта. Документ призван проверять их безопасность перед выходом на рынок. По сообщениям СМИ, принятие указа задержалось, а его положения смягчили после давления со стороны технологической отрасли. Сам Трамп заявил, что ему не нравились отдельные аспекты первоначальной версии документа.
Глава подразделения OpenAI по работе со странами Джордж Осборн заявил CNBC, что демократические правительства должны играть важную роль в том, как используются и внедряются такие технологии. По его словам, правительствам следует создавать сильные регуляторные органы, но оставлять им достаточно гибкости для работы в будущем.
Первоначальный вариант указа разрабатывали с участием различных заинтересованных сторон. Он должен был учитывать как интересы индустрии искусственного интеллекта, так и вопросы общественной безопасности. Документ предусматривал, что компании добровольно будут подавать свои модели на проверку за 90 дней до публичного запуска.
Впрочем, представители отрасли, среди которых Дэвид Сакс и Илон Маск, предупреждали, что такие требования могут затормозить развитие технологий искусственного интеллекта.
После этого Трамп и его советники подготовили упрощенную версию указа. Срок проверки сократили до 30 дней. Документ не обязывает компании, а лишь предлагает им участвовать в процессе оценивания. Во время него будут проверять развитые кибервозможности моделей и определять, следует ли отнести их к категории «передовых моделей под наблюдением». Такой статус может ограничить их распространение и продажу.
Критики считают, что новый указ не устанавливает достаточного контроля над потенциально опасными моделями. Конгрессмен Дон Байер, который соруководит группой законодателей по вопросам искусственного интеллекта, назвал документ недостаточно эффективным и заявил, что он отражает более широкий подход администрации Трампа к созданию минимально регулируемой среды для развития ИИ.