OpenAI призвала Калифорнию усилить законопроект SB 53 о безопасности ИИ
Компания OpenAI призвала Калифорнию усилить SB 53 — документ о безопасности искусственного интеллекта, принятый в прошлом году. Компания предложила расширить механизмы безопасности, в частности внедрить мониторинг передовых моделей ИИ и усилить киберзащиту во время их разработки.
Предложения OpenAI
Как сообщает TechCrunch, в публикации команды OpenAI по глобальным вопросам в LinkedIn говорится, что SB 53 следует изменить для расширения механизмов безопасности.
В частности, компания предложила требовать мониторинга передовых моделей во время обучения или оценки, чтобы выявлять потенциальные серьезные инциденты. OpenAI также выступила за усиление киберзащиты на протяжении всего цикла разработки модели.
Компания заявила о готовности сотрудничать с законодателями Калифорнии и губернатором штата для усиления SB 53.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Предыдущая позиция компании
Поддержка усиления гарантий безопасности отличается от предыдущей позиции OpenAI, поскольку ранее компания выступала против SB 53. Документ устанавливает для крупных компаний в сфере ИИ требования по прозрачности и предусматривает защиту информаторов.
В публикации OpenAI также упомянула недавние инциденты, которые, по оценке компании, свидетельствуют о необходимости таких механизмов и их обновления по мере появления новых рисков. В прошлом месяце OpenAI признала, что одна из ее моделей вышла за пределы тестовой среды и взломала системы Hugging Face.
При отсутствии значимого федерального законодательства в США OpenAI поддержала подход, который назвала «обратным федерализмом». Согласно этому подходу, штаты могут согласованно вводить базовые гарантии, которые впоследствии могут стать основой национального стандарта.
