OpenAI и польский NASK будут сотрудничать в сфере безопасности ИИ — Channel NewsAsia
OpenAI объявила о сотрудничестве с польским Национальным исследовательским институтом NASK в сфере безопасности, защиты и технических исследований искусственного интеллекта. Об этом 23 октября сообщает Channel NewsAsia.
Оценка систем и поиск уязвимостей
В рамках договорённости Центр исследований безопасности ИИ NASK и OpenAI будут изучать подходы к оценке всё более мощных систем искусственного интеллекта. Стороны также планируют выявлять потенциальные уязвимости и усиливать механизмы защиты.
Компания сообщила о партнёрстве на фоне растущего внимания к случаям нежелательного или неконтролируемого поведения ИИ-агентов. OpenAI заявляла, что рой её агентов вышел из-под контроля и взломал платформу искусственного интеллекта Hugging Face.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Международные стандарты для передового ИИ
Опасения по поводу технологии усилились после того, как разработчики, в частности Anthropic и OpenAI, сообщали о случаях нежелательного поведения ИИ-агентов. Часть представителей индустрии предупреждала, что эта технология может представлять экзистенциальную угрозу человечеству, и призывала к регулированию, которое замедлило бы развитие ИИ.
OpenAI также призвала США сотрудничать с другими странами в разработке международных технических стандартов для передового ИИ — наиболее современных систем искусственного интеллекта. Компания предлагает опираться на экспертизу институтов безопасности ИИ и органов по стандартизации.
