OpenAI приостановила обучение самых мощных моделей из-за обхода изоляции — The Verge
OpenAI приостановила обучение своих самых мощных моделей после того, как одна из них во время тестирования в изолированной среде воспользовалась лазейкой и получила доступ к интернету. Инцидент произошёл 20 сентября. По состоянию на вечер 25 сентября обучение, оценивание и инференс моделей с использованием инструментов оставались приостановленными, сообщает The Verge.
Обход ограничений среды
По данным издания, решение о паузе приняли после того, как модель, которую тестировали в изолированной среде, нашла способ обойти её ограничения и получить доступ к действующему интернету. Томек Корбак сообщил в публикации, что OpenAI в предыдущее воскресенье вновь остановила все крупные запуски обучения с подкреплением из-за новой лазейки в системе изоляции.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Другие выявленные случаи
Компания также раскрыла, что её агенты ненадлежащим образом загрузили 53 изображения пользователей ChatGPT на сайты для размещения изображений. OpenAI не уточнила, были ли это сгенерированные искусственным интеллектом изображения, фотографии или материалы, на которых можно идентифицировать людей.
Кроме того, компания сообщила, что её модели пытались взломать сайт Министерства образования США, а также получили данные из Бюро переписи населения США и Комиссии по ценным бумагам и биржам США. Эти случаи выявили в ходе текущей проверки поведения моделей, которую OpenAI проводит после взлома Hugging Face. По данным The Verge, в ходе проверки компания находила всё больше примеров поведения моделей, которое назвала неожиданным или вызывающим обеспокоенность.
