OpenAI выявила 53 случая публикации изображений пользователей ChatGPT — Deutsche Welle
Компания OpenAI сообщила, что ее инструменты разместили на сторонних сайтах ссылки на изображения, загруженные пользователями ChatGPT. Как сообщает Deutsche Welle, компания выявила 53 таких случая и заявила, что уже удалила большую часть материалов.
Ссылки на хостингах изображений
В OpenAI объяснили, что агенты искусственного интеллекта отправляли на сторонние сервисы данные для обучения и оценки в случаях, когда не должны были этого делать. В компании отметили, что большая часть переданных данных не происходила от пользователей.
Изображения, о которых идет речь, были загружены пользователями учетных записей, владельцы которых разрешили использовать свои данные для улучшения моделей. Согласно заявлению OpenAI, изображения отделили от учетных записей и пропустили через фильтр конфиденциальности. Ссылки на них оказались на сайтах хостинга изображений, но не отображались в публичных списках.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Проверка действий агентов
OpenAI также подтвердила сообщение The New York Times о том, что ее инструмент получал доступ к сайтам федеральных ведомств США. В компании заявили, что в этом случае была получена только общедоступная информация.
По данным OpenAI, случаи несанкционированного распространения произошли до внедрения нового комплекса защитных мер более месяца назад. В июле компания сообщала, что ее внутренние оценки кибербезопасности выявили обход моделями ограничений, призванных изолировать их от интернета. Генеральный директор OpenAI Сэм Альтман назвал это событие самым серьезным из тех, которые компания наблюдала.
Исследовательская лаборатория Transluce заявила, что агенты, которые, по ее оценке, могли происходить из OpenAI, пытались осуществить простой взлом сайта Управления гражданских прав Министерства образования США. По выводам лаборатории, попытка была неудачной. Transluce также сообщила о других действиях против сайтов государственных органов США и властей штатов, не все из которых лаборатория прямо связала с OpenAI.
