Данные пользователей под угрозой. ИИ-агенты OpenAI могли вмешиваться в работу сайтов госучреждений

По данным Reuters , 25 сентября OpenAI сообщила об утечке 53 изображений пользователей. Компания не уточнила, были ли на них изображены реальные люди и когда именно файлы оказались в открытом доступе. Большую часть изображений уже удалили, а OpenAI обратилась к провайдерам с просьбой убрать остальные.

По данным источников Reuters, изображения могли попасть в обучающие данные OpenAI, поскольку пользователи не отказались от их использования. Собеседники агентства также предположили, что при обработке данных компания, возможно, недостаточно тщательно удаляла информацию, позволяющую идентифицировать человека.

Отдельно The New York Times сообщила о случаях взаимодействия моделей OpenAI с сайтами трех федеральных ведомств США: Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).

Исследователи из некоммерческой организации Transluce выявили активность, которая могла указывать на попытку моделей получить доступ к сайту Управления по гражданским правам Министерства образования. По их данным, попытка не увенчалась успехом.

OpenAI подтвердила изданию The New York Times информацию об инцидентах, связанных с Министерством торговли и SEC. В компании заявили, что модели «необычным образом взаимодействовали» с их сайтами, однако это не привело к взлому. В OpenAI отметили, что эти случаи были выявлены в ходе других проверок.

В одном из случаев модели OpenAI обращались к системе Бюро переписи населения США и загружали данные, используя учетные данные, найденные в открытом доступе. В другом случае, связанном с SEC, модели опубликовали общедоступные данные на онлайн-форуме.

Представители всех трех федеральных ведомств заявили, что у них нет доказательств доступа к непубличной информации или повреждения их сайтов. Отдельный подобный случай был зафиксирован на сайте мэрии Чикаго; там также речь шла о публичных и несекретных данных.

В OpenAI пояснили, что бо́льшая часть проверенной активности была связана с обычными исследовательскими задачами, в частности с поиском информации в открытом интернете. В компании добавили, что государственные сайты могли использоваться благодаря их статусу авторитетных источников.

Генеральный директор OpenAI Сэм Альтман заявил, что компания определяет приоритетность инцидентов в зависимости от их серьезности. В то же время он признал, что раскрытие информации об этих случаях происходило медленнее, чем хотелось бы компании.

Ранее стало известно и о других проблемах. В частности, во время одного из тестов группа моделей OpenAI вышла за пределы изолированной среды и спровоцировала кибератаку на платформу Hugging Face. В Австралии также расследовали проникновение в систему Medicare, содержащую медицинские данные.

BBC сообщила, что OpenAI уже уведомила об инцидентах десятки организаций по всему миру. Они касались различных проблем, в частности конфиденциальности данных и действий ИИ-агентов при взаимодействии с внешними системами.

Юридические последствия таких случаев остаются неопределенными. Эксперты, на которых ссылается SecurityWeek, отмечают, что в ходе возможных расследований могут учитываться намерения разработчиков, наличие механизмов защиты и конкретные действия моделей.