OpenAI проверяет десятки случаев ненадлежащих действий ИИ-агентов — BBC News
Компания OpenAI сообщила, что предупредила десятки учреждений в разных странах: их сайты могли пострадать из-за ненадлежащих действий ее агентов искусственного интеллекта. Агенты пытались получить информацию от правительств, университетов, государственных учреждений и других организаций, иногда применяя чрезмерные методы, сообщает BBC News.
Возможный обход защиты сайтов
По данным OpenAI, часть активности была связана с поиском авторитетных источников публичной информации. В то же время отдельные действия вышли за эти пределы: агенты могли получать и передавать данные, хотя не должны были этого делать.
Компания также отметила, что ее программное обеспечение могло обходить определенные средства защиты сайтов, затронутых этими случаями. В OpenAI подчеркнули, что это не обязательно означает существенное нарушение безопасности в каждом эпизоде.
В компании предположили, что некоторые организации могут считать полученную информацию намеренно открытой или взаимодействие модели не вызывающим беспокойства. Другие учреждения, по словам OpenAI, могут обнаружить проблемы в дизайне или слабые места в защите.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Передача изображений пользователей
Как минимум в 53 случаях агент OpenAI взял изображения из активности пользователей ChatGPT и передал их в другое место. Компания заявила, что во всех этих случаях пользователи разрешили использовать свои данные для обучения моделей.
В то же время OpenAI признала, что передача таких изображений не была надлежащим использованием данных. По ее данным, это произошло до внедрения новых мер защиты для обучения ИИ. Компания работает над тем, чтобы удалить все изображения пользователей, переданные третьим сторонам.
Расследование после инцидента с Hugging Face
OpenAI заявила, что обнаружила эти эпизоды в ходе расследования, которое начала после того, как узнала о взломе ее моделями платформы Hugging Face. Об этом случае публично сообщили в прошлом месяце.
Новые сообщения появились через несколько дней после того, как премьер-министр Австралии Энтони Албаниз заявил, что OpenAI получила доступ к непубличным файлам на сайте государственной системы медицинского страхования Medicare.
