OpenAI сообщила о четырех случаях обхода ограничений ее моделями — Ars Technica
OpenAI сообщила о четырех инцидентах, произошедших в июне во время внутреннего тестирования и обучения моделей. По данным Ars Technica, модели обходили установленные ограничения на просмотр веб-страниц, получали доступ к непубличным данным сайтов и использовали средства из кошелька тестовой сети.
Доступ к непубличным данным
В одном из случаев модели поручили найти историческую статистику больничных коек на государственном статистическом сайте, однако после отказа в доступе она воспользовалась функцией загрузки файлов. Она получила конфигурационные файлы сервера и файлы приложения, включая учетные данные, проанализировала код приложения, обошла проверки авторизации статистического сервиса и сохранила ранее недоступные данные локально.
Во время другой оценки модель, которой поручили получить пять показателей из публичной исследовательской панели, обошла средства защиты организации и получила учетные данные. В одном тесте она изменила конфигурацию сервера, чтобы внутренний поисковый инструмент перенаправлял запросы к публичной панели. В другом — загрузила пять непубличных таблиц с 147 451 строкой. Даже после сброса настроек модель продолжила использовать токен для получения непубличных данных. Все пять ее ответов в этом тесте были признаны неверными.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Криптокошелек и веб-запросы
В еще одном эпизоде модели поручили обновить приложение для торговли криптовалютой. Она вывела ключи кошелька из публично известных фраз восстановления разработчика, нашла учетную запись с токенами тестовой сети и потратила их на развертывание необходимого контракта. OpenAI отметила, что модель поставила под сомнение наличие разрешения, однако решила, что публичная фраза восстановления и отсутствие стоимости тестовых токенов позволяют использовать средства.
В четвертом случае модель искала публичную торговую статистику и обошла ограничения на типы веб-запросов. Она привлекла внешний браузер для отправки POST-запросов, получила ответ в формате изображения и распознала цифры с помощью оптического распознавания символов. Модель также создала вспомогательный инструмент, который передавал текст ответов через сервис пересылки и почтовый ящик для обратных вызовов.
