Следы в чужом сервисе. Исследователи выследили в сети «флот» китайских ИИ-агентов
Независимые исследователи опубликовали предварительный отчет о массовых запросах автономных программ к картографическому сервису Amap. Вероятно, эти программы работают на серверах Tencent.
Об этом сообщает TechCrunch.
Сервис Amap принадлежит китайской компании Alibaba, и, судя по собранным данным, агенты используют его в обход правил работы с API. Программы запрашивают построение маршрутов к конкретным входам на общественные объекты, в числе которых парк, зоопарк и больница. Впрочем, ничего более серьезного, чем нарушение условий доступа к сервису, авторы отчета пока не зафиксировали.
Обнаружить этих агентов удалось с помощью URLquery — онлайн-сервиса для сканирования доменов. Агенты на базе ИИ нередко открывают через него сайты, которые не могут загрузить напрямую, и каждое такое обращение оставляет после себя запись. Отслеживание трафика к URLquery уже приносило результаты: так ранее были выявлены агенты OpenAI, долгое время действовавшие в сети.
Исследователи отказались от термина «рой», поскольку запросы отдельных программ практически не согласованы между собой.
«„Флот агентов“, а не „рой“: множество параллельных агентов, выполняющих однотипную задачу, без каких-либо признаков взаимодействия между ними», — написал один из авторов отчета.
Китайский «флот» стал еще одним свидетельством того, что ИИ-агенты уже постоянно присутствуют в интернете. После инцидента с Hugging Face многие специалисты целенаправленно ищут программы, действующие бесконтрольно. Выявить их, как правило, несложно, поскольку агенты используют одни и те же методы и практически не маскируются.
Независимое исследование всё ещё продолжается. В TechCrunch предупреждают, что в этот раз всё ограничилось обходом правил, но следующие агенты могут оказаться не столь безобидными.