Личные связи. Meta Muse создает профили людей из окружения пользователей

Через систему внутренних инструкций Muse ежечасно получает задачу создавать или обновлять «страницу для каждого человека в жизни пользователя», сообщает Wired . Информацию о работе агента исследователи обнаружили, анализируя его системные подсказки и инструкции.

Независимый исследователь в области безопасности искусственного интеллекта Каран Джоши смог получить значительный объем внутренних инструкций Muse через обычный чат с сервисом и передал результаты изданию Wired. Отдельно организация The Future Society опубликовала системные инструкции, полученные из экспортированной копии виртуальной машины Muse.

На основе этих данных профиль человека может включать его имя, характер связи с пользователем, постоянные темы общения, а также важные даты, такие как дни рождения и годовщины. Кроме того, Muse может сохранять историю отношений и важные события, а также оценивать степень близости между людьми, характер их взаимодействия и потребности, возникающие в этих отношениях.

Джоши заявил, что анализ системных инструкций создает впечатление, будто Meta стремится детально понимать отношения пользователя с другими людьми.

8 сентября компания Meta запустила Muse — персонального ИИ-агента, способного выполнять задачи от имени пользователя. В их число входят отправка электронных писем, бронирование поездок, совершение покупок и отслеживание целей. Для этого сервис получает доступ к различным приложениям и учетным записям пользователя.

Представитель Meta пояснил, что для работы агенту необходим контекст, касающийся пользователя и людей, с которыми тот взаимодействует. По его словам, Muse получает эти данные из общедоступной информации и сведений, которыми пользователь решил поделиться. Например, это помогает системе понять, что человек, приславший счет, — это сантехник, которого пользователь нанимал ранее.

В Meta также заявили, что информация хранится в отдельной защищенной виртуальной машине каждого пользователя. Компания утверждает, что агенты других пользователей не могут получить к ней доступ.

После запуска Muse уже возникали вопросы касательно безопасности и конфиденциальности. В сентябре Amazon запретила этому агенту совершать покупки на своем сайте, заявив, что Meta заранее не уведомила о доступе Muse к магазину. Amazon также выразила обеспокоенность по поводу того, как агент работает с учетными данными и информацией о клиентах.

Кроме того, Meta устранила уязвимость нулевого дня в версии Muse для Mac. Она могла позволить вредоносному программному обеспечению, уже запущенному на компьютере пользователя, перехватить управление агентом и воспользоваться предоставленными ему разрешениями.