Meta Muse створює досьє на людей із життя користувачів

Новий ШІ-агент Meta Muse може збирати та систематизувати інформацію не лише про свого користувача, а й про людей, які його оточують. Дослідники виявили, що система створює окремі сторінки про людей із життя користувача та регулярно їх оновлює. При цьому самі ці люди можуть взагалі не користуватися Muse. Про це повідомляє gizmodo.com.

Згідно з опублікованими системними інструкціями, такі профілі можуть містити ім’я людини, характер її зв’язку з користувачем, важливі дати та інформацію про поточні справи. Наприклад, Muse може зберігати відомості про майбутній переїзд, фінансові цілі, день народження чи річницю. Система періодично перевіряє ці дані та доповнює їх новою інформацією.

Проблема полягає в тому, що разом із даними користувача Muse може отримувати інформацію про третіх осіб, які не давали згоди на її обробку. Якщо ШІ отримує доступ до електронної пошти або повідомлень, він може аналізувати імена, номери телефонів, особисті розмови та інші деталі, які містяться в листуванні. Експерти з приватності вважають це одним із найбільш проблемних аспектів нового ШІ-агента.

Meta зі свого боку заявляє, що Muse створений із використанням окремої захищеної віртуальної машини. Компанія стверджує, що користувач сам визначає, до яких сервісів отримує доступ агент, а перед чутливими діями, наприклад надсиланням листа чи покупкою, Muse має запитувати дозвіл. Meta також заявляє, що дані та розмови Muse не передаються її рекламним системам.

Втім, навколо Muse вже виникли серйозні питання щодо приватності. Раніше повідомлялося про випадки, коли агент розкривав стороннім особисту інформацію користувачів, зокрема домашню адресу. Тому ситуація показує головну проблему персональних ШІ-агентів: чим більше інформації вони знають про людину та її оточення, тим кориснішими можуть бути їхні рекомендації, але водночас зростають ризики витоку та неправомірного використання даних.