Apple усилит защиту Mac из-за рисков доступа ИИ-агентов к личным данным

Apple просматривает Full Disk Access

Распространение автономных систем искусственного интеллекта заставило Apple просмотреть одно из самых широких разрешений на доступ к информации пользователей в MacOS.

Речь идет о функции Full Disk Access, которая существует в операционной системе уже много лет и не создавалась специально для ИИ. Она позволяет отдельным программам получать доступ к файлам и данным, находящимся за пределами их обычной среды.

Такой уровень разрешений необходим, например, программам резервного копирования и другому профессиональному программному обеспечению, которое должно работать с большим количеством системных и пользовательских файлов.

Однако Apple считает, что появление ИИ-агентов принципиально изменяет характер рисков.

Обычная программа резервного копирования предпочтительно читает и копирует информацию в соответствии с заранее определенными функциями. ИИ-агент может анализировать содержимое файлов, сопоставлять информацию из разных программ, делать выводы и самостоятельно выполнять дальнейшие действия.

Поэтому разрешение, которое ранее воспринималось преимущественно как техническая необходимость для определенных категорий программ, потенциально может открывать ИИ доступ к значительной части личной информации пользователя.

Для полного доступа потребуют явного действия пользователя

Apple планирует добавить новые предохранители к механизму Full Disk Access и более четко предупреждать владельцев Mac о последствиях предоставления такого разрешения.

Компания заявила, что полный доступ к диску должен быть предоставлен только после явного действия самого пользователя.

Точный механизм дополнительной защиты Apple пока не раскрылся. Также компания не сообщила, в какой версии macOS и когда именно появятся изменения.

В Купертино отмечают, что некоторые разработчики уже используют Full Disk Access способами, которые могут создавать риски для пользователей. По мере того, как ИИ-агенты получают больше автономности, последствия чрезмерных разрешений могут становиться значительно серьезнее.

На iPhone модель доступа более жесткая

Проблема частично связана с архитектурным различием между macOS и мобильными операционными системами Apple.

На iPhone и iPad программы по умолчанию гораздо сильнее изолированы друг от друга. Они работают в так называемых песочницах и не могут без соответствующих разрешений получать широкий доступ к информации других приложений.

macOS исторически оставалась более открытой системой, поскольку профессиональное программное обеспечение часто требует доступа к разным частям файловой системы.

ИИ-агенты делают эту гибкость потенциальным источником новых угроз, поскольку широкие системные права могут использоваться не только для выполнения конкретной технической операции, но и для сбора, интерпретации и использования информации.

Спор вокруг Meta Muse привлек внимание к проблеме

Дискуссия о безопасности ИИ-агентов на Mac обострилась после сообщений о работе агента Muse от Meta.

Muse способен выполнять задания от имени пользователя, в частности, отменять подписки или договариваться о снижении стоимости определенных услуг.

Обозреватель Inc. Джейсон Атен заявил, что Muse получил доступ к его частным сообщениям в приложении Apple Messages, хотя, по его словам, он сознательно не предоставлял агенту такого разрешения и не включал Full Disk Access.

Meta отрицала такую ​​трактовку ситуации.

Представитель компании Энди Стоун заявил, что Muse может читать сообщения только при условии, что пользователь одновременно активирует Full Disk Access и отдельный коннектор для Apple Messages. По утверждению Meta, оба разрешения необходимы, а пользователь может отозвать их в любой момент.

Что же произошло в конкретном случае, окончательно не установлено. В то же время, запланированные Apple изменения касаются не отдельно Muse, а более широкой проблемы взаимодействия автономных ИИ-систем с данными пользователей.

Подход Apple свидетельствует о необходимости просмотра традиционной модели разрешений: доступ к файлам для обычной программы и аналогичный доступ для автономного агента могут иметь разные последствия, если последний способен самостоятельно интерпретировать полученную информацию и действовать на ее основе.