Вопросы безопасности. ИИ-помощник Instinct получил доступ к данным пользователей

Об этом пишет издание TechCrunch .

Instinct может подключаться к электронной почте, мессенджерам и календарю, а также получать доступ к экрану, аудио, геолокации и другим данным устройства. Пользователи могут ставить ему задачи через текстовые сообщения или WhatsApp. Среди возможностей помощника — бронирование столиков, заказ поездок, очистка почты, организация информации и поиск дешевых авиабилетов.

Проблемы возникли из-за условий использования сервиса. В них указано, что компания получает широкую бессрочную лицензию на доступ к материалам пользователя, их использование, хранение, передачу, воспроизведение и изменение. Данные также могут использоваться для обучения моделей искусственного интеллекта.

В документах отдельно указано, что Instinct может получать информацию с устройств, в частности снимки экрана, данные о перемещении курсора и вводе с клавиатуры. Кроме того, сервис может заключать от имени пользователя сделки, принимать на себя обязательства или совершать транзакции, имеющие для него юридическую силу.

В ходе тестирования пользователи уже сообщали о проблемах в работе сервиса. Один из них, Питер Ян, заявил, что Instinct не удалил записи Gmail после соответствующего запроса. Позднее, по его словам, разработчики добавили в настройки инструмент для удаления внешних данных.

Другая участница тестирования, Клэр Во, обнаружила, что помощник продолжал формировать сводки по её почтовому ящику даже после отключения доступа. По её словам, в Instinct пояснили, что электронные письма хранились в формате открытого текста для обеспечения возможности последующего поиска.

Пользователи также обратили внимание на способность помощника работать с кодами подтверждения из электронной почты. В одном из случаев Instinct смог получить такой код из почтового ящика, чтобы завершить бронирование столика через Resy.

Еще один пользователь заявил, что удалил свой аккаунт после того, как обнаружил, насколько легко, по его мнению, сервис можно было обманом заставить выполнить определенные действия.

Один из случаев касался отправки электронного письма без предварительного согласования. Основательница Moxxie Ventures Кэти Джейкобс Стэнтон сообщила, что Instinct отправил письмо от ее имени, не спросив разрешения.

Она отметила, что персональные ИИ-агенты постепенно получают всё больший доступ к данным и действиям пользователей. По её мнению, ключевым фактором становится доверие: каждое успешное действие укрепляет его, но одно несанкционированное действие может его разрушить.

Instinct пока находится на этапе закрытого тестирования. Компанию возглавляет бывший исследователь Sierra Ноа Шинн, а сам стартап работает в скрытом режиме. По данным TechCrunch, в него могли инвестировать Kleiner Perkins и Conviction.

Представители Instinct не ответили на запросы TechCrunch касательно проблем с конфиденциальностью и безопасностью. На данном этапе сообщения о недостатках поступают от отдельных тестировщиков, поэтому неизвестно, насколько широко они могут проявиться после запуска сервиса для всех пользователей.