Meta тестирует в WhatsApp функцию на базе ИИ для выявления мошеннических сообщений
Meta запускает ограниченное бета-тестирование дополнительной функции Scam Alert в WhatsApp. Она использует машинное обучение непосредственно на устройстве пользователя для выявления потенциально мошеннических сообщений. Если модель определит сообщение как вероятную попытку мошенничества, в чате появится предупреждение, которое не будет видно собеседнику.
После такого уведомления пользователь сможет заблокировать контакт, пожаловаться на него или продолжить разговор. Если предупреждение оказалось ложным, чат можно пометить как доверенный. Тогда уведомление исчезнет, и Scam Alert в дальнейшем не будет помечать эту переписку как подозрительную.
Пользователи, которые помечают чат как доверенный, также смогут по желанию передать WhatsApp последние пять полученных в нём сообщений. По данным компании, это должно помочь повысить точность работы функции.
Больше актуальных новостей читайте в Telegram-канале UA.News.
Meta заявляет, что во время классификации содержание сообщений не покидает устройство пользователя, а система не отправляет автоматические жалобы в WhatsApp, Meta или другим сторонам. Scam Alert можно отключить в любой момент. Ранее в этом году компания запустила в WhatsApp функцию обнаружения мошенничества для запросов на привязку устройства.
Как сообщает The Verge, WhatsApp насчитывает более 3 млрд пользователей и является одной из крупнейших площадок для деятельности мошенников, в частности в схемах с переводами средств и так называемом «pig butchering». Федеральная торговая комиссия США сообщала, что в 2025 году потерпевшие заявили об убытках в размере 425 млн долларов из-за мошенничества в WhatsApp. Общие заявленные убытки от мошенничества через социальные сети тогда превысили 2,1 млрд долларов.
