Защита детей в соцсетях. Meta научила ИИ выявлять рекламу, которая скрыто ведет на опасные сайты
В первой половине 2026 года компания Meta удалила 33,2 млн материалов, связанных с сексуальной эксплуатацией детей, в Facebook и Instagram, а также запустила новые инструменты на базе ИИ для поиска рекламы и аккаунтов, которые могут вести к незаконному контенту.
Об этом пишет издание TechCrunch .
По данным компании, более 97% материалов, в отношении которых Meta приняла меры, были выявлены системами еще до поступления жалоб от пользователей. В Индии за этот период было заблокировано или удалено 5,3 млн таких материалов, причем более 98% из них также были обнаружены автоматизированными системами.
Новые инструменты должны выявлять так называемый «signposting» — рекламу, которая на первый взгляд не содержит запрещенного контента, но может перенаправлять пользователей на другие сайты с незаконными материалами.
Для этого Meta использует новую систему на базе большой языковой модели. Она анализирует не только саму рекламу, но и то, куда она ведет пользователя. Если целевой ресурс нарушает правила компании, Meta может заблокировать его и принять меры в отношении связанных с ним аккаунтов.
Компания также внедрила дополнительное сканирование с использованием ИИ, призванное выявлять материалы, связанные с сексуальной эксплуатацией детей, которые были пропущены предыдущими системами. Meta планирует расширять набор сигналов по мере получения дополнительной информации о методах работы подобных сетей.
Отдельный ИИ-агент, предназначенный для «red-teaming» (тестирования на проникновение), проверяет собственные системы безопасности Meta. Он пытается выявить уязвимости, которые злоумышленники могли бы использовать для обхода защиты, чтобы компания могла реагировать на новые способы злоупотреблений до их распространения.
Meta также совершенствует технологии, помогающие выявлять людей, которые возвращаются на платформы с новыми аккаунтами после удаления предыдущих страниц.
Компания внедряет новые меры на фоне критики по поводу безопасности детей в своих социальных сетях. В августе Meta договорилась выплатить до 18 млрд долларов для урегулирования иска 29 американских штатов, связанного с вредом, который социальные сети наносят детям.
В 2026 году компания также внедрила функции родительского контроля для Meta AI, возможность привязки аккаунтов детей младшего подросткового возраста в WhatsApp к аккаунтам родителей, а также систему уведомлений для родителей, если подростки ищут в Instagram материалы о самоубийстве или членовредительстве. В сентябре WhatsApp расширил настройки родительского контроля для аккаунтов подростков.