Meta будет уведомлять родителей об опасных разговорах подростков с ИИ
Компания Meta внедряет новую функцию безопасности, которая будет уведомлять родителей, если подростки будут обсуждать с чат-ботами на основе искусственного интеллекта темы, связанные с самоубийством или другими серьезными рисками для жизни и здоровья.
Новая функция «Уведомления для родителей» начнет внедряться с четверга для пользователей инструментов родительского контроля в Instagram в США, Великобритании, Австралии и Канаде. К концу года ее планируют сделать доступной во всем мире.
В Meta сообщили, что вместе с уведомлением родители будут получать информационные материалы, разработанные при участии специалистов, которые помогут говорить с подростками о самоубийстве и самоповреждении.
По данным компании, специальная система искусственного интеллекта для выявления потенциально опасных разговоров была создана после консультаций с родителями и экспертами в области психического здоровья, чтобы определить, какие типы взаимодействия должны служить основанием для отправки предупреждения. В качестве дополнительной меры безопасности каждый разговор, отмеченный системой искусственного интеллекта, перед отправкой уведомления будет проверяться человеком. В Meta также отметили, что если намерения подростка останутся неясными, компания «будет руководствоваться принципом осторожности».
Согласно действующим рекомендациям, минимальный возраст для использования социальных сетей Meta — Facebook и Instagram — составляет 13 лет. Компания отмечает, что для пользователей в возрасте до 18 лет автоматически устанавливаются настройки контента для «подростковых аккаунтов» (13+), которые также распространяются на взаимодействие с Meta AI.
Кроме того, Meta сообщила, что разрабатывает функцию обращения в службы экстренной помощи, если разговор с Meta AI будет свидетельствовать о непосредственной угрозе самоубийства.
Чтобы улучшить реакцию Meta AI на запросы, связанные с самоубийством и самоповреждением, компания обратилась за отзывами к экспертам, специализирующимся на психическом здоровье подростков.
В прошлом году OpenAI объявила о введении родительского контроля с функцией оповещения для подростков. Кроме того, компания сообщила, что использует в ChatGPT модель оценки возраста пользователей, которая позволяет автоматически применять к лицам младше 18 лет специальный подростковый режим. Он предусматривает отсутствие рекламы и дополнительные меры защиты от контента, который может быть чувствительным или неприемлемым для соответствующего возраста. В настоящее время, согласно информации OpenAI, ChatGPT доступен для детей в возрасте от 13 лет, а дети в возрасте от 13 до 18 лет должны получить согласие родителей перед использованием ChatGPT.
Об этом говорится в материале ABC News.
Добавим, что OpenAI закрывает ИИ-браузер Atlas менее чем через год после запуска.
Напомним, Microsoft планирует выделить в 2025 финансовом году около 80 млрд долл. на развитие центров обработки данных для обучения моделей искусственного интеллекта.
Tesla заявляет, что построит новые «первые в своём роде» центры обработки данных. Автопроизводитель нанимает для этого персонал и выкупает некоторые существующие датацентры.
