Meta попереджатиме батьків про небезпечні запити дітей до ШІ
Meta запускає нову систему контролю для батьків: якщо підліток спілкуватиметься з ШІ про самогубство чи самоушкодження, дорослі отримають попередження та поради від фахівців.
Компанія Meta починає впроваджувати функцію, яка дозволить батькам дізнаватися про небезпечні розмови їхніх дітей із чат-ботами на основі штучного інтелекту. Йдеться про випадки, коли підлітки обговорюють із ШІ теми самогубства або самоушкодження, повідомляє ABC news.
Нова можливість під назвою Повідомлення для батьків стане доступною для користувачів батьківського контролю в Instagram у США, Великій Британії, Австралії та Канаді. До кінця року Meta планує запустити її для користувачів по всьому світу.
Після сповіщення батьки отримуватимуть не лише інформацію про потенційно небезпечну розмову, а й рекомендації від спеціалістів із психічного здоров’я. Вони мають допомогти правильно поговорити з дитиною про її стан та можливі проблеми.
У Meta заявили, що систему виявлення ризикових діалогів створювали разом із батьками та експертами. ШІ аналізуватиме спілкування та визначатиме випадки, які можуть потребувати уваги. Водночас кожну розмову, яку система позначить як потенційно небезпечну, перед відправленням повідомлення перевірятиме людина.
"Якщо наміри підлітка залишатимуться незрозумілими, ми діятимемо за принципом обережності", - зазначили в компанії.
У Meta також повідомили, що працюють над функцією, яка дозволить звертатися до служб екстреної допомоги, якщо спілкування з Meta AI вказуватиме на безпосередню загрозу життю користувача.
Крім того, компанія продовжує вдосконалювати реакцію своїх ШІ-інструментів на запити про самогубство та самоушкодження за участі експертів із психічного здоров’я підлітків.
Раніше подібні заходи анонсувала й OpenAI. Компанія повідомляла про запуск батьківського контролю в ChatGPT, а також спеціальні налаштування для користувачів молодше 18 років із додатковими обмеженнями для чутливого контенту.
ЄС звинуватив Meta у створенні дизайну, що викликає залежність
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp