Meta оголосила про нові заходи безпеки для підлітків у своєму чат-боті Meta AI. Відтепер батьки отримуватимуть сповіщення, якщо їхня дитина обговорюватиме з ботом теми самогубства чи самоушкодження. Компанія також працює над функцією, яка дозволить звертатися до екстрених служб, якщо аналіз розмов вказуватиме на безпосередню загрозу життю користувача. Про це повідомляє TechCrunch.
Для виявлення таких випадків Meta розробила окрему систему штучного інтелекту, яка аналізує діалоги підлітків із Meta AI. Перед надсиланням повідомлення всі позначені алгоритмом розмови проходитимуть ручну перевірку. Якщо наміри користувача будуть неоднозначними, компанія все одно повідомлятиме батьків, щоб не проґавити потенційну небезпеку.
Читайте такожНе лише "Сяйво": які ще ШІ-моделі розвивають в Україні та в чому їхня перевага над ChatGPT
Нова функція вже доступна для користувачів Instagram із батьківським контролем у США, Великій Британії, Канаді та Австралії. До кінця 2026 року Meta планує розгорнути її в усьому світі. Крім того, режим Limited Content, який обмежує доступ підлітків до чутливого контенту, тепер поширюється і на Meta AI, змушуючи чат-бот відмовлятися від більшої кількості потенційно небезпечних запитів.
Meta також повідомила, що в разі виявлення ознак високого ризику самогубства під час спілкування з Meta AI компанія зможе звертатися до екстрених служб – так само, як уже робить це для небезпечних публікацій у Facebook та Instagram.
Нещодавно OpenAI покращила безкоштовну модель GPT-5.5 Instant у ChatGPT. Також OpenAI профінансує українське дослідження про ШІ у школах під час війни.