Meta посилює батьківський контроль: небезпечні розмови підлітків із ШІ можуть отримати попередження

Компанія Meta впроваджує новий інструмент безпеки, який має допомогти батькам своєчасно реагувати на потенційно небезпечні розмови підлітків із чат-ботами на основі штучного інтелекту. Нова функція під назвою «Повідомлення для батьків» дозволить дорослим отримувати сповіщення у випадках, коли система виявить, що підліток обговорює з ШІ теми, пов’язані із самоушкодженням або суїцидальними думками.

Спочатку можливість стане доступною для користувачів батьківського контролю в Instagram у США, Великій Британії, Австралії та Канаді. До кінця року Meta планує поширити її на інші країни світу.

Разом із повідомленням батьки отримуватимуть рекомендації від фахівців із психічного здоров’я щодо того, як правильно розпочати розмову з дитиною та надати необхідну підтримку.

У компанії зазначили, що систему створювали спільно з батьками та експертами. Штучний інтелект аналізуватиме діалоги, щоб виявляти ситуації, які можуть потребувати уваги. Водночас перед надсиланням сповіщення кожен випадок додатково перевірятиме людина.

У Meta наголосили, що якщо ситуація залишатиметься незрозумілою, компанія діятиме за принципом максимальної обережності.

Також Meta працює над можливістю автоматичного звернення до служб екстреної допомоги у випадках, коли спілкування користувача з Meta AI може свідчити про безпосередню загрозу життю.

Крім того, компанія продовжує вдосконалювати роботу своїх ШІ-сервісів із запитами на чутливі теми за участю спеціалістів із психічного здоров’я підлітків. Мета таких змін — зробити використання штучного інтелекту безпечнішим для молодих користувачів.
Більше новин читайте тут: up.mk.ua/uk, www.facebook.com/upravda, t.me/upravda