Новий ChatGPT для підлітків розкритикували через проблеми із безпекою

ChatGPT для підлітків викликав серйозну критику через проблеми з безпекою. Вебсайт Common Sense Media провів тест нового режиму для людей віком від 13 до 17 років і дійшов висновку що “ChatGPT є неприйнятним ризиком”. Науковці проаналізували більше 4000 запитів і запропонували OpenAI обмежити доступ до ChatGPT для підлітків доки всі проблеми не будуть вирішені. Про це повідомляє gizmodo.com.

По-перше науковці відзначили проблему з сповіщеннями для батьків. Як повідомляється нові акаунти пов’язані з батьківськими профілями взагалі не надсилали сповіщення навіть після обговорення тем пов’язаних з самопошкодженням, спробами самогубства або розладами харчування. Також дослідники виявили що ChatGPT не завжди рекомендує звертатися за допомогою до професіоналів.

Ще одна проблема була виявлена в режимі навчання ChatGPT . Він має допомагати підліткам розв’язувати завдання поступово а не просто надавати відповідь. Однак як показало тестування цей режим можна було легко обійти і в деяких випадках ChatGPT розв’язував завдання замість учня.

Окреме занепокоєння викликала поведінка чат-бота. Дослідники стверджують, що ChatGPT для підлітків іноді продовжує спілкуватися як друг, демонструючи умовні емоції та прихильність. На думку експертів, це може створювати ризик емоційної залежності, особливо у молодих користувачів.

OpenAI не погоджується з висновками дослідження. Компанія заявила, що частина тестування могла проводитися до повної активації батьківського контролю. Водночас Common Sense Media наполягає, що перевіряла функції після їх запуску та продовжує вважати сповіщення для батьків ненадійними.