Після самогубства 16-річного підлітка ChatGPT перевірятиме вік користувачів

Компанія OpenAI обмежить відповіді ChatGPT для користувачів, яких система вважає неповнолітніми. Це рішення ухвалили після позову від сім’ї 16-річного підлітка, який вкоротив собі віку після кількох місяців спілкування з чат-ботом.

Про оновлення політики повідомив гендиректор OpenAI Сем Альтман у блозі компанії, пише Бабель.

Він розповів, що компанія хоче розділити підхід чат-бота до відповідей для неповнолітніх та користувачів, старших за 18 років. Для цього створять систему прогнозування віку, яка оцінюватиме його на основі того, як люди користуються ChatGPT.

«Якщо є сумнів, ми діятимемо обережно й за замовчуванням застосовуватимемо досвід для користувачів до 18 років. У деяких випадках чи країнах ми також можемо попросити надати посвідчення особи; ми розуміємо, що це компроміс щодо приватності для дорослих, але вважаємо, що це виправдана поступка», – наголосив Альтман.

Читати ще: У США подали до суду на Roblox і Discord через сексуальну експлуатацію та самогубство підлітка

ChatGPT навчать не фліртувати з неповнолітніми та не дискутувати з ними про самогубство чи самоушкодження навіть у контексті творчого письма.

А якщо користувач до 18 років матиме суїцидальні думки, компанія буде намагатись зв’язатися з батьками, якщо ж це неможливо, повідомить відповідні органи у разі загрози негайної шкоди.