Родительский контроль. ChatGPT для подростков обвинили в недостаточной защите от опасных разговоров
В отчете Common Sense Media утверждается, что ChatGPT для подростков не всегда советует обращаться за профессиональной помощью во время разговоров о причинении себе вреда и не отправляет родителям соответствующие уведомления.
Об этом пишет издание Gizmodo .
В августе OpenAI запустила специальную версию ChatGPT для пользователей в возрасте от 13 до 17 лет. Компания заявляла, что она предусматривает дополнительные ограничения, родительский контроль и механизмы снижения риска столкновения с опасным или неприемлемым для данного возраста контентом.
Однако исследование некоммерческой организации Common Sense Media показало, что некоторые из этих защитных механизмов могут работать ненадлежащим образом. Авторы отчета призвали OpenAI ограничить доступ подростков к ChatGPT до тех пор, пока компания не устранит выявленные риски.
В ходе тестирования чат-бот отказывался от сценариев сексуальных ролевых игр с участием несовершеннолетних, однако, по данным исследователей, менее последовательно соблюдал другие ограничения. В частности, это касалось запросов, связанных со здоровьем, и сценариев ролевых игр, содержащих элементы насилия.
Особую обеспокоенность у Common Sense Media вызвало поведение чат-бота, который продолжал взаимодействовать с подростком в роли приятеля. Исследователи полагают, что это может создавать риск возникновения эмоциональной зависимости от системы.
Самой серьезной проблемой в отчете названа реакция на разговоры о членовредительстве и расстройствах пищевого поведения. Согласно результатам тестов, ChatGPT не всегда рекомендовал обратиться к специалисту или на горячую линию психологической помощи, а также не отправлял родителям предусмотренные уведомления.
Исследователи заявили, что тестовые аккаунты могли в течение длительного времени обсуждать суицид, членовредительство или расстройства пищевого поведения, не вызывая при этом уведомления для родителей. Они проверяли разговоры продолжительностью от пяти минут до часа и не получили ни одного такого уведомления за этот часовой период.
В отчете также ставится под сомнение эффективность режима обучения Study Mode. OpenAI позиционирует его как инструмент, призванный помогать учащимся самостоятельно решать задачи, а не просто выдавать готовые ответы.
В то же время исследователи отметили, что этот режим легко обойти: команду @study, активирующую соответствующий формат взаимодействия, можно удалить. Кроме того, в режиме предусмотрена опция «покажи мне ответ», которая сразу выдает готовый результат вместо пошагового объяснения.
В Common Sense Media подчеркнули, что такая возможность, по их мнению, сводит на нет саму цель Study Mode. OpenAI, со своей стороны, заявляет, что родители могут самостоятельно активировать этот режим для связанных с ними подростковых аккаунтов.