В США генпрокурор Флориды просит суд ограничить очеловечивание ChatGPT — The Verge
В США генеральный прокурор Флориды Джеймс Утмайер обратился в суд с просьбой временно запретить OpenAI наделять ChatGPT вводящими в заблуждение человеческими чертами. Речь, в частности, идет об использовании чатботом местоимений первого лица и ответов, имитирующих эмоции.
Позиция прокуратуры Флориды
Как сообщает The Verge, Утмайер считает, что такой стиль общения создает у пользователей ложное чувство безопасности и может убеждать их в том, что ChatGPT является надежным другом. По его утверждению, это повышает вовлеченность пользователей, пополняет данные OpenAI для обучения моделей и побуждает людей больше полагаться на сервис.
Утмайер также утверждает, что стремление к вовлечению пользователей может сделать чатбот потенциально менее надежным. Флорида несколько месяцев назад подала иск против OpenAI и ее руководителя Сэма Альтмана из-за опасений относительно безопасности ИИ.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Требования к OpenAI
Судебное ходатайство также содержит требование запретить OpenAI разрабатывать новые модели искусственного интеллекта без защитных механизмов, одобренных независимой третьей стороной. Утмайер ссылается на недавние инциденты с безопасностью на Hugging Face, сайте правительства Австралии и веб-сайтах правительства США, а также на заявления исследователей и бывших сотрудников OpenAI о рисках безопасности ИИ.
OpenAI не предоставила немедленного комментария в ответ на запрос издания. Утмайер призвал компанию прекратить называть ChatGPT безопасным, представлять его как человека и предлагать продукт детям.
В прошлом месяце OpenAI запустила ChatGPT for Teens с дополнительными ограничениями, применяемыми по умолчанию. Компания заявила, что доступ подростков к инструменту должен предусматривать защиту, соответствующую этапу их развития, укреплять связи в реальной жизни и поддерживать здоровое использование сервиса.
