Китай обмежує “емоційний” ШІ: ByteDance, Alibaba і Tencent змінюють свої чат-боти

Китайські технологічні компанії ByteDance, Alibaba та Tencent почали відключати функції створення персоналізованих компаньйонів зі штучним інтелектом напередодні набуття чинності нових державних правил. Пекін прагне обмежити психологічні ризики ШІ, особливо для дітей і підлітків, повідомляє Bloomberg.

Нові правила, розроблені Адміністрацією кіберпростору Китаю, набудуть чинності в середині липня. Вони забороняють платформам створювати контент, який може викликати екстремальні емоції у неповнолітніх або сприяти формуванню нездорової емоційної залежності, що підриває реальні людські стосунки. Крім того, регулятор забороняє компаніям використовувати конфіденційні дані приватних розмов користувачів для навчання майбутніх моделей штучного інтелекту.

Найпопулярніший китайський чат-бот Doubao від ByteDance припинить підтримку функції створення персоналізованих ШІ-персонажів з 15 липня. Користувачам уже надсилають повідомлення про закриття сервісу та пропонують перейти до окремого застосунку для ШІ-компаньйонів.

Аналогічні зміни запроваджує чат-бот Qwen від Alibaba. За інформацією місцевих медіа, подібні попередження також отримали користувачі Yuanbao від Tencent та інших великих китайських платформ.

Китайські чат-боти давно пропонували можливість створювати власних цифрових співрозмовників за допомогою текстових підказок. Серед найпопулярніших сценаріїв були віртуальні хлопці та дівчата, несертифіковані ШІ-терапевти, а також цифрові копії популярних музичних виконавців.

Як пише Bloomberg, нові обмеження стали одним з наймасштабніших у світі серед правил, спрямованих на мінімізацію психологічних ризиків, пов'язаних зі штучним інтелектом. Водночас частина технологічних компаній вважає, що надто жорстке регулювання може стримувати розвиток інновацій.

Китайська влада також розширює етичне регулювання за межі програмного забезпечення. За інформацією People's Daily, дві галузеві асоціації робототехніки вже закликали запровадити додаткові етичні стандарти для роботів-компаньйонів та гуманоїдних роботів, які дедалі активніше виходять на споживчий ринок. Зокрема, минулого місяця компанія UBTECH Robotics презентувала повнорозмірні машини U1 Pro з високою деталізацією зовнішності.

Посилення контролю в Китаї відбувається на тлі глобальних дискусій щодо безпечного використання розмовного ШІ. У США компанії OpenAI та Character.AI вже стали відповідачами у низці судових позовів, автори яких стверджують, що надто реалістичні чат-боти зі ШІ сприяли формуванню небезпечної емоційної залежності користувачів, а в окремих випадках могли бути пов'язані із самогубствами вразливих людей.