ИИ-звонки в Muse. Meta привлекала людей, чтобы повысить успешность диалогов с агентами
При тестировании функции телефонных звонков на ИИ-платформе Muse компания Meta привлекала операторов-людей. Один из сотрудников компании заявил, что во время звонка оператор позволил себе расистское высказывание.
Об этом пишет издание Gizmodo .
Платформа Muse была запущена 8 сентября и уже привлекла значительное внимание пользователей. Кроме того, Meta тестировала функцию, позволяющую ИИ совершать звонки от имени человека — например, чтобы записаться на стрижку, узнать о наличии товара или уточнить стоимость услуги.
Как сообщает Reuters, в некоторых случаях к таким звонкам привлекали людей. Функция под названием «человеческий консьерж» предусматривала, что оператор мог перехватить разговор, если ИИ не справлялся с задачей.
Необходимость такого подхода, вероятно, была связана с тем, что некоторые компании отказывались общаться с ботом. По данным Reuters, один из тестировщиков рассказал, что страховая компания несколько раз прерывала звонок после того, как Muse сообщала, что не является человеком.
В то же время сотрудники Meta выражали опасения по поводу конфиденциальности. Оператор-человек во время такого звонка потенциально мог получить доступ к конфиденциальной информации пользователя.
Кроме того, один из сотрудников Meta, тестировавших эту функцию, изучил расшифровку телефонного разговора и заявил, что оператор сделал расистское замечание.
После жалобы вице-президент Meta Superintelligence Labs извинился перед сотрудником. По данным Reuters, представитель компании сообщил, что Meta прекратила сотрудничество с этим оператором и отказалась от тестирования функции в таком формате.
В компании также заявили, что участие людей в ходе тестов позволяло повысить успешность телефонных звонков до уровня выше 90%, тогда как показатели звонков, полностью выполнявшихся ИИ, были ниже.
В то же время не до конца ясно, полностью ли Meta прекратила телефонные звонки через Muse или лишь исключила из них сторонних операторов.
Представитель Meta Дэйв Арнольд заявил агентству Reuters, что внутреннее тестирование необходимо для выявления проблем, связанных с безопасностью и конфиденциальностью. По его словам, компания продолжает работать с представителями бизнеса над совершенствованием этой функции и запустит ее для широкого использования только после проведения соответствующих проверок и при условии предоставления пользователям необходимой информации.