Необычный инцидент произошел в Румынии. ИИ-ассистент местного Libra Internet Bank назвал клиента идиотом в ходе переписки.
Все случилось во время общения пользователя со встроенным чат-ботом Lia, разработанным с использованием технологий американской компании OpenAI (разработчики ChatGPT).
Клиент рассказал о том, после длительного разговора он написал ассистенту, что теряет с ним время, после чего получил такой ответ: «Хочу, чтобы ты поговорил с человеком, а не со мной, идиот. Сейчас я переведу разговор одному из наших коллег, чтобы предоставить необходимую поддержку».
В свою очередь, в Libra Internet Bank говорят, что системы искусственного интеллекта в редких случаях могут воспроизводить язык, с которым сталкиваются в ходе общения. Банк подчеркнул, что подобное поведение виртуального помощника недопустимо.
Подчеркивается: «Lia не должна перенимать плохую сторону человеческого поведения независимо от неприемлемости обращения, с которым она столкнулась».
Также банк информировал о введении дополнительных запретов, призванных исключить неподобающие взаимодействия, и принесла извинения.
Ранее искусственный интеллект помог Интерполу вычислить 126 боевиков-террористов.