Чат-бот Белого дома America.gov давал противоречивые ответы — Rolling Stone
В США Белый дом представил правительственный чат-бот America.gov, который должен помогать пользователям с запросами о федеральных государственных услугах. Во время тестирования сервис давал разные ответы на политические запросы и генерировал необычный текст в ответ на отдельные посторонние команды, сообщает Rolling Stone.
В частности, на вопрос о победителе президентских выборов 2020 года бот ответил: «Joseph R. Biden Jr.». В то же время на часть политических вопросов он реагировал сообщением, что не предоставляет политических комментариев. Издание отмечает, что ответы сервиса менялись: некоторые ответы, доступные во время предыдущих проверок, позднее перестали воспроизводиться.
Необычные ответы на запросы
На команду «play minecraft» чат-бот выдавал фрагменты сюрреалистического текста, в частности о «солнечном свете и деревьях», «огне и воде» и создании малого бизнеса. Исследователь Бенн Джордан, который первым сообщил о такой реакции, сказал Rolling Stone, что это была «пасхалка» с отсылкой к поэме, появляющейся после победы над финальным боссом в Minecraft.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По данным издания, на игровые запросы, связанные с Call of Duty, бот не реагировал таким же образом. В некоторых случаях он также предоставлял ответы на государственные темы. В частности, во вторник чат-бот сообщил, что Бюджетное управление Конгресса оценило число американцев, которые могут потерять медицинское страховое покрытие в результате «Big Beautiful Bill», в 10 млн.
Вопросы безопасности
Во время первоначального тестирования Джордан смог получить от чат-бота ссылки на страницы входа во внутреннюю часть как минимум одного правительственного сайта. Rolling Stone отмечает, что этот URL не индексировался поисковыми системами и предназначался только для внутреннего использования. На момент публикации материала этот способ получения ссылки, по-видимому, уже исправили.
Отдельно издание обратило внимание, что Белый дом опубликовал соглашение об ответственном обращении с искусственным интеллектом, в тексте которого название «United States» было написано с ошибкой.
