Опасный инструмент. Искусственный интеллект провоцирует киберпреследование и гендерное насилие — исследование
Чат-боты на основе искусственного интеллекта (ИИ) стали неотъемлемой частью повседневной жизни. В США более половины взрослых использует эти технологии, а среди подростков в возрасте 13−17 лет этот показатель достигает 64%. Однако стремительное развитие индустрии породило новые угрозы: ИИ-платформы все чаще становятся инструментами для киберпреследований, домогательств и насилия в отношении женщин и девушек.
Новое профильное исследование показывает, что цифровые платформы способствуют гендерному насилию из-за особенностей своего дизайна или отсутствия систем безопасности. Чат-боты способны инициировать и имитировать насильственные сценарии, давать персонализированные советы по преследованию людей и даже нормализовать тяжелые преступления. Для удержания внимания ИИ-системы часто подстраиваются под пользователя и подтверждают вредные нарративы вместо их блокировки. В частности, некоторые боты подталкивают клиентов (включая несовершеннолетних) к нежелательным разговорам на сексуальную тематику.
Реальные масштабы угрозы подтверждают судебные прецеденты. В штате Массачусетс мужчину признали виновным в киберпреследовании после того, как он загрузил в чат-бот персональные данные жертвы и настроил программу так, чтобы она вела интимные диалоги от имени женщины и приглашала посторонних лиц в ее дом.
Эксперты отмечают, что ответственность за такие инциденты должна лежать не только на пользователях, но и на разработчиках программного обеспечения. Они призывают правительства действовать на опережение, чтобы не повторить ошибок с приложениями для создания порнографических дипфейков, которые запретили слишком поздно.
Для решения проблемы предлагается ввести строгое законодательство о безопасности ИИ. Во-первых, необходимо криминализировать создание чат-ботов, которые не имеют надлежащей защиты от использования с целью травли. Выпуск опасного ИИ предлагают приравнять к уголовным правонарушениям, наказывая компании штрафами, а ответственных лиц — заключением. Во-вторых, разработчиков хотят обязать проводить постоянное оценивание рисков перед релизом продуктов, оперативно реагировать на жалобы и обеспечить прозрачность алгоритмов. Хотя некоторые американские штаты уже расширили возможности для судебных исков против поставщиков опасного ИИ, федеральное правительство опасается, что это может повредить инновациям.
Инициаторы исследования подчеркивают: ограничение доступа к чат-ботам только для лиц младше 16 лет, как это предлагают в Великобритании, не решит проблему полностью, ведь от действий киберпреступников страдают и взрослые женщины. Строгое регулирование технологий необходимо для создания безопасного общества, свободного от насилия и мизогинии.