ChatGPT учит пользователей создавать химическое оружие и готовить яд
После обновления ChatGPT в 2025 году некоторые пользователи начали обращаться к чат-боту с запросами о создании биологического оружия и токсичных веществ. По данным The Wall Street Journal, отдельные ответы искусственного интеллекта содержали слишком подробную информацию, что вызвало беспокойство среди экспертов. В компании OpenAI заявили, что такие случаи отслеживаются, а нарушители блокируются.
После обновления популярного чат-бота ChatGPT летом 2025 года сотни людей в разных странах пытались получить от него информацию о создании и использовании биологического оружия, ядов и опасных веществ. По данным издания, в некоторых случаях искусственный интеллект предоставлял пользователям ответы, которые могли восприниматься как практические инструкции. Сотрудники OpenAI, анализировавшие эти ситуации, отмечали, что часть ответов была настолько понятной, что ею мог бы воспользоваться даже школьник с базовыми знаниями по биологии.
Эксперты по биологии и противодействию терроризму, с которыми общались журналисты, назвали некоторые из таких ответов «опасными» и «слишком точными». Они подчеркнули, что развитие искусственного интеллекта создает новые вызовы, ведь такие технологии можно использовать не только в полезных целях, но и для получения информации о создании опасных веществ.
В начале 2026 года отдельные пользователи продолжали пытаться получить от ChatGPT информацию о способах распространения инфекций и изменении свойств вирусов. В частности, один из запросов касался возможности сделать вирус кори более устойчивым к вакцинам. Другой пользователь пытался получить сведения о создании рицина — одного из самых токсичных веществ, использование которого запрещено.
После выявления таких случаев OpenAI заблокировала аккаунты части пользователей. В то же время компания не передавала информацию обо всех подобных запросах правоохранительным органам, поскольку в США пока нет закона, который обязывал бы разработчиков искусственного интеллекта сообщать о каждой попытке получить опасные инструкции.
В компании заявляют, что постоянно совершенствуют системы безопасности и стараются не допускать формирования ответов, которые могут помочь в изготовлении оружия или нанести вред людям. Для этого разработчики используют дополнительные фильтры, проверки и механизмы блокировки опасных запросов.
Впрочем, история с ChatGPT вновь подняла вопрос о том, насколько жесткими должны быть правила развития искусственного интеллекта. Эксперты считают, что технологические компании, правительства и ученые должны совместно разрабатывать правила, которые позволят пользоваться преимуществами ИИ, но в то же время снизят риски его опасного использования. Об этом сообщает The Wall Street Journal.
Google расширяет доступ к своему новому ИИ-ассистенту Gemini Spark, который помогает работать с почтой, календарем и документами. Однако воспользоваться всеми возможностями сервиса смогут только пользователи платных подписок.
