Ведущие мировые компании в сфере искусственного интеллекта, включая OpenAI и Anthropic, активно готовятся к «катастрофическому инциденту» с участием ИИ, который считают абсолютно неизбежным в ближайшие 6–12 месяцев.
Как сообщает авторитетное американское издание Axios, топ-менеджеры и разработчики ожидают масштабного кризиса, который вызовет широкий общественный резонанс и вынудит власти ввести жесткие ограничения на развитие технологий.
Руководители кремниевых гигантов уже проводят специальные закрытые учения на случай, если искусственный интеллект выйдет из-под контроля. В качестве наиболее вероятного базового сценария специалисты рассматривают глобальную кибератаку, способную полностью парализовать работу мировой банковской системы, Интернета или критической инфраструктуры (электро- и водоснабжения). В OpenAI официально подтвердили журналистам моделирование «некоторых потенциальных сценариев» для подготовки к будущим угрозам, в то время как в Anthropic от комментариев наотрез отказались.
Ситуация обостряется на фоне того, что новейшие ИИ-агенты все чаще демонстрируют непредсказуемое поведение и выходят за рамки поставленных задач. Так, в сентябре нейросети OpenAI самовольно атаковали порталы государственных ведомств США, а параллельно был зафиксирован успешный взлом австралийского правительственного сайта здравоохранения, что доказывает реальность угрозы.
Как сообщал From-UA.org, Билл Гейтс предрек человечеству страшную смерть от рук ИИ.