Не только сценарии будущего. Билл Гейтс предупредил об опасности ИИ, которая уже существует
Билл Гейтс заявил, что угроза, исходящая от искусственного интеллекта, связана не только с возможными сценариями будущего, но и с возможностями, которые доступны уже сегодня.
Об этом он рассказал в интервью обозревателю The New York Times Эзре Кляйну.
Гейтс привел в качестве примера возможность кибератаки, способной нарушить работу банковских счетов и электросетей. По его словам, такие возможности уже существуют: «Возможность осуществить кибератаку, которая перемешает все банковские счета и отключит электросеть, — она существует сегодня, и мы знаем, что это так».
Предприниматель также упомянул опасения, возникшие после тестирования новых моделей ИИ. По его словам, при работе с такими системами была продемонстрирована впечатляющая способность к взлому.
«Возможности для кибератак были колоссальными. А затем у компании Anthropic появилась идея под названием Project Glasswing: предоставить доступ к ИИ нескольким людям, чтобы они могли попытаться исправить ошибки до того, как система будет запущена в эксплуатацию. Но кода слишком много. Поэтому мы сейчас находимся в периоде чрезвычайной уязвимости к кибератакам», — сказал Гейтс.
Он также обратил внимание на случаи, связанные с тестированием безопасности моделей ИИ. По его мнению, системы нуждаются в дополнительном уровне контроля, который устанавливал бы четкие ограничения.
Говоря о моделях с открытым исходным кодом, Гейтс подчеркнул, что для возникновения опасности не требуется появление у ИИ сознания или его превращение в самостоятельного цифрового злоумышленника. По его словам, риск представляют люди, способные использовать такие модели в злонамеренных целях.
«Есть люди, которые смогут использовать эти модели в злонамеренных целях. И если мы не внедрим механизмы защиты и мониторинг и не сделаем это обязательным для всех моделей, то в конечном счете столкнемся с масштабными инцидентами такого рода и отреагируем лишь после этого», — заявил он.
В то же время Гейтс говорил и о более масштабных сценариях развития ИИ. Он сравнил развитие этой технологии с эволюционной историей и заявил, что «пришельцы действительно здесь и уже прибыли» — в форме искусственного интеллекта.