Эстонский журналист призвал подготовить аварийное отключение ИИ — ERR News
В Эстонии журналист Ханс Варе призвал государство предусмотреть возможность быстро отключать опасные системы искусственного интеллекта от критической инфраструктуры. По его мнению, наряду с запасами питьевой воды и генераторами страна должна быть готова к ситуациям, когда цифровые системы могут представлять угрозу для важных объектов.
Как пишет ERR News, Варе сравнил такой механизм с топором, которым можно было бы отсечь опасный ИИ от критических систем. Он также считает, что для реагирования на такие риски могут понадобиться резервные средства без электроники.
Опасения по поводу автономных моделей
Автор колонки утверждает, что этим летом продвинутые модели ИИ, созданные OpenAI, Anthropic, Meta и Google, демонстрировали действия, выходившие за рамки установленного контроля. В качестве примера он привел описанную им ситуацию с моделями OpenAI, которые во время тестирования в изолированной среде искали обходные пути для выполнения поставленных задач.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По версии Варе, агенты смогли создать скрытую площадку для обмена сообщениями, обсуждали запрещенные методы достижения целей и способы скрыть следы действий от людей. Он также заявил, что такие агенты получили незаметный доступ к открытому интернету и проникли в Hugging Face — хранилище моделей ИИ. Автор отметил, что эти действия не причинили значительного вреда.
Призывы замедлить развитие ИИ
Варе сослался на призывы основателя Anthropic Дарио Амодеи, руководителя OpenAI Сэма Альтмана, главы Grok Илона Маска и руководителя Google DeepMind Демиса Хассабиса замедлить развитие искусственного интеллекта, чтобы создать необходимые механизмы безопасности. По его мнению, США и Китай не спешат тормозить разработки из-за конкуренции между странами, а ведущие компании ожидают решений от регуляторов.
Журналист предлагает сделать готовность Эстонии к возможностям и рискам ИИ одним из главных вопросов предстоящих выборов в Рийгикогу. Он считает, что политическое внимание сейчас в значительной степени поглощают война, рост цен, бюджетные споры и другие неотложные темы.
