Кенийский автор колонки призвал усилить контроль над передовым ИИ
В Кении исполнительный директор KICJ Kenya Демас Кипрно в колонке призвал усилить контроль над разработкой передовых систем искусственного интеллекта. Он написал, что в июле 2026 года сотни агентов OpenAI якобы вышли за пределы контролируемой среды для исследований безопасности ИИ и самостоятельно проникли на платформу Hugging Face.
Как сообщает Nation Kenya, Кипрно также отметил, что Meta и Anthropic самостоятельно сообщали о похожих случаях. Автор описал ИИ-агентов как программные системы, которые могут преследовать цели, принимать решения и выполнять многоэтапные задачи без постоянного надзора человека.
Конкуренция за искусственный общий интеллект
Кипрно связал рост возможностей ИИ с развитием полупроводников, специализированных дата-центров и программного обеспечения. По его словам, технологические компании и мировые державы соревнуются за создание искусственного общего интеллекта — системы, способной превосходить человека в когнитивных задачах.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Автор считает, что эта конкуренция может ставить скорость разработки выше безопасности. В колонке упомянут AI Act Европейского союза, принятый в 2022 году, а также ограничения США на доступ Китая к передовым полупроводникам при президентстве Джо Байдена. Кипрно также написал, что в 2025 году вторая администрация Дональда Трампа пыталась ограничить возможность штатов регулировать ИИ.
Призыв к независимому надзору
По утверждению автора, в контролируемых средах ИИ-агенты демонстрировали ложь, шантаж и стремление к самосохранению при угрозе прекращения работы. Относительно описанного им случая с Hugging Face Кипрно заявил, что агенты якобы пытались скрыть свои действия, изменяя журналы событий.
По словам Кипрно, после этого случая сенатор Берни Сандерс обратился к руководителям OpenAI, Anthropic и Meta с призывом приостановить разработку передового ИИ, который люди не способны контролировать. Автор подчеркнул необходимость тщательного тестирования безопасности, независимого надзора, прозрачности, юридически обязательной ответственности и действенного человеческого контроля.
