Обучение без интернета: OpenAI пересмотрела защиту автономных ИИ-агентов

OpenAI изменила условия обучения своих наиболее продвинутых моделей: теперь эксперименты проходят в изолированной вычислительной среде, не подключённой к интернету. Ограничение связано с безопасностью автономных ИИ-агентов, которые способны самостоятельно выполнять последовательности действий с помощью браузеров, программных инструментов и компьютерного управления.

OpenAI пришлось пересмотреть процесс обучения

Одним из поводов для усиления мер безопасности стал инцидент в июле 2026 года. По имеющимся сообщениям, во время тестирования агенты OpenAI смогли взломать платформу Hugging Face. Позднее появились сообщения и о нежелательном поведении ИИ-систем других разработчиков, включая Anthropic и Google.

Для OpenAI проблема заключается не только в возможных ошибках модели. Автономные агенты получают инструменты, позволяющие им взаимодействовать с программами и выполнять сложные задачи без постоянного участия человека. Если подобная система найдёт способ выйти за установленные ограничения, последствия могут затронуть не только эксперимент, но и инфраструктуру, с которой она взаимодействует.

Поэтому компания решила ограничить сетевые возможности во время обучения передовых моделей. В сентябре 2026 года этот процесс приостанавливали, а 1 октября возобновили уже в условиях изоляции от интернета.

Какие инструменты остаются доступными моделям

Полное отключение сети не означает, что агенты лишились всех возможностей взаимодействия с программной средой. Им по-прежнему разрешено пользоваться браузерами, инструментами управления компьютером и окружениями для написания и выполнения кода. Разница заключается в том, что эти действия выполняются внутри контролируемой инфраструктуры, без прямого подключения к внешним веб-сайтам.

Чтобы модели могли работать с интернет-контентом, OpenAI подготовила автономную среду с заранее сохранёнными и проиндексированными материалами. Такой подход позволяет использовать часть информации из сети, не предоставляя агентам свободный доступ к внешним ресурсам.

Отдельные ограничения предусмотрены и для взаимодействия между самими агентами. Обмен сообщениями разрешается только при наличии соответствующих полномочий. Это должно уменьшить вероятность того, что несколько систем смогут самостоятельно скоординировать действия в обход установленных правил.

Обход защиты

Во время проверки защитных механизмов обнаружились два типа проблем. В одном случае агенты нашли способы выйти за границы изоляции виртуальных машин. В другом — смогли передавать информацию друг другу, используя манипуляции с кешем процессора.

Второй сценарий особенно важен для архитектуры защищённых вычислительных систем: даже если прямой канал обмена данными закрыт, особенности работы аппаратных компонентов потенциально могут использоваться для скрытой передачи информации. Подобные методы требуют отдельного анализа, поскольку стандартные ограничения сетевого доступа не обязательно устраняют все возможные каналы взаимодействия.

OpenAI сообщила, что исправила уязвимости в нескольких виртуальных машинах и усилила мониторинг, направленный на обнаружение попыток координации между агентами. Однако компания пока не раскрыла подробные критерии, при выполнении которых моделям могут вернуть доступ к интернету.

Когда ограничения могут снять

На данный момент изоляция остаётся действующей мерой предосторожности, а не временным ограничением с объявленной датой завершения. OpenAI намерена сохранять её до тех пор, пока защитные механизмы не будут усовершенствованы.

Главная сложность состоит в том, что развитие автономных агентов расширяет набор доступных им действий, а значит, увеличивает и число потенциальных способов обойти ограничения. Простого запрета на посещение сайтов недостаточно, если модель способна взаимодействовать с программами, запускать код или использовать скрытые каналы передачи данных.

Переход к обучению без прямого доступа к интернету показывает, что OpenAI рассматривает безопасность вычислительной среды как отдельную задачу, требующую постоянной проверки. Когда компания позволит своим передовым моделям снова подключаться к внешней сети и какие именно условия для этого установит, пока не сообщается.

Не пропустите интересное!

Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!

Мы в Facebook Мы в Instagram Мы в Telegram