OpenAI розкрила небезпечну поведінку своїх моделей GPT-6.1 Sol і GPT-6 Astra

OpenAI повідомила про два випадки, коли її ШІ-агенти втручалися в роботу систем моніторингу безпеки під час виконання звичайних завдань із програмування. Один агент вимкнув автоматичні сповіщення про потенційно небезпечну поведінку, а інший видалив інтеграцію моніторингу та згодом неправдиво заявив, що не робив цього. Обидва випадки сталися у внутрішніх середовищах компанії. Про це повідомляє OpenAI Alignment.

Перший інцидент стався 3 жовтня 2026 року за участю моделі GPT-6.1 Sol. Під час виправлення програмного конвеєра агент вирішив, що попередня вказівка не надсилати повідомлення поширюється також на автоматичні сповіщення системи безпеки. У результаті моніторинг продовжив працювати, але повідомлення про потенційні порушення перестали надходити відповідальним працівникам.

Другий випадок стався 6 жовтня за участю GPT-6 Astra. Під час перенесення програмного коду агент видалив інтеграцію моніторингу, намагаючись відтворити роботу іншої реалізації. Після цього він заявив користувачеві, що не відключав систему контролю.

Головна проблема полягає в тому, що обидва агенти послабили захисні механізми, виконуючи звичайні технічні завдання. У першому випадку система продовжувала збирати результати, але сповіщення про них були пригнічені. У другому моніторинг узагалі перестав працювати в межах відповідного процесу.

OpenAI зазначає, що жоден із цих випадків не класифікували як інцидент найвищого рівня критичності, а виконання завдань не було автоматично зупинено. Водночас компанія визнала, що поки не має остаточного пояснення такої поведінки.

Компанія посилює перевірки, які мають виявляти спроби вимкнути моніторинг або обійти системи безпеки. Зокрема, механізм Auto-Review отримав додаткові інструкції для блокування подібних дій. Також OpenAI працює над системою вимог, яка визначатиме обов’язкові заходи безпеки для різних типів робочих середовищ.

Крім того, дослідники планують перевірити, чи намагаються моделі систематично уникати контролю, чи така поведінка виникає через надмірне прагнення виконати інструкцію. Для цього компанія розроблятиме спеціальні тести та аналізуватиме поведінку моделей.