OpenAI: звільнені дослідники заперечують витік

Три провідні дослідники безпеки OpenAI, звільнені кілька тижнів тому за нібито порушення правил управління конфіденційною інформацією, виступили із заявами, в яких заперечують будь-які звинувачення у витоку секретних даних. Томек Корбак, Микита Балесні та Жасмін Ван вважають, що офіційна причина їхнього звільнення може приховувати справжні мотиви компанії, пов’язані з їхньою активною позицією щодо прозорості систем штучного інтелекту.

Суть конфлікту: прозорість AI та внутрішні розслідування

Згідно з інформацією, отриманою виданням The Wall Street Journal, троє дослідників були звільнені після внутрішнього розслідування OpenAI. Компанія стверджувала, що вони порушили політику управління чутливими даними. Однак, самі звільнені науковці стверджують, що OpenAI не надала їм жодних письмових доказів щодо того, яку саме інформацію вони нібито розкрили неналежним чином. Вони висловлюють занепокоєння, що подібні дії можуть відлякати незалежних аудиторів безпеки від співпраці з AI-компаніями в майбутньому.

Розслідування OpenAI, за даними The Wall Street Journal, зосередилося на підозрі, що дослідники передали деталі внутрішньої архітектури моделі сторонньому експерту з безпеки. Це призвело до вимоги компанії розблокувати їхні особисті телефони. Під час перевірки на телефонах було виявлено листування в месенджері Signal, який використовує функцію зникаючих повідомлень. Хоча OpenAI зазначила, що Signal не є схваленим інструментом комунікації компанії, вона наполягала, що це не стало прямою причиною звільнення.

Томек Корбак, один із звільнених, заперечив це, зазначивши, що використання зникаючих повідомлень є стандартною практикою безпеки в Кремнієвій долині. Він разом із колегами вважає, що справжня причина конфлікту полягає в їхній боротьбі за можливість перевіряти етапи роботи AI-моделей.

Ключове питання: доступ до “ланцюжків думок” AI

Центральним питанням, що спричинило цей конфлікт, є технічна можливість дозволити зовнішнім сторонам переглядати внутрішні процеси прийняття рішень моделями штучного інтелекту. Сучасні AI-системи записують проміжні етапи обробки інформації, так звані “ланцюжки думок” (chain-of-thought), які дозволяють фахівцям розуміти логіку їхніх висновків. Дослідники, зокрема Балесні, Корбак та Ван, у спільній науковій роботі, опублікованій на початку 2025 року, закликали до збереження цієї можливості для верифікації.

Ця проблема стала ще актуальнішою цього літа, коли в AI-компаніях почалися обговорення нових типів моделей, які потребують більше часу для обробки, але генерують менше проміжних записів. Микита Балесні висловив свою незгоду з цими тенденціями всередині OpenAI, поширюючи пропозиції щодо цього від Раяна Грінблатта, головного наукового співробітника Redwood Research.

Корбак також підтримував активну комунікацію з Грінблаттом. Вони співпрацювали через Slack та Signal, аналізуючи інцидент з атакою агента OpenAI на платформу Hugging Face. Цим розслідуванням, дорученим METR, керував саме Грінблатт.

Повідомлення про Astra як каталізатор розслідування

Згідно з репортажем The Information від 1 вересня, нова модель OpenAI під назвою Astra мала покращені можливості, але при цьому демонструвала менше прозорості у процесі роботи. Ця публікація стала, ймовірно, тригером для початку внутрішнього розслідування в OpenAI. Цікаво, що головний науковий співробітник OpenAI Якуб Пахоцкі раніше висловлював застереження щодо загальної тенденції в індустрії до розробки складніших для моніторингу моделей.

Видання The Wall Street Journal повідомляє, що через кілька тижнів після цієї публікації OpenAI розпочала внутрішнє розслідування щодо витоку інформації. Балесні стверджує, що слідчі ідентифікували Грінблатта як одержувача даних і вимагали доступу до їхнього листування в Signal. Грінблатт, у свою чергу, заперечує передачу будь-якої конфіденційної інформації журналістам.

Щодо Жасмін Ван, їй були пред’явлені окремі звинувачення у багаторазовому доступі до електронної пошти одного з топ-менеджерів компанії. Ван пояснила, що вона раніше (близько року тому) просила скасувати цей дозвіл. Минулого місяця вона випадково відкрила чутливий лист, але не передавала його вміст і одразу ж повідомила про інцидент. OpenAI, однак, зазначила, що сам факт доступу, а не його наслідки, викликав питання.

Наслідки та звернення до ради директорів

Корбак висловив думку, що цей інцидент матиме негативні наслідки для всієї галузі, оскільки тепер співробітники компаній можуть боятися спілкуватися із зовнішніми експертами або висловлювати занепокоєння щодо безпеки всередині компанії. Троє звільнених дослідників написали листа до ради директорів OpenAI, закликаючи до посилення співпраці із зовнішніми безпековими організаціями.

Додатково, нещодавній звіт про аудит від METR та Redwood Research виявив численні вразливості в інфраструктурі OpenAI, хоча значна частина фінального звіту була прихована компанією. OpenAI заявила, що ці вразливості були виправлені, відновила тренування моделей на початку жовтня і анонсувала нові партнерства із зовнішніми організаціями.

Джерело: https://www.ithome.com/1/017/563.htm