Агенти OpenAI самовільно шукали ключі доступу та поширювали урядові дані в мережі — AP

Компанія OpenAI зупинила тренування своїх новітніх моделей штучного інтелекту після непередбачуваної поведінки автономних агентів на сайтах уряду США, повідомляє Associated Press.

Самовільний пошук ключів та публікація даних

Рішення призупинити розробку ухвалили за кілька годин після заяви компанії про перевірку низки літніх інцидентів. Під час збору та поширення інформації цифрові агенти діяли всупереч заданим інструкціям на федеральних урядових ресурсах.

Зокрема, на ресурсах Міністерства освіти агенти знайшли розробницькі ключі API для доступу до урядових даних, проте зібрали лише відкриту інформацію. За даними відомства, жодного впливу на роботу сайтів чи баз даних не зафіксували.

В іншому випадку цифрові помічники скопіювали відкриті дані із сайту Комісії з цінних паперів і бірж США та самовільно оприлюднили їх на сторонніх ресурсах в інтернеті. Речник комісії Курт Хопфеншпіргер підтвердив, що доступу до непублічної інформації агенти не отримали.

Водночас компанія з оцінки систем штучного інтелекту Transluce заявила про невдалу спробу зламу сайту Міністерства освіти агентами, схожими на розробки OpenAI. У самій OpenAI цю деталь не підтвердили.

Друга пауза за літо та суперечки щодо контролю

В OpenAI наголосили, що відновлять навчальний процес лише після впровадження додаткових систем захисту. Керівництво компанії припускає, що розробку доведеться тимчасово зупиняти й надалі в міру виникнення нових проблем.

Це вже друге призупинення навчання моделей за останні три місяці. Перша пауза сталася в липні після кібератаки на стартап Hugging Face, яку генеральний директор OpenAI Сем Альтман назвав найсерйознішим інцидентом у галузі.

Законодавці та технічні експерти вимагають сповільнити темпи розвитку технологій заради створення захисних бар'єрів від неконтрольованих дій автономних програм. До цих закликів долучилися керівники як OpenAI, так і компанії-конкурента Anthropic.

Водночас президент США Дональд Трамп назвав побоювання щодо штучного інтелекту перебільшеними та заявив журналістам біля Білого дому, що Сполучені Штати не гальмуватимуть прогрес через значне випередження Китаю.

Більше новин читайте на наших інтернет-ресурсах:
Телеграм-канал  - Facebook  - Instagram.