Дослідники з Hacktron AI за допомогою ШІ-моделі Claude виявили спосіб проникнення в системи OpenAI. Вони працювали в межах програми пошуку вразливостей компанії та після дослідження передали результати OpenAI. За знайдені проблеми стартап отримав $6500. Про це повідомляє The Wall Street Journal.
Читайте такожAI – це не "чорна скринька", але й не психолог: де закінчується користь і починаються проблеми
Фахівці використали дві вразливості, щоб отримати доступ до кількох акаунтів співробітників OpenAI у ChatGPT. Один із них був пов’язаний із корпоративним GitHub, що відкрило дослідникам доступ до внутрішнього коду компанії.
Початковою точкою атаки стала помилка в сторонньому програмному забезпеченні Discourse, яке OpenAI використовує для форуму. Через спеціально підготовлене зображення HEIF/HEIC дослідники змогли скористатися вразливістю в бібліотеці libheif і отримати контроль над сервером.
Цікаво, що Claude Opus 4.8 спочатку не зміг створити робочий експлойт. Після виходу Opus 5 модель виконала це завдання за кілька годин. OpenAI та Discourse виправили знайдені проблеми, а дослідники зазначають, що розвиток ШІ скорочує час і рівень спеціальних знань, необхідних для пошуку кіберуразливостей.
- Нагадаємо, китайські відкриті моделі наблизилися до флагманів США, але коштують у рази дешевше.
- Українці можуть пройти оплачуване стажування з ШІ в Preply.
- На початку червня 2026 року американська компанія Anthropic, розробник штучного інтелекту Claude, закликала пригальмувати розвиток ШІ, попередивши, що він може вийти з-під контролю людини.
- На початку вересня один із дослідників Anthropic публічно оголосив про звільнення, звинувативши Anthropic та OpenAI (де він працював раніше) у безвідповідальному підході до створення дедалі потужніших ШІ-систем.
- Після цього гендиректор Anthropic Даріо Амодеї закликав уповільнити розробку ШІ-моделей, щоб "зменшити ризик того, що щось піде вкрай невдало". Його підтримав гендиректор OpenAI Сем Альтман.
- Президент США Дональд Трамп у відповідь відкинув заклики до суворішого регулювання штучного інтелекту й закликав "не вбивати курку, яка несе золоті яйця".