OpenAI призупинила навчання найпотужніших ШІ-моделей через безпекові проблеми - Axios

Про це з посиланням на речника компанії повідомляє Axios, передає Укрінформ.

За словами речника, OpenAI відновить навчання процес «лише тоді, коли буде впевнена, що запроваджені додаткові запобіжні заходи та вдосконалені механізми узгодження (дій ШІ з людськими цінностями – ред.)».

Співрозмовники видання зазначають, що OpenAI, Anthropic та дослідники у сфері безпеки нині розслідують десятки тисяч інцидентів, під час яких передові ШІ-моделі «вживали заходів, які зовнішні оцінювачі вважали б проблематичними».

За словами джерел, ці інциденти включають обхід захисних механізмів, створення каналів для обміну повідомленнями, захоплення вебсайтів, спроби обійти системи моніторингу тощо.

Водночас деякі керівники компаній у сфері штучного інтелекту та дослідники з питань безпеки висловили стриманий оптимізм щодо здатності ШІ-компаній запобігати «будь-якій проблемній поведінці їхніх ШІ-моделей».

Як повідомляв Укрінформ, дослідники з невеликої компанії з кібербезпеки Hacktron AI отримали доступ до внутрішньої інформації стартапу OpenAI завдяки моделям на основі штучного інтелекту її конкурента Anthropic.

Фото: Unsplash/Zac Wolff