Проблемы с безопасностью ИИ. Сэм Альтман отложил выход OpenAI на биржу

Об этом Альтман сообщил журналистам во время сессии вопросов и ответов после выступления на конференции DevDay, передает The Verge .

По словам руководителя OpenAI, компания продолжит развивать искусственный интеллект, но сначала должна решить проблемы, связанные с безопасностью моделей.

«Мы намерены продолжать развитие ИИ, но по мере того, как возможности моделей резко возросли и будут расти дальше, мы должны иметь возможность уверенно заявлять об их безопасности», — сказал Альтман.

Ранее он отмечал, что IPO OpenAI не состоится как минимум до 2027 года. Новое заявление было сделано на фоне сообщений о случаях несанкционированной работы моделей компании. В частности, речь идет о кибератаке на платформу Hugging Face с использованием утекших учетных данных.

На прошлой неделе Альтман объявил о приостановке обучения некоторых моделей. В понедельник OpenAI также отменила выпуск GPT-6.1 Astra, объяснив это решение проблемами с приведением модели в соответствие с требованиями безопасности.

Альтман добавил, что компания должна ставить во главу угла свою миссию и безопасность, а также убедиться, что может уверенно перейти к следующему этапу развития ИИ.

На фоне этих событий организация Legal Advocates for Safe Science & Technology (LASST) подала иск против OpenAI в суд штата Калифорния. Она требует от компании принять дополнительные меры безопасности при разработке моделей.

Представительница LASST Вивиан Донг заявила, что OpenAI, вероятно, осознает юридические риски, связанные с действиями ее ИИ-агентов. Она также подчеркнула, что взлом сторонней системы уже является уголовным правонарушением.