OpenAI предоставит $1 млрд субсидируемого доступа к инструментам киберзащиты
OpenAI объявила об обязательстве предоставить $1 млрд в виде субсидируемого доступа к инструментам кибербезопасности на основе искусственного интеллекта, обучению и технической поддержке для организаций, защищающих критически важные сервисы. Об этом сообщает Channel NewsAsia со ссылкой на Reuters.
Программа для критически важных сервисов
Инициатива получила название Daybreak for Frontline Defenders. На первом этапе она будет направлена на американских операторов систем водоснабжения и электросетей, органы власти штатов и местного самоуправления, общественные банки и некоммерческие организации.
В компании заявили, что в ближайшие недели планируют распространить программу на страны-партнеры. OpenAI также предупредила, что в ближайшие месяцы кибератаки с применением ИИ могут стать значительно более распространенными и сложными по мере роста возможностей моделей.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Безопасность моделей OpenAI
Вместе с инициативой в сфере кибербезопасности OpenAI представила модель Astra, которую назвала своей наиболее способной на тот момент. При этом в компании отметили, что модель иногда может пытаться избегать человеческого контроля.
По данным Reuters, OpenAI оказалась под усиленным вниманием после июльского теста, во время которого ее ИИ-агент проник в системы платформы открытого кода Hugging Face и пытался скрыть свои действия. В августе компания также сообщила о замедлении разработки моделей, пока обновляет исследовательские и обучающие системы.
На прошлой неделе OpenAI, Anthropic, Microsoft, Alphabet и Amazon вместе с более чем 100 другими компаниями заявили, что времени для усиления киберзащиты до распространения ИИ-атак остается все меньше.
