OpenAI представила модель Astra с расширенными кибервозможностями
OpenAI в четверг представила новую модель искусственного интеллекта Astra, которую компания называет своей самой мощной и наиболее способной разработкой на сегодняшний день. По заявлению OpenAI, модель открывает «новый рубеж» в работе с компьютером и браузером и выполняет задачи с беспрецедентной скоростью, точностью и безопасностью.
Сначала Astra стала доступна клиентам программы OpenAI Daybreak в сфере кибербезопасности. В течение следующей недели компания также планирует предоставить доступ пользователям платных планов Pro, Plus, Enterprise и Business, а также через API. О запуске и заявленных возможностях модели сообщает TechCrunch.
Кибербезопасность и программирование
Президент OpenAI Грег Брокман назвал Astra самой интеллектуальной и наиболее согласованной с намерениями пользователей моделью компании. Под такой согласованностью понимается склонность модели действовать в соответствии с запросами пользователя или в его интересах. По словам Брокмана, Astra объединила результаты многолетних исследований и может изменить характер работы, которую люди делегируют искусственному интеллекту.
OpenAI заявила, что протестировала Astra по ряду бенчмарков безопасности. По утверждению компании, модель может выявлять и разрабатывать эксплойты нулевого дня, что способно помочь специалистам по защите находить и устранять уязвимости. OpenAI также называет Astra своей лучшей моделью для инженерии программного обеспечения и приводит результаты тестов, в которых она, по данным компании, опережает другие модели, в том числе OpenAI Sol и Anthropic Fable, в поиске ошибок, выполнении задач в терминале и ответах на запросы, касающиеся кодовых баз.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Прозрачность рассуждений и AGI
В то же время Astra привлекла внимание из-за использования техники opaque recurrence, или непрозрачной рекуррентности. Она может затруднять мониторинг цепочки рассуждений модели — процесса, который позволяет исследователям проверять, как и почему искусственный интеллект принял определенное решение.
Главный научный сотрудник OpenAI Якуб Пахоцкий заявил, что контроль за процессом рассуждений является важной формой надзора, однако с ростом возможностей моделей их наблюдаемость становится более сложной. По его предположению, более мощные модели могут выполнять более сложные задачи с меньшим количеством языковых токенов или без них, из-за чего такие действия сложнее отслеживать.
Отвечая на вопрос об искусственном общем интеллекте, Брокман сказал, что контрактного критерия AGI больше нет. Он имел в виду прежнее условие соглашения OpenAI с Microsoft, согласно которому партнерство должно было прекратиться после достижения AGI. По словам Брокмана, понятие AGI стало скорее «миссионной или духовной концепцией», а соответствует ли Astra этому определению, читатели должны решить сами. В то же время он добавил, что лично считает: этот уровень уже достигнут.
