Claude выполняет ведущую роль в 26% исследовательских и разработческих работ Anthropic — Anadolu Agency
В Турции сообщили, что модель искусственного интеллекта Claude берет на себя ведущую роль примерно в 26% исследовательских и разработческих задач компании Anthropic по созданию новых систем ИИ. Об этом пишет Anadolu Agency со ссылкой на The Washington Post.
Резкий рост показателя
Внутренняя оценка Anthropic показала, что Claude может выполнить большую часть задачи на основе общего запроса, тогда как люди осуществляют надзор и определяют направление работы. Еще в феврале этот показатель был фактически нулевым.
В компании подчеркнули, что Claude сейчас не работает полностью автономно ни в одном из оцененных исследовательских или разработческих процессов. В то же время более 90% ее исследований и разработок теперь осуществляются на уровне, при котором модель либо сотрудничает с исследователями, либо выполняет ведущую роль.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Самосовершенствование и контроль агентов
Anthropic считает быстрый рост показателя возможным индикатором продвижения к рекурсивному самосовершенствованию — состоянию, при котором система ИИ сможет создавать более совершенных преемников при все меньшем участии человека. Компания не уточнила, насколько близки к этому нынешние системы.
По состоянию на август на наиболее используемой внутренней платформе Anthropic исследовательскую и инженерную работу выполняли около 30 тысяч ИИ-агентов. Компания заявила, что لديها системы мониторинга для выявления потенциально проблемной активности агентов и передачи таких случаев на проверку людям. Anthropic также призвала других ведущих разработчиков ИИ раскрывать аналогичные измерения.
Сообщение появилось на фоне дискуссии о безопасности искусственного интеллекта после того, как генеральный директор Anthropic Дарио Амодеи призвал ведущих разработчиков скоординированно замедлить создание передовых систем ИИ, чтобы получить больше времени для мер безопасности.
