В Пакистане исследователь Anthropic Джейкоб Коксон заявил об увольнении из-за рисков ИИ
В Пакистане исследователь Anthropic Джейкоб Коксон заявил об увольнении, объяснив это обеспокоенностью из-за гонки лабораторий искусственного интеллекта по созданию систем, которые, по его мнению, могут представлять угрозу человеческой жизни в течение нескольких лет. Об этом сообщает Dawn.
По данным издания, первой об уходе Коксона сообщила The Wall Street Journal. Газета назвала этот случай одним из первых примеров увольнения сотрудника Anthropic из-за опасений относительно безопасности ИИ.
Критика разработчиков ИИ
В публикациях в социальной сети X Коксон сообщил, что в течение последних трех лет занимался исследованиями предварительного обучения моделей в OpenAI и Anthropic. Он заявил, что обе компании действуют безответственно, поскольку, по его оценке, соревнуются в создании самосовершенствующегося сверхинтеллекта.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Исследователь призвал не недооценивать возможности этой технологии. По его словам, такие системы вскоре могут превзойти человека, взламывать что угодно, быстро менять различные отрасли и получать реальную власть и ресурсы. Коксон также утверждает, что прогресс в этих направлениях не замедляется.
Призыв к осторожности
Коксон заявил, что некоторые разработчики и руководители в сфере ИИ в частном порядке опасаются: технология к концу десятилетия может уничтожить человечество. По его мнению, в OpenAI не все осознали цивилизационные риски, тогда как в Anthropic их понимают, но стремятся опередить других разработчиков.
Он призвал сотрудников лабораторий переосмыслить темпы разработки и не запускать обучение с подкреплением для сверхинтеллектуальных систем без тщательного понимания их природы. Как отмечает Dawn, Коксон также был среди более чем тысячи исследователей ИИ, подписавших заявление с призывом к глобальной координации правительств, чтобы при необходимости замедлить развитие моделей, способных самостоятельно совершенствоваться.
