Основная опасность. Глава Anthropic объяснил позицию в отношении открытых ИИ-моделей и назвал главный риск
Генеральный директор Anthropic Дарио Амодей заявил, что компания не поддерживает запрет на открытые модели ИИ. В то же время он считает, что наибольшую угрозу представляет не сам открытый код, а возможное использование ИИ авторитарными государствами, в частности Китаем.
Об этом пишет издание TechCrunch .
Амодей опубликовал заявление после того, как в отрасли начали обсуждать якобы имевшую место поддержку со стороны Anthropic идеи ограничить открытые модели, особенно китайского происхождения. Он подчеркнул, что компания никогда не выступала за подобные запреты и не считает их эффективным решением.
Дискуссия обострилась после открытого письма, обнародованного основателем Nvidia Дженсеном Хуангом. Документ подписали Nvidia, Meta, Microsoft, Hugging Face, Mistral и другие компании. Они призвали власти не вводить преждевременные масштабные ограничения для открытых моделей искусственного интеллекта.
По словам Амодея, открытые модели, не обладающие опасными возможностями, полезны для бизнеса, разработчиков и ученых. Он отметил, что не видит проблемы в использовании компаниями таких моделей, даже если они созданы в Китае.
В то же время главной угрозой он назвал сценарий, при котором авторитарные государства создадут более мощные системы ИИ, чем США, и будут использовать их для получения военного превосходства или усиления контроля над собственным населением. Амодей уточнил, что его обеспокоенность касается не только Китая, хотя именно эту страну он считает наиболее способной к развитию в данном направлении.
Руководитель Anthropic также считает, что развитие искусственного интеллекта может повысить риск не только кибератак, но и биологических угроз. По его мнению, открытые модели сложнее контролировать, а после их обнародования отозвать их уже невозможно.
Среди возможных мер он назвал ограничение доступа Китая к самым мощным чипам, борьбу с незаконным копированием возможностей моделей с помощью метода дистилляции и создание международной системы проверки безопасности наиболее мощных моделей ИИ. Амодей добавил, что такая система будет эффективной лишь при участии всех ключевых стран, включая Китай.