Стартапы разрабатывают инструменты для проверки соглашений США и Китая по ИИ — South China Morning Post
В преддверии запланированной в Вашингтоне, США, встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина исследователи и стартапы разрабатывают технологии, которые могут помочь проверять выполнение потенциальных договоренностей по сдерживанию развития искусственного интеллекта. Такие инструменты призваны позволить правительствам и третьим сторонам проверять отдельные сведения об обучении и использовании ИИ-моделей, возможно без прямого доступа к самим моделям или вычислительной инфраструктуре, сообщает South China Morning Post.
Что предлагают проверять
Сооснователь британской консалтинговой компании Amodo Design Том Милтон назвал два ключевых вопроса для возможного международного соглашения между Вашингтоном и Пекином. Речь идет о проверке того, обучает ли дата-центр новую модель или лишь обслуживает уже созданную, а также о подтверждении того, что развернутая модель соответствует заявленной.
По словам Милтона, обслуживание уже созданной модели, или инференс, отличается от обучения новой модели. Правительства также могут стремиться проверять, использует ли дата-центр другой страны модель, которую считают безопасной, а не потенциально опасную систему.
Авторы открытого письма, представляющие 20 стран, призвали создать международный орган управления, который мог бы осуществлять верификацию ИИ. В то же время в письме не уточняется, каким именно способом это следует делать.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Тестирование технологий
Один из предложенных методов называют повторным вычислением. Он предполагает проверку результата ИИ путем запуска такого же расчета на другой системе с одинаковыми входными данными и настройками. По оценке Machine Intelligence Research Institute, оснащение дата-центров такими средствами может стоить лишь небольшую долю первоначальных затрат на объект, а расходы на вычисления можно снизить благодаря проверке случайной выборки активности.
Lucid Computing в начале месяца начала 18-месячное тестирование своего решения на кластере из 16 чипов Nvidia H100 в Швеции, предоставленном государственным исследовательским институтом RISE. Amodo Design ведет переговоры о масштабировании испытаний до кластера из 128 графических процессоров. Милтон признал, что разработки еще необходимо проверить в масштабе передовых дата-центров, где может быть установлено более миллиона графических процессоров.
Криптографический подход
Израильский стартап Attestable, который в прошлом месяце привлек 20 млн долларов посевного финансирования, применяет доказательства с нулевым разглашением. Компания предлагает использовать эту криптографическую технологию для проверки того, что ответ на запрос предоставила именно определенная ИИ-модель, без раскрытия сведений о базовой модели или данных.
Lucid Computing, Amodo Design и Singapore AI Safety Hub заявили о намерении публиковать результаты своих исследований. По оценке руководителя по политике и стратегии Lucid Коннора Данлопа, в мире над технологиями верификации ИИ работают около 50 человек.
