Более жесткие правила. Регулирование ИИ может сделать его опаснее, если окажется слишком слабым — исследование
Слабое регулирование искусственного интеллекта может сделать ИИ-системы менее безопасными, чем полное отсутствие правил. К такому выводу пришли исследователи, полагающие, что требования должны распространяться на все компании в цепочке создания и использования ИИ.
Об этом пишет издание Gizmodo .
К таким выводам пришла группа ученых из Корнеллского университета и Университета Карнеги-Меллона.
Исследователи использовали методы теоретической экономики и теории игр для моделирования различных вариантов регулирования искусственного интеллекта. Модель показала, что наилучший результат обеспечивает жесткое регулирование, распространяющееся не только на компании, использующие ИИ в своих продуктах, но и на разработчиков базовых моделей, таких как OpenAI, Google или Anthropic.
Авторы объясняют: если правила касаются только компаний, внедряющих ИИ в медицинские сервисы, чат-боты или другие приложения, то разработчики самих моделей могут сокращать расходы на безопасность. Например, они могут отказываться от независимых проверок, рассчитывая, что ответственность за риски ляжет на других.
Руководитель исследования Бенджамин Лауфер отметил, что в такой ситуации возникает эффект, при котором один участник перекладывает расходы на обеспечение безопасности на другого. По его словам, регулирование фактически позволяет поставщикам базовых моделей передать эту обязанность компаниям, использующим их технологии.
Исследование опубликовано на фоне дискуссий в США о правилах регулирования искусственного интеллекта. Часть представителей технологической отрасли выступает за минимальное вмешательство государства, полагая, что это поможет ускорить развитие технологий и конкурировать с Китаем. Другие настаивают на более жестких требованиях, аргументируя это рисками для общества, рынка труда и безопасности.
В то же время авторы работы полагают, что развитие технологий и безопасность не противоречат друг другу. Их модель показывает, что хорошо продуманные строгие правила могут одновременно повысить безопасность ИИ-продуктов и принести выгоду как разработчикам моделей, так и компаниям, использующим их в своих сервисах.
Ученые также поясняют, что создание искусственного интеллекта вовлекает множество различных участников. Поэтому, по их мнению, эффективное регулирование должно учитывать всю цепочку разработки и внедрения технологии, а не отдельные компании или продукты.