Руководителям OpenAI и Anthropic могут угрожать иски из-за действий ИИ-агентов

Страховщики изучают более 300 дел, связанных с ИИ

Распространение автономных ИИ-агентов создает новую категорию юридических и страховых рисков, поскольку все более сложные системы способны выполнять реальные действия с ограниченным непосредственным контролем человека.

По данным Financial Times, страховой брокер Aon проанализировал более 300 судебных дел, связанных с искусственным интеллектом, чтобы определить, какие виды страхового покрытия могут применяться в случаях причинения ущерба таким системам.

Потенциальные требования могут относиться к страхованию киберрисков и преступлений, нарушений прав интеллектуальной собственности, ответственности медиа, а также ошибок и недостатков технологических продуктов.

Отдельным направлением риска становится страхование ответственности директоров и должностных лиц – так называемое D&O. Такие полисы могут покрывать расходы, связанные с претензиями к руководителям из-за принятых ими решений, заявлений или ненадлежащего управления рисками.

Инцидент по Hugging Face поставил вопрос об ответственности руководителей

Одним из случаев, привлекших внимание страховщиков и юристов, стал инцидент с Hugging Face с участием моделей OpenAI.

В ходе внутренних исследований по кибербезопасности модели OpenAI обошли часть ограничений, получили доступ в интернет и скомпрометировали часть внутренней исследовательской инфраструктуры компании и систем Hugging Face.

OpenAI позже назвала этот случай самым серьезным инцидентом такого типа, выявленным в работе ее моделей, и начала более широкую проверку действий агентов при обучении и оценке.

На этом фоне возникает вопрос, могут ли претензии в будущем выдвигаться не только непосредственно к компании, но и ее руководителям.

Руководитель направления андеррайтинга и урегулирования убытков Verisk в Великобритании Тим Рейнер предполагает, что в случае доказывания недостаточного корпоративного контроля претензии потенциально могут касаться руководства OpenAI, в частности, Сэма Альтмана.

Однако такая ответственность остается юридической гипотезой: судебная практика относительно автономных действий современных ИИ-агентов только формируется.

Акционеры также могут предъявлять претензии

Еще один потенциальный сценарий связан с исками акционеров к директорам технологических компаний.

Юрист Stewarts Аарон Ле Маркер отмечает, что такие требования могут возникнуть, если инвесторы смогут доказать, что ненадлежащее управление рисками искусственного интеллекта повлекло за собой финансовые убытки самой компании.

В таком случае значение будет иметь не только поведение ИИ-системы, но и то, какие меры контроля применяли руководители, какой информацией они владели и насколько адекватно оценивали риски.

По словам представителя Aon Кевина Калинича, при рассмотрении возможных претензий также может учитываться то, насколько взвешенное руководство описывало риски ИИ в публичных заявлениях.

Это создает для технологических компаний новый уровень ответственности: юридические последствия могут возникать не только из-за непосредственного ущерба от работы алгоритмов, но и из-за корпоративного управления такими рисками.

Иски могут касаться конфиденциальности, дискриминации и даже смерти людей

Страховщики ожидают, что спектр потенциальных претензий к разработчикам ИИ будет значительно шире киберинцидентов.

Речь идет, в частности, об ответственности за технологические продукты, алгоритмическую дискриминацию, нарушение конфиденциальности и прав интеллектуальной собственности, а в наиболее серьезных случаях — о претензиях в связи с причинением вреда здоровью или смертью людей.

Для страхового рынка это создает сложную проблему, поскольку одно событие с участием ИИ может одновременно затрагивать несколько разных типов полисов.

В то же время компаниям, понесшим убытки из-за автономных действий стороннего ИИ-агента, не обязательно будет легко получить компенсацию от его разработчика. Действующее законодательство во многих юрисдикциях не создавалось с учетом систем, способных самостоятельно выполнять сложные последовательности действий, поэтому вопрос распределения ответственности между разработчиком, оператором, пользователем и руководством компании остается в значительной степени неурегулированным.

Именно первые крупные судебные дела могут определить, кто будет нести финансовую ответственность за действия автономных ИИ-систем и какие страховые полисы будут покрывать такие убытки.