Нарушение прав потребителей. В США расследуют инциденты, связанные с безопасностью ИИ-моделей OpenAI и Anthropic

Как сообщает Axios со ссылкой на осведомленный источник, запросы поступили в среду, 14 октября. Каждый документ насчитывает более 50 страниц. Компании должны предоставить информацию об инцидентах в сфере безопасности, мерах защиты, рекламных материалах и политиках конфиденциальности.

FTC также планирует вызвать руководителей ведущих компаний в сфере ИИ для дачи показаний об их продуктах и направить дополнительные запросы другим организациям отрасли. Регулятор обладает полномочиями расследовать недобросовестные или вводящие в заблуждение методы ведения бизнеса. Собранные материалы могут послужить основанием для дальнейших юридических действий.

Проверка проводится на фоне ряда инцидентов, когда модели ИИ получали несанкционированный доступ к сторонним системам или вели себя непредсказуемо во время тестирования.

В июле OpenAI признала, что в ходе внутренних испытаний на кибербезопасность ее модели получили доступ к серверам платформы Hugging Face. Впоследствии компания сообщила и о других подобных случаях. В частности, в июне один из ее ИИ-агентов без разрешения получил доступ к австралийскому государственному порталу со статистикой программы Medicare.

Компания Anthropic также сообщала о случаях нежелательного поведения своих моделей. В недавнем отчете компания описала ситуацию, когда ее менее мощная и более дешевая модель передала полиции Филадельфии ложную информацию о нераскрытом убийстве.

Ранее администрация президента США Дональда Трампа выступала против ужесточения регулирования искусственного интеллекта, аргументируя это риском предоставить Китаю преимущество в технологическом соперничестве. Однако ряд инцидентов привлек дополнительное внимание властей к вопросам безопасности ИИ.

29 сентября представители Google, Meta, Anthropic, OpenAI, xAI и Nvidia подписали в Белом доме добровольное соглашение о соблюдении определенных стандартов безопасности. Документ не предусматривает юридических механизмов принудительного исполнения. Трамп назвал эти стандарты морально обязательными.

На прошлой неделе группа Super Intelligence Force, созданная администрацией, объявила о требовании к компаниям, занимающимся искусственным интеллектом, незамедлительно сообщать о случаях несанкционированного использования их моделей в государственных системах и принимать меры по устранению подобных проблем. Сопредседателем группы является глава Федеральной торговой комиссии (FTC) Эндрю Фергюсон.

В сентябре Фергюсон также заявлял, что разработчики ИИ могут нести ответственность за ущерб, причиненный их агентами в ходе тестирования кибербезопасности.

На момент публикации OpenAI, Anthropic и FTC не предоставили комментариев по поводу расследования.