Anthropic открывает доступ к самым мощным моделям ИИ для защиты критической инфраструктуры

Anthropic расширяет сотрудничество со специалистами по кибербезопасности

Американский разработчик искусственного интеллекта Anthropic объявил о расширении доступа к своим мощным языковым моделям для специализированных организаций, занимающихся обнаружением киберугроз и проверкой защищенности информационных систем.

Как сообщает Bloomberg, инициатива реализуется в сотрудничестве с американским правительством и предусматривает привлечение новых участников в программу Project Glasswing.

Ее целью является использование возможностей современного искусственного интеллекта для поиска потенциальных уязвимостей в системах, нарушение работы которых может иметь значительные экономические и последствия безопасности.

В первую очередь речь идет об энергетической инфраструктуре, финансовых учреждениях и авиационных системах, которые требуют особо высокого уровня защиты от кибератак.

К участию в программе будут допускаться отобранные организации, которые будут проходить проверку с участием правительства США. Таким образом расширение доступа не означает, что соответствующие модели станут общедоступными для всех пользователей.

Для тестирования предоставят Claude Opus 5.5, Sonnet 5.5 и Mythos 5.1

Участники Project Glasswing получат возможность работать с несколькими передовыми моделями Anthropic, включая Claude Opus 5.5, Claude Sonnet 5.5 и Claude Mythos 5.1.

Компания также планирует постепенно включать в программу будущие поколения своих моделей, чтобы специалисты по кибербезопасности могли использовать новейшие технологические возможности для анализа защищенности информационных систем.

Искусственный интеллект будет использоваться для исследования программного обеспечения, поиска потенциальных слабых мест и оценки устойчивости систем к разным сценариям кибератак.

Особое внимание будет уделено возможностям моделей работать со сложными техническими задачами, анализировать большие объемы программного кода и помогать специалистам выявлять проблемы, которые могут оставаться незамеченными во время традиционных проверок.

В то же время Anthropic не сообщила о конкретном количестве новых участников программы или сроках предоставления доступа ко всем заявленным моделям.

Специалистам разрешат использовать наступательные методы тестирования

Одной из особенностей расширенной программы станет возможность применения методов наступательной кибербезопасности для проверки защитных механизмов.

Речь идет о контролируемом моделировании действий потенциальных злоумышленников, позволяющем определять, насколько эффективно информационные системы противостоят попыткам несанкционированного доступа и другим угрозам.

Такие испытания могут включать анализ потенциальных путей проникновения в системы, проверку программных уязвимостей и оценку возможностей защитной инфраструктуры реагировать на сложные атаки.

Команды, специализирующиеся на поиске уязвимостей, получат более широкие возможности для использования моделей Claude при проведении соответствующих исследований.

В то же время Anthropic будет сохранять ограничения на использование своих технологий в сценариях, способных нанести физический ущерб, масштабные сбои или нарушения работы критически важных систем.

Таким образом, компания пытается совместить расширение возможностей для профессионального тестирования киберзащиты с сохранением предохранителей против опасного использования искусственного интеллекта.

Anthropic предупреждала о юридических рисках автономных ИИ-агентов

Расширение программы кибербезопасности происходит на фоне дискуссии по поводу ответственности разработчиков искусственного интеллекта за действия автономных систем.

Ранее Anthropic предупреждала о потенциальных юридических рисках, связанных с использованием ИИ-агентов, способных самостоятельно выполнять задачи и взаимодействовать с информационными системами пользователей.

В документах, связанных с подготовкой к возможному первичному публичному размещению акций (IPO), компания отмечала, что автономная работа таких агентов может создавать дополнительные правовые риски, в том числе в случаях, когда их действия приводят к нежелательным последствиям.

Особое значение этот вопрос приобретает в сфере кибербезопасности, где искусственный интеллект может получать доступ к сложным информационным системам и выполнять операции, обычно нуждающиеся в непосредственном контроле специалистов.

В рамках Project Glasswing Anthropic планирует предоставлять расширенные возможности проверенным организациям, одновременно сохраняя ограничения на потенциально опасные сценарии использования моделей.