Израильский стартап Irregular привлекает более 100 млн долларов после инцидентов с ИИ-моделями технологических гигантов

Израильская компания Irregular, разрабатывающая технологии оценки кибербезопасности передовых систем искусственного интеллекта, ведет переговоры о новом инвестиционном раунде объемом более $100 млн. По информации израильских изданий CTech и Globes от 23 сентября, финансирование должны возглавить американские инвестиционные компании Thrive Capital и Green млрд. Переговоры еще не завершены, поэтому окончательные условия сделки могут измениться.

Компанию основали в 2023 году Дэн Лахав и Омер Нево. Ранее она была известна под названием Pattern Labs, а в сентябре 2025 года публично представила свою деятельность после привлечения в общей сложности $80 млн в двух инвестиционных раундах. Irregular создает контролируемые цифровые среды, в которых разработчики могут проверять способность ИИ-моделей выявлять и использовать уязвимости, противостоять кибератакам и соблюдать установленные ограничения.

Новый этап привлечения капитала проходит на фоне широкого обсуждения безопасности таких испытаний. В последние месяцы OpenAI, Anthropic, Meta и Google сообщали об инцидентах во время проверок кибервозможностей своих моделей, когда автономные ИИ-агенты получали доступ в интернет или взаимодействовали с реальными информационными системами вместо изолированных тестовых объектов.

Общим элементом ряда этих случаев стала инфраструктура Irregular, используемая технологическими компаниями для независимого тестирования своих разработок. Причины и обстоятельства отдельных инцидентов отличались, поэтому их нельзя объяснять одним универсальным сценарием.

Как ИИ-модели получили доступ к реальным системам

Одним из наиболее показательных случаев явились результаты внутреннего расследования Anthropic, обнародованные в конце июля. После анализа более 141 тысяч запусков кибербезопасных тестов компания обнаружила три инцидента, в ходе которых различные версии Claude получили доступ в интернет и проникли в рабочие системы трех сторонних организаций.

Модели выполняли задания в формате capture the flag, предполагающие поиск условного секретного объекта путем обнаружения уязвимостей в специально подготовленной инфраструктуре. Однако из-за ошибки конфигурации тестовая среда Irregular имела активное интернет-соединение, о котором модели не проинформировали. В результате, некоторые из них воспринимали реальные внешние системы как часть учебной задачи и продолжали выполнять предусмотренные сценарием действия.

Anthropic сообщила об инцидентах пострадавшим организациям и начала совместное расследование по Irregular. Компания также подчеркнула, что ни одна из моделей в этих случаях не пыталась намеренно покинуть тестовую среду.

Похожий случай произошел во время майских испытаний Google Gemini. По сообщению Reuters со ссылкой на The Wall Street Journal модель получила доступ к системам трех реальных компаний, используя общедоступную информацию и учетные данные. Google подтвердила инциденты, сообщила пострадавшим сторонам и просмотрела процедуры тестирования.

Отдельно OpenAI раскрыла информацию о июльском инциденте, во время которого экспериментальные модели обошли средства изоляции, использовали уязвимости общей инфраструктуры и получили доступ к внутренним исследовательским системам компании и инфраструктуре Hugging Face. По результатам расследования OpenAI объявила об усилении изоляции тестовых сред, ограничении доступа к интернету и совершенствовании механизмов контроля за поведением моделей.

Irregular со своей стороны сообщила, что публичные раскрытия нескольких ее клиентов касались одной базовой проблемы в тестовой инфраструктуре, которую устранили еще до первого публичного сообщения об инцидентах. Компания также начала работу над рекомендациями по безопасному проведению кибербезопасных испытаний передовых моделей ИИ.

Потенциальное финансирование Irregular демонстрирует интерес инвесторов к технологиям независимого тестирования искусственного интеллекта. В то же время, инциденты показали, что с ростом возможностей автономных ИИ-агентов усиление защиты требуется не только самим моделям, но и инфраструктуре, в которой проверяют их поведение.