В НАТО предупредили об отравлении ИИ-моделей как новом фронте информационной войны

Намеренное внедрение ложных данных в открытые модели искусственного интеллекта и развитие нейротехнологий становятся новыми фронтами информационной войны против демократических обществ.

Об этом говорится в докладе Центра стратегических коммуникаций НАТО — NATO Strategic Communications Centre of Excellence, STRATCOMCOE — NextGen Information Environment.

В докладе отмечается, что НАТО сталкивается с новой формой “холодной войны”, основанной на высокотехнологичной конкуренции. Противники Альянса, по оценке авторов, уже используют новые технологии для воздействия на граждан стран НАТО.

Одной из ключевых угроз STRATCOMCOE называет deliberate poisoning западных open-source AI-моделей — намеренное “отравление” открытых моделей искусственного интеллекта. Речь идёт о внедрении ложных или манипулятивных данных в открытые источники, которые затем могут попасть в будущие циклы обучения ИИ.

Такая тактика может искажать работу аналитических систем, информационных сервисов и инструментов принятия решений, которые используют открытые данные для генерации выводов, рекомендаций или информационных продуктов.

“В будущем информационная война будет зависеть от математических расчётов, выполняемых машинами, чтобы определить преимущество сообщения. Агентные системы будут постоянно оценивать и пытаться превзойти друг друга”, — говорится в докладе.

Отдельно STRATCOMCOE предупреждает о развитии “нейровойны”. В докладе подчёркивается, что речь идёт уже не о теоретической угрозе, а о технологиях прогнозирования поведения, интерпретации нейронных данных и воздействия на человеческое восприятие.

“Прогнозирование человеческого сознания и интерпретация нейронных данных — не теория, они уже существуют”, — отмечают авторы.

По оценке STRATCOMCOE, сочетание искусственного интеллекта, автономных систем влияния и нейротехнологий создаёт новые риски для демократических процессов. Информационные операции могут становиться более персонализированными, автоматизированными и сложными для выявления.

Ранее мы сообщали, что российская сеть “Шторм-1516” смогла использовать уязвимости искусственного интеллекта для распространения дезинформации о войне против Украины: её материалы попадали в информационную среду и затем воспроизводились мировыми чат-ботами.

Только главные новости в нашем Telegram, Facebook и GoogleNews!