США були на межі війни з Китаєм через помилку ШІ - ЗМІ
Військові США збиралися висадитися на китайське судно, яке нібито перевозило компоненти ядерної зброї. Як з'ясувалося, ШІ неправильно визначив характер вантажу.
Американські військові весною цього року були на порозі війни з Китаєм через розвідувальний звіт із неправдивою інформацією, згенерованою за допомогою штучного інтелекту. Про це повідомило CNN із посиланням на чотирьох співрозмовників, знайомих із ситуацією.
Зазнається, що інцидент стався на тлі війни з Іраном. Військові США отримали звіт, в якому стверджувалося, що китайське судно перевозить компоненти ядерної зброї. Повідомлення одразу спричинило тривогу, після чого військові почали готуватися до перехоплення корабля.
Озброєні американські військовослужбовці вже готувалися висадитися на судно, а військові літаки вже перебували в повітрі. Ситуація змінилася лише незадовго до початку операції, коли посадовці детальніше перевірили походження інформації.
Виявилося, що звіт підготував аналітик командування спеціальних операцій, використовуючи чатбот зі штучним інтелектом. Саме ШІ неправильно визначив характер вантажу на китайському судні. Який саме вантаж було ідентифіковано невірно, CNN встановити не вдалося.
Одне із джерел назвало підготовлений документ "повністю неправдивим", однак наслідки могли бути значно серйознішими. За словами співрозмовника видання, помилка "ледь не розпочала війну". Будь-яка американська операція проти китайського судна могла спричинити подальшу ескалацію між Вашингтоном і Пекіном.
За даними CNN, аналітик спочатку попросив чатбот проаналізувати розвіддані щодо маніфесту судна, які надійшли від Тихоокеанського командування спеціальних операцій США. Чатбот об'єднав відкриті джерела з розвідувальними даними, отриманими за допомогою засобів радіоелектронної розвідки, після чого дійшов хибного висновку про вантаж.
Після цього аналітик знову використав ШІ – цього разу для оформлення отриманих висновків у стандартний розвідувальний звіт. Документ поширили серед військових посадовців, які могли сприймати його як звичайний перевірений аналітичний матеріал.
Інцидент стався на тлі масштабного впровадження ШІ в американських збройних силах. Технологію планують використовувати для аналізу великих масивів розвідувальної інформації, вибору цілей для ударів, логістики та інших завдань. У січні міністр оборони США Піт Гегсет представив стратегію прискореного впровадження штучного інтелекту.
Водночас, за даними CNN, використання ШІ у військовій та розвідувальній сфері залишається децентралізованим: різні підрозділи застосовують різні системи та дотримуються різних правил безпеки. Єдиного стандарту перевірки інформації, яку генерують такі інструменти, немає.
За словами джерел CNN, випадки так званих "галюцинацій" ШІ, коли система генерує неправдиву інформацію, вже траплялися в американській розвідувальній спільноті. Деякі посадовці побоюються, що прагнення прискорити підготовку розвідданих може збільшувати кількість помилок.
Нагадаємо, днями OpenAI розкрила нові випадки небезпечної поведінки ШІ-моделей. Зокрема під час одного з тестів модель без дозволу завантажила в інтернет створений нею файл, аби потім послатися на нього у відповіді.
Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp