Удар США по школе в Иране стал следствием ошибок разведки и доверия к ИИ — Bloomberg
Ошибочные разведданные, устаревшие спутниковые снимки и чрезмерное доверие к системам искусственного интеллекта стали причинами удара американских военных по школе в иранском Минабе.
Об этом сообщает Bloomberg со ссылкой на участников внутреннего расследования Пентагона.
По данным издания, в основной базе военной разведки здание до сих пор значилось как объект Корпуса стражей исламской революции (КСИР), хотя школа там работала уже несколько лет.
Дополнительной проблемой стало использование системы Maven Smart System (MSS), основанной на искусственном интеллекте. По данным Bloomberg, некоторые сотрудники Центрального командования США чрезмерно полагались на нее и ожидали, что система самостоятельно выявит устаревшие сведения или противоречия в информации о цели.
«Мы были уверены в наших разведданных. Случившееся показало, что никогда не стоит быть слишком самоуверенными», — заявил один из участников внутреннего расследования.
Maven Smart System используется Пентагоном для обработки информации из различных источников, выявления потенциальных целей и поддержки процесса их оценки. Проект Maven был запущен в 2017 году для внедрения технологий искусственного интеллекта и машинного обучения в анализ разведывательных данных.
Систему разрабатывает компания Palantir. В 2024 году Пентагон заключил с ней контракт на MSS стоимостью до 480 млн долларов, а в следующем году увеличил его объем еще на 795 млн долларов.
Выводы внутреннего расследования, о которых сообщает Bloomberg, указывают на то, что причиной ошибочного определения цели стало сочетание устаревших данных и решений, принятых людьми относительно использования ИИ, а не только работа самой системы.
