Послушал чат-бота и потерял урожай. В Китае фермер уничтожил 10 гектаров кунжута из-за совета ИИ
67-летний фермер У из китайской провинции Аньхой потерял весь урожай кунжута на площади 10 гектаров после того, как обработал поле химикатами по рекомендации искусственного интеллекта.
Мужчина консультировался с аграрным чат-ботом около года. Поначалу он относился к алгоритму с осторожностью, но со временем начал ему доверять благодаря удачным подсказкам.
Когда на поле появились вредители и сорняки, аграрий попросил ИИ подобрать универсальное средство. Программа посоветовала смешать два гербицида — галоксифоп-R-метил и фомесафен. Об этом пишет ZME Science.
Фермер обработал участок рекомендованным раствором, однако уже через сутки кунжут полностью завял и погиб. Фомесафен, который обычно применяют для сои, оказался губительным для кунжута из-за неудачного сочетания препаратов и неучета фазы роста растений. Когда потрясенный хозяин спросил программу о причинах катастрофы, бот кратко ответил: «Похоже, это была ошибка».
Эксперты отмечают, что этот случай иллюстрирует главную опасность использования ИИ в агросекторе и медицине. Языковые модели располагают огромным объемом химических данных, но не способны учесть критически важный контекст: местный климат, тип почвы, влажность и точную совместимость веществ. Когда пользователи привыкают к тому, что алгоритм прав в девяти случаях из десяти, десятая ошибка может стоить бизнесу целого состояния.