Фермер из китайского городского округа Чучжоу начал пользоваться советами искусственного интеллекта год назад, но после нескольких месяцев взаимодействия приложение предложило 67-летнему мужчине совет, который привёл к гибели всего урожая.
Изначально фермер Ву не доверял ИИ‑приложению, но в итоге изменил своё мнение, когда оно показалось ему полезным. Однако эта ошибка привела к гибели более чем 24 акров урожая.
Ву обратился к нейросети за советом по борьбе с сорняками и вредителями. Для борьбы с сорняками на десятках акров кунжутной травы ИИ предложил использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир», смешав их с «тиаметоксазином» и «метиловой солью». Мужчина в точности следовал советам ИИ, не проверяя полученную информацию ни у специалистов по сельскому хозяйству, ни самостоятельно в интернете.
Уже на следующий день после выполнения рекомендаций сорняки и всходы кунжута массово погибли. Когда фермер поинтересовался у нейросети, почему это произошло, ИИ предположил, что причиной может быть «флусульфасульфаэфир».
Портал Tom’s Hardware приводит слова экспертов в области сельского хозяйства, которые заявили, что это химическое вещество в основном применяют против широколистных сорняков на соевых полях. Министерство сельского хозяйства США классифицирует кунжут как широколистное растение, поэтому он также легко поражается этим гербицидом. Более того, это химическое вещество предназначено для целенаправленного опрыскивания проблемных участков, а не всего поля.
Фермер утверждал, что ИИ не предупредил его о рисках, связанных с рекомендациями. Однако на странице чата отображалось напоминание, что результаты генерации нейросети могут быть неверными, поэтому их следует проверять.
Источник: habr.com