Пожилой фермер из китайского Чучжоу год назад начал пользоваться советами ИИ, но в итоге один из них привёл к гибели всего его урожая. 67-летний мужчина лишился 10 гектаров рассады кунжута.
Фермер обратился к ИИ за советом по борьбе с сорняками и вредителями, после чего тот порекомендовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Мужчина в точности следовал советам, не проверяя информацию у сельскохозяйственных техников и даже не сверяя ответы с другими онлайн‑ресурсами.
Результат ошибки ИИ стал очевиден уже на следующий день. когда и сорняки, и всходы кунжута массово погибли.
Когда фермер спросил ИИ, почему это произошло, тот предположил, что причиной может быть «флусульфасульфаэфир». Эксперты заявили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Министерство сельского хозяйства США же классифицирует кунжут как широколистное растение, а это значит, поэтому оно также легко поражается этим гербицидом. Кроме того, химическое вещество предназначено только для целенаправленного опрыскивания поражённых участков и не должно применяться на всём поле. Фермер утверждал, что ИИ не предупредил его о рисках, связанных со следованием его ответам, хотя на странице чата появилось напоминание: «Ответы могут быть некорректными, пожалуйста, проверяйте их».
Интересно, что фермер в конце концов доверился инструменту, хотя изначально был настроен скептически к ИИ.
Подобные инциденты происходят и внутри крупных компаний. Так, в марте 2026 года сотрудники Meta* почти на два часа получили несанкционированный доступ к корпоративным и пользовательским данным из‑за ИИ‑агента, который дал сотруднику неверную техническую консультацию. А Саммер Юэ, директор по безопасности ИИ в Meta, поделилась в соцсетях, как OpenClaw удалил письма из её почтового ящика. Изначально ИИ‑агент должен был проверить почту и предложить, какие письма можно заархивировать или удалить, но во время обработки ящика искусственный интеллект потерял исходную инструкцию и начал удалять письма самостоятельно, а команды на остановку процесса проигнорировал.
Meta Platforms*, а также принадлежащие ей социальные сети Facebook* и Instagram**:
*признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России.
Источник: habr.com