8月16日、Shannon Germaineが「AI chatbot's pesticide advice wipes out 25 acres of Chinese farmer's sesame seedlings」と題した記事を公開した。この記事では、大規模言語モデル（LLM）を使ったAIチャットボットが提案した農薬の配合を信じた中国の農家が、約25エーカー（約10ヘクタール）のゴマの苗を全滅させた事例について詳しく紹介されている。
AIが「自信満々に」出した答えが畑を枯らした
中国・滁州（Chuzhou）で、67歳の農家・呉（Wu）氏がAIチャットボットに農薬の配合を尋ね、その通りに散布した結果、翌日には約25エーカーのゴマの苗がすべて枯死した。
呉氏はそれ以前にも、同じLLMを肥料の使い方や作業スケジュールの相談に活用しており、ツールへの信頼感を積み上げていた。農薬の配合を尋ねた際も、専門家への確認や農薬ラベルの照合は行わず、AIの回答をそのまま実行に移した。
ビデオインタビューで呉氏は端的に語った。
「散布すると、翌日には苗が生き残れない。草も苗も両方枯れるが、苗の方がずっと早く死ぬ」
問題の農薬は雑草・害虫・その他の病害を同時に防除するための配合として提案されたものだったが、ゴマの苗には過剰に強すぎる成分が含まれていた。
なぜAIは「それらしい答え」を出せるのか
生成AIは学習データのパターンから回答を生成する。化学的な相性や作物ごとの薬剤感受性、散布タイミング、生育環境を「理解」しているわけではない。にもかかわらず、回答は具体的で自信に満ちた口調で出力される。これが危うい。
農業は誤りの許容範囲が極めて狭い分野だ。誤ったアドバイス1件が収入と食料供給の喪失、農薬・水資源の無駄遣い、そして環境負荷に直結する。AIが引き起こすこうした「幻覚（ハルシネーション）」の問題は、OpenAIやGoogleも公式に認めており、高リスク領域での利用には特段の注意が求められている。
「下書き」として使う、が現実的な使い方
記事はAIチャットボットの出力を「リサーチアシスタントの下書き」として扱うべきだと指摘する。農薬・処方箋・契約書・税務・医療判断など、実害が生じうる領域では、必ず有資格の専門家と公式ドキュメントによる検証を挟むべきだという考え方だ。
農家に限って言えば、具体的には以下の確認が必要になる。
- 農薬ラベルの記載内容
- 作物ごとの使用制限
- 散布の適切なタイミング
- 農薬同士の化学的な相性
AIが「正確に見える」出力をしても、成分の混同、手順の捏造、植物の成長段階や気象条件に関する警告の見落としが起きうる。
記事は「農業においてAIが貢献できる余地はある」とも述べている。具体的には、記録の整理、選択肢の比較、普及指導員（extension services）への質問の整理、設備や灌漑システムのモニタリングなどだ。ただしそれは、人間の判断を補佐する立場としてのAIであり、AIが単独で意思決定を下す構図ではない。
より広い文脈：高リスク領域へのAI投入
この事例は農業に限った話ではない。AIが高い危険性を伴う場面に、その限界が十分に理解されないまま導入されるパターンの一つだ。チャットボットはブレインストーミングや情報の要約には有用だが、農業専門家・医師・弁護士・金融の専門家が担う判断の代替にはなれない。
※編集部の考察：中国農村部ではスマートフォンの普及を背景にAIチャットボットの利用が急速に広がっており、今回のような事例が今後さらに表面化する可能性がある。農業分野のAI活用については、FAOがAIと農業に関するガイドラインを公開しており、適切な導入のあり方について参考になる。また、国内でも農林水産省が農業DXの推進を進めているが、AIツールの信頼性評価と利用者リテラシーの向上が急務といえる。
呉氏の事例は、AIへの過信がもたらす実害を具体的な数字（25エーカー、翌日全滅）として示した点で、エンジニアや開発者にとっても他人事ではない警告になっている。ツールを「使える」ことと、ツールの限界を「理解している」ことは別問題だ。この区別が曖昧なまま高リスク領域にAIを持ち込むことの危険性を、この事件は鮮明に映し出している。
詳細はAI chatbot's pesticide advice wipes out 25 acres of Chinese farmer's sesame seedlingsを参照していただきたい。
