Eine KI-Beratung hat einem 67-jährigen Bauern in China seine gesamte Ernte gekostet. Der Mann aus Chuzhou in der Provinz Anhui befolgte den Pflanzenschutz-Plan, den ihm ein KI-Chatbot erstellte. Am nächsten Morgen standen seine 150 Morgen Sesampflanzen tot in der Sonne. Der geschätzte Schaden beläuft sich auf rund 15.000 Euro. KI-Halluzinationen in der Landwirtschaft sind damit von einer abstrakten Gefahr zu einem konkreten wirtschaftlichen Problem geworden.
Was genau geschah in Anhui
Der Bauer, der in chinesischen Medien nur als Wu Dabo bezeichnet wird, nutzte seit über einem Jahr eine KI-App für landwirtschaftliche Ratschläge. Zuvor hatte ihm die Software angeblich gute Dienste geleistet. Deshalb vertraute er dem System auch bei der Unkraut- und Schädlingsbekämpfung auf seinem Sesamfeld. Die KI erstellte einen detaillierten Plan namens „Hundert-Morgen-Sesam-Flächen-Spritzplan“ und empfahl vier Chemikalien, darunter die beiden Herbizide Haloxyfop-P-methyl und Fomesafen sowie die Insektizide Thiamethoxam und Emamectin-Benzoat. Wu spritzte die Mischung per Drohne über sein gesamtes Feld.
Am nächsten Tag war jedoch nicht nur das Unkraut vernichtet. Auch die Sesampflanzen hatten nicht überlebt. Fomesafen ist ein Breitbandherbizid, das ausdrücklich nur für Sojafelder zugelassen ist. Auf Sesam wirkt es tödlich. Die KI hatte diesen entscheidenden Hinweis schlichtweg weggelassen.
Warum KI bei Pflanzenschutz so gefährlich ist
Pflanzenschutzmittel gehören zu den am stärksten regulierten Chemikalien weltweit. Jedes Mittel ist für bestimmte Kulturen, Wachstumsstadien und Wetterbedingungen zugelassen. Eine falsche Empfehlung kann nicht nur die Ernte zerstören, sondern auch Böden verseuchen und Grundwasser gefährden. KI-Modelle schöpfen ihre Antworten jedoch aus dem gesamten Internet, ohne zwischen verlässlichen Fachquellen und fehlerhaften Informationen zu unterscheiden.
Deshalb greifen landwirtschaftliche Beratungsdienste traditionell auf geprüfte Datenbanken und lokale Experten zurück. Ein Chatbot kann diese Expertise nicht ersetzen. Er gibt Antworten, die plausibel klingen, aber im schlimmsten Fall fatale Folgen haben. Gerade ältere Nutzer, die mit digitalen Werkzeugen weniger kritisch umgehen, vertrauen solchen Systemen oft blind.
Die Reaktion der KI-Anbieter
Der Kundendienst der betroffenen KI-Anwendung teilte mit, dass die Software keine eigene Wissensbasis besitze. Die Antworten würden aus öffentlich zugänglichen Internetquellen generiert. Eine Überprüfung der konkreten Informationsquellen wurde angekündigt. Für den Bauern Wu kommt diese Erklärung jedoch zu spät.
Der Vorfall hat eine landesweite Debatte in China ausgelöst. Experten warnen davor, KI-Empfehlungen in Bereichen mit geringer Fehlertoleranz wie Medizin, Rechtswesen oder Landwirtschaft unkritisch zu befolgen. Die OECD hat den Fall bereits in ihr internationales KI-Vorfall-Register aufgenommen und als direkten KI-Schaden eingestuft. Es ist einer der ersten dokumentierten Fälle, in denen eine KI-Halluzination zu messbarem Eigentumsschaden geführt hat.
Was der Fall für die KI-Regulierung bedeutet
Der Vorfall zeigt exemplarisch, warum der EU AI Act Hochrisiko-Anwendungen streng reguliert. Systeme, die sicherheitskritische Empfehlungen abgeben, fallen unter die strengsten Anforderungen der Verordnung. Dazu gehört die Pflicht, nachvollziehbare und geprüfte Informationsquellen zu nutzen. Zudem müssen Hersteller sicherstellen, dass Nutzer wissen, dass es sich um KI-generierte Ratschläge handelt.
Allerdings gilt der EU AI Act derzeit nur in Europa. In China und den USA gibt es keine vergleichbaren Schutzmechanismen für Verbraucher, die KI-Ratschläge in lebenswichtigen Bereichen befolgen. Die Lücke zwischen der Verbreitung von KI-Systemen und den regulatorischen Schutzmechanismen wächst stetig. Bis Regulierungen weltweit greifen, werden solche Vorfälle sich eher häufen als verringern.
Für Bauern wie Wu bleibt eine bittere Erkenntnis: KI kann viele Dinge, aber ersetzt niemals den fachkundigen Rat eines Agraringenieurs vor Ort. Die Grenzen der Technologie werden besonders dort sichtbar, wo Fehler menschliche Existenzen zerstören.
Hinweis: Dieser Artikel wurde mit Unterstützung von Künstlicher Intelligenz erstellt und von einem Menschen redaktionell geprüft.
