KI-Chatbots als Gatekeeper: Wenn russische Propaganda zur Nachrichtenquelle wird
Eine neue Studie der Berliner Denkfabrik Agora Digitale Transformation offenbart ein alarmierendes Muster: KI-Modelle greifen bei Nachrichtensuchen auf russische Desinformationsnetzwerke zurück und bevorzugen Medienhäuser mit kommerziellen Kooperationen. Die Quellenauswahl der Systeme bleibt dabei eine Blackbox für Nutzer.
Pravda-Netzwerk: Russische Propaganda in Claudes Antworten
Das vielleicht brisanteste Ergebnis betrifft Anthropics Claude. Im Untersuchungszeitraum zitierte Claude siebenmal Domains des sogenannten Pravda-Netzwerks als Nachrichtenquelle. Dabei handelt es sich laut Experten um ein groß angelegtes russisches Einflussnetzwerk, das nach Recherchen von Check First und dem Digital Forensics Lab bereits mehr als 8,5 Millionen Artikel verbreitet hat. Deutschland gehört neben Frankreich, Polen, der Ukraine, Moldau und Serbien zu den Zielländern dieser Operation.
Studienautorin Vivien Benert formuliert es klar: Claude habe Informationssuchenden russische Desinformation gleichberechtigt mit anderen Nachrichtenquellen untergejubelt. Ein System, das Desinformation und Journalismus in derselben Form präsentiere, gefährde die informierte Meinungsbildung.
ChatGPT favorisiert Axel-Springer-Medien
Auch bei OpenAIs ChatGPT zeigt die Studie eine deutliche Schieflage, allerdings in eine andere Richtung. Die Nachrichtenseite Welt.de landete bei ChatGPT auf Platz eins der meistgenutzten Quellen, mit fast fünffachem Abstand zum zweitplatzierten Deutschlandfunk. Der Medienkonzern Axel Springer hatte 2023 eine globale Partnerschaft mit OpenAI geschlossen. Diese Kooperation schlägt sich laut der Studie signifikant in der Quellenauswahl von ChatGPT nieder.
Allerdings betonte eine OpenAI-Sprecherin auf Nachfrage, die Ergebnisse basierten auf allen Quellen, die für die Frage eines Nutzers am hilfreichsten und relevantesten seien, nicht auf kommerziellen Vereinbarungen. Dennoch bleibt die Dominanz einzelner Medienhäuser ein Problem für die Vielfalt der Informationsgrundlage.
Blackbox Quellenauswahl: Keine Transparenz für Nutzer
Kein einziger KI-Anbieter dokumentiert transparent, wie die Quellenauswahl zur Beantwortung von Prompts funktioniert. Das bezeichnet Benert als Blackbox. Nutzer gehen oft davon aus, dass KI-Systeme das Netz nach den relevantesten Ergebnissen durchforsten. Tatsächlich entstehen durch kommerzielle Kooperationen und algorithmische Voreingenommenheit kaum merkliche Bevorzugungen einzelner Medien.
Die Studie untersuchte im Mai 2026 an fünf Werktagen 675 Anfragen zu fünf Nachrichtenthemen und wertete rund 4800 Quellenverweise aus. Bei ChatGPT und Perplexity machten journalistische Quellen den Großteil der Ergebnisse aus. Bei Claude, Gemini und Googles KI-Überblicksmodus AI Overview lag der Anteil bei nur etwa 50 Prozent. Stattdessen wurden staatliche und zivilgesellschaftliche Quellen stärker genutzt, teils auch private Blogs und Social-Media-Inhalte.
Data Poisoning: Wie Propaganda in Trainingsdaten gelangt
Beobachter warnen seit Langem vor sogenanntem Data Poisoning. Dabei optimieren Propagandaseiten ihre Inhalte gezielt so, dass KI-Chatbots sie als seriöse Quellen in ihren Antworten präsentieren. Auch Russland betreibt dies systematisch. Die Pravda-Netzwerke produzieren massive Mengen an Content, der speziell darauf ausgelegt ist, von Suchmaschinen und KI-Systemen aufgefunden zu werden.
Dabei zeigt die Studie eine asymmetrische Verteilung: Während ChatGPT und Perplexity überwiegend auf etablierte journalistische Quellen wie tagesschau.de und den Deutschlandfunk zurückgriffen, öffnete Claude dem Pravda-Netzwerk die Tür. Googles Gemini führte den Deutschlandfunk auf Platz eins, während bei Google und Perplexity die tagesschau.de dominierte.
Anthropic reagiert auf Vorwürfe
Auf eine Anfrage des SPIEGEL antwortete Anthropic, man arbeite daran, Claude so zu trainieren, dass es in seinen Antworten politisch ausgewogen sei. Ziel sei, entgegengesetzte politische Standpunkte mit gleicher Tiefe und Qualität zu behandeln, ohne Voreingenommenheit. Das Unternehmen verwies auf einen eigenen Blogbeitrag zur Verhinderung politischer Voreingenommenheit.
Google erklärte, die KI-Produkte verlinkten auf Hunderte einzigartige Domains und basierten auf denselben Systemen, die über Jahrzehnte verfeinert wurden, um so objektiv und neutral wie möglich zu sein.
Forderung: Transparenz bei KI-Quellen als Regulierungsaufgabe
Studienleiterin Benert sieht konkreten Handlungsbedarf. Die Quellenauswahl führender KI-Systeme sei eine Blackbox, die kommerzielle Interessen und algorithmische Voreingenommenheit verschleiere. Ohne verpflichtende Transparenzpflichten drohe KI zur undemokratischen Gatekeeperin der Meinungsbildung zu werden.
Die Agora-Analyse zeigt damit einen doppelten Missstand: Einerseits werden Nutzer nicht darüber informiert, warum bestimmte Quellen bevorzugt werden. Andererseits gelangt russische Propaganda über KI-Systeme direkt in die Antworten von Millionen Nutzern, ohne dass diese es bemerken. Die Forderung nach einer Regulierung, die KI-Anbieter zur Offenlegung ihrer Quellenauswahl zwingt, wird mit dieser Studie kaum noch zu ignorieren sein.
