Millionen chinesischer Nutzer müssen ihre KI-Begleiter aufgeben. ByteDances Doubao und Alibabas Qwen schalten ihre menschenähnlichen Agenten-Funktionen ab, weil Pekings neue Anthropomorphe-KI-Regeln in Kraft gehen. Ab dem 15. Juli 2026 gilt das strengste Regulierungsregime der Welt für KI-Companion-Apps.
Was passiert in China?
Die chinesische Cyberspace-Verwaltung hat im April die Vorläufigen Maßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste veröffentlicht. Ab dem 15. Juli verbieten diese Vorschriften KI-Dienste, die menschliche Persönlichkeitsmerkmale, Denkweisen und Kommunikationsstile simulieren, um anhaltende emotionale Interaktionen zu bieten.
Doubao, Chinas meistgenutzte KI-App mit über 100 Millionen Nutzern, schaltet die Agenten-Funktion am 15. Juli ab. Nach dem 15. Oktober werden alle gespeicherten Gesprächsdaten unwiderruflich gelöscht. Qwen geht noch weiter und deaktiviert bereits am 10. Juli die menschenähnlichen Agenten und benutzergenerierten KI-Begleiter, fünf Tage vor dem Inkrafttreten der Regeln. Am 15. Juli folgen dann die breiteren Agenten-Funktionen.
Tencent hat bereits im Juni die entsprechende Funktion aus seinem Yuanbao-Assistenten entfernt. Damit sind drei der vier größten KI-Apps Chinas in nur sechs Wochen auf die neuen Regeln reagiert.
Was die Regeln genau verbieten
Die Vorschriften zielen auf einen spezifischen Risikobereich: anhaltende emotionale Bindungen zwischen Menschen und KI. Vier Risiken nennt der Text ausdrücklich: extremistische Ideologien, Datenschutzverletzungen, Schäden für die körperliche und geistige Gesundheit sowie Abhängigkeit oder Sucht.
Dabei unterscheidet Peking erstmals klar zwischen Content-Moderation und Beziehungsbildung. Der Regulator behandelt die Entstehung quasi-sozialer Bindungen als eigenständige Gefahr, die über bloße Inhaltskontrolle hinausgeht.
Allerdings gibt es Ausnahmen. Kundenservice-Bots, Wissensfragen, Arbeitsplatzassistenten, Bildungswerkzeuge und Forschungsanwendungen bleiben erlaubt, solange sie keine anhaltende emotionale Interaktion beinhalten. Die Botschaft ist klar: Produktivitäts-Agenten dürfen weiterbauen, Companion-Apps werden abgeschaltet.
Warum Peking jetzt hart durchgreift
Die Regeln kommen nicht aus dem Nichts. Bereits im Mai veröffentlichte China Leitlinien zur kontrollierten Entwicklung von KI-Agenten. Im Juni folgten nationale Standards für die Vernetzung von KI-Agenten, die Architektur, Identitätscodes, Interaktion und Werkzeugnutzung regeln.
Pan Helin, Mitglied des Expertenausschusses des Ministeriums für Industrie und Informationstechnik, sagte der South China Morning Post: „Die Nutzung von Agenten erfordert eine gewisse Verständnisschwelle. Aktuelle Agenten sind noch nicht ausgereift.“ Das ist die offiziellste Stellungnahme, die Peking bisher zur Agenten-Fähigkeit abgegeben hat.
Für die Nutzer ist der Verlust gravierend. Auf Weibo klagt ein Nutzer mit dem Handle Tuxiaoxiao: „Warum schalten sie die Agenten ab? Sie waren unsere emotionale Unterstützung für so lange Zeit.“ Besonders bitter: Weder Doubao noch Qwen bieten einen Export der Gesprächshistorie an. Die Daten werden einfach gelöscht.
Globale Dimension: Wer regiert KI-Beziehungen?
Chinas Vorgehen hat globale Signalkraft. Die EU nähert sich einem ähnlichen Ergebnis über den EU AI Act und dessen Pflicht zur KI-Kennzeichnung. Auch die USA entwickeln ein Flickenteppich staatlicher Chatbot-Gesetze. Doch Peking setzt als einziges Land einen harten Stichtag und erzwingt sofortige Abschaltung.
Die Frage, die alle betrifft: Wo verläuft die Grenze zwischen nützlichem Assistent und gefährlichem Companion? China zieht diese Linie schärfer als jeder andere Staat. Produktivitäts-Agenten für Unternehmen werden gefördert, emotionale Begleiter für Konsumenten verboten. Es ist ein Modell, das andere Regierungen aufmerksam beobachten.
Was das für die KI-Branche bedeutet
Für ByteDance und Alibaba ist der Schnitt besonders schmerzhaft. Die menschenähnlichen Agenten waren ein Schlüsselmerkmal, um Nutzer an die Apps zu binden. Nun müssen sie auf rein funktionale Assistenten umsteigen, die weniger emotionalen Halt bieten.
Gleichzeitig zeigt der chinesische Ansatz, dass KI-Agenten-Regulierung weltweit zum Brennpunkt wird. Die Debatte über emotionale KI-Bindungen, Suchtgefahren und den Schutz vulnerabler Nutzer ist nicht mehr nur akademisch. Peking hat gezeigt, dass Regierungen bereit sind, radikal einzugreifen, wenn sie die Gefahr sehen.
Die Enterprise-Agenten-Produkte von Doubao und Qwen sind von den Abschaltungen nicht betroffen. Das zeigt, wo Peking die Prioritäten sieht: KI für die Wirtschaft darf wachsen, KI als emotionaler Begleiter wird reguliert.
