Drei Tage nach dem Start hat Meta seinen KI-Bildgenerator Muse Image wieder vom Markt genommen. Der Grund: Jeder konnte öffentliche Instagram-Profile als Vorlage nutzen, ohne dass die Betroffenen zustimmten. Hollywood und Datenschützer reagierten sofort.
Was Muse Image konnte und warum es scheiterte
Muse Image war das erste Bildmodell aus Metas neuer Superintelligence-Lab-Sparte unter KI-Chef Alexandr Wang. Der interne Codename lautete Mango. Nutzer konnten im Meta-AI-Chatbot einen beliebigen öffentlichen Instagram-Account markieren und die KI generierte daraus neue Bilder. Der Haken: Alle öffentlichen Profile ab 18 Jahren waren automatisch angemeldet. Wer nicht wollte, dass sein Gesicht als KI-Vorlage dient, musste manuell in den Einstellungen widersprechen.
Außerdem bekamen Betroffene keine Benachrichtigung, wenn ihr Bild verwendet wurde. Das entsprach Metas bekannter Opt-out-Philosophie: Nutzerdaten gehören zuerst dem Unternehmen, nicht den Menschen.
Hollywood schlägt Alarm: SAG-AFTRA und CAA reagieren
Die Reaktion kam schnell und deutlich. Die Schauspielergewerkschaft SAG-AFTRA, die über 160.000 Mitglieder vertritt, rief am Donnerstag alle Nutzer auf, die Funktion sofort zu deaktivieren. Alles andere als eine eindeutige Opt-in-Lösung sei inakzeptabel, erklärte die Gewerkschaft. Die Talentagentur CAA, die Stars wie Tom Cruise und Charlize Theron vertritt, veröffentlichte eine ähnliche Erklärung. Niemandes Name, Bild, Stimme oder kreative Arbeit dürfe ohne klare Zustimmung von KI-Modellen genutzt werden.
Auch die Emmy-Gewinnerin Hannah Einbinder aus der HBO-Serie Hacks postete auf Instagram und warnte ihre Follower. Mark Zuckerberg verteidigte das Tool zunächst öffentlich, doch weniger als 24 Stunden später zog Meta die Reißleine.
Datenschutz als Afterthought: Metas wiederkehrendes Muster
Der Vorfall passt in ein bekanntes Muster. Meta startet KI-Funktionen, die Nutzerdaten standardmäßig nutzen, und zieht erst nach öffentlichem Druck zurück. Die EU hatte Metas Pay-or-Consent-Werbemodell bereits als Verstoß gegen den Digital Markets Act eingestuft. In den USA fordern Justizbehörden bis zu 1,4 Billionen Dollar Strafzahlungen in einem laufenden Verfahren zum Jugendschutz. Zudem erinnert der Fall an den Cambridge-Analytica-Skandal von 2018, bei dem Facebook Daten von Millionen Nutzern ohne Wissen weitergegeben hatte.
Was bleibt von Muse Image?
Meta betonte, dass nur die Instagram-Profil-Referenz-Funktion entfernt wurde. Das Muse-Image-Modell selbst bleibt über die Meta-AI-App und WhatsApp verfügbar. Nutzer können weiterhin Text-Prompts eingeben und Bilder generieren, nur eben nicht mehr fremde Instagram-Profile als Vorlage nutzen. Auch das angekündigte Muse Video, ein Video-Generator, bleibt laut Meta in der Entwicklung.
Für die KI-Branche ist der Fall ein Lehrstück. OpenAI hatte im Vorjahr mit Sora 2 ein ähnliches Opt-out-Modell für Videos vorgestellt und ebenfalls Kritik von SAG-AFTRA kassiert. Die Botschaft an alle KI-Unternehmen lautet: Wenn es um das Bildnis realer Personen geht, ist Opt-in keine Option, sondern Pflicht. Die EU-Kennzeichnungspflicht für KI-generierte Inhalte ab August 2026 wird den Druck weiter erhöhen.
Was bedeutet das für Nutzer in Deutschland?
Auch in Deutschland fallen öffentliche Instagram-Profile unter das Recht am eigenen Bild. Das Kunsturhebergesetz sowie die DSGVO verlangen eine Einwilligung, bevor das Bildnis einer Person für neue Zwecke verwendet wird. Metas Opt-out-Modell verstieß gegen beide Grundlagen. Nutzer mit öffentlichen Profilen sollten überprüfen, ob die Einstellung zur KI-Nutzung ihrer Inhalte deaktiviert ist. Der Weg dazu führt über Instagram-Einstellungen, Sharing and Reuse, und dann den Schalter für die KI-Nutzung ausschalten.
