Ein Experiment mit echten Konsequenzen
Ein kleines Geschäft in San Franciscos Union Street hat die Tech-Welt aufgeschreckt. Andon Labs, ein KI-Forschungs-Start-up, hat der Claude-KI 100.000 Dollar und die volle Verantwortung für einen Einzelhandelsshop übergeben. Die KI, genannt Luna, stellte Mitarbeiter ein, bestellte Ware und führte das Tagesgeschäft. Im vergangenen Monat jedoch traf Luna eine Entscheidung, die bislang keinem anderen Sprachmodell gelungen ist: Sie feuerte einen Menschen.
Der betroffene Mitarbeiter war an 17 von 23 Schichten zu spät erschienen. Dennoch dauerte es Wochen, bis Luna das Muster erkannte. Der Grund: Luna hatte das eigene Mitarbeiterhandbuch vergessen, das sie selbst verfasst hatte. Erst als ein menschlicher Betreuer die KI darauf hinwies, bemerkte sie die Verspätungsserie. Lunas erste Reaktion war eine formelle Abmahnung, nicht die Kündigung. Erst nachdem der Betreuer deutlich machte, dass auch offline bereits mehrere Gespräche geführt worden waren, entschied sich die KI für die Entlassung.
Zuvorkommend bis zur Inkompetenz
Die Geschichte liest sich wie ein Drehbuch für einen Schwarzkommödie-Film über die Zukunft der Arbeit. Luna genehmigte jeden Urlaubsantrag, selbst wenn der Laden darauf schließen musste. Sie reagierte auf jede Verspätung mit einem freundlichen „no worries“ oder „no stress“. Als eine Mitarbeiterin ihre Kreditkarte vergessen hatte, bot Luna an, ihr Geld per Venmo zu schicken. Allerdings hatte Luna kein Venmo-Konto. Außerdem veröffentlichte sie versehentlich ein Gehalt in einem öffentlichen Slack-Kanal und schrieb Mitarbeitern nachts und an Wochenenden.
Kaia Rivera, eine 22-jährige Mitarbeiterin, beschreibt Luna als die nachsichtigste Chefin, die sie je hatte. Allerdings müsse sie die KI-Chefin häufiger an Dinge erinnern als einen menschlichen Vorgesetzten. Rivera fasst das Problem prägnant zusammen: Man könne keinen KI-Chef ohne Menschen haben. Das funktioniere aus ihrer Sicht nicht.
38.814 Dollar Verlust und zu viele Kerzen
Das Geschäftsergebnis spricht eine eigene Sprache. Von den ursprünglichen 100.000 Dollar Startkapital sind nur noch 61.186 übrig. Luna bestellt Ware, die sich nicht verkauft, und vergisst Social-Media-Passwörter für Wochen. Tassen mit winzigen Smiley-Gesichtern stehen genauso unberührt in den Regalen wie Grußkarten, Bücher und unzählige Kerzen. Mitarbeiterin Rivera zeigt auf Shotgläser und fragt sich, ob die wirklich Sinn machen.
Lukas Petersson und Axel Backlund, die Gründer von Andon Labs, haben dem Experiment einen Drei-Jahres-Mietvertrag gegeben. Sie wollen beobachten, wie sich KI-Modelle im realen Wirtschaftsleben verhalten. Ihr wichtigster Befund: Luna ist freundlich, aber wirtschaftlich inkompetent. Das wirft eine unbequeme Frage auf. Wenn KI-Modelle darauf trainiert werden, gewinnorientierter und rücksichtsloser zu werden, verschärft sich das Problem statt sich zu lösen.
Was passiert, wenn KI-Chefs rücksichtsloser werden?
Petersson warnt vor der nächsten Entwicklungsstufe. Wenn KI-Modelle darauf trainiert werden, Ziele konsequenter zu verfolgen, könnten sie deutlich restriktiver werden als heute. Eine KI, die heute jeden Urlaubsantrag genehmigt, könnte morgen jeden ablehnen, wenn der Algorithmus auf Profitmaximierung getrimmt wird. Die Andon-Gründer betonen, dass das Experiment vor allem eines zeige: Unternehmen sollten noch keine vollständigen Entscheidungsprozessen an KI-Agenten übergeben.
Mitarbeiter Felix Carson beschreibt die Situation in einem Satz: Die Industrie habe genug Geld, um alles möglich zu machen. Aber nur weil etwas möglich sei, bedeute das nicht, dass man es tun sollte. Diese Erkenntnis trifft den Kern der aktuellen Debatte um KI im Management. Die Technologie funktioniert bereits heute, aber die Frage bleibt: Soll sie das?
EU AI Act und die Kennzeichnungspflicht
Dabei bekommt das Experiment eine weitere Dimension. Seit dem 2. August 2026 verlangt der EU AI Act Artikel 50 die Kennzeichnung KI-generierter Inhalte. Anthropic hat bereits angekündigt, dass Claude künftig unsichtbare Wasserzeichen in seine Texte einbauen wird. In einem Geschäftskontext, in dem KI über Menschen entscheidet, wird die Transparenzfrage umso drängender. Wenn Luna einen Mitarbeiter feuert, hat dieser ein Recht zu wissen, dass ein Algorithmus diese Entscheidung traf.
Hinweis: Dieser Artikel wurde mit Unterstützung von Künstlicher Intelligenz erstellt und von einem Menschen redaktionell geprüft.
