Die Vereinten Nationen haben am 1. Juli 2026 ihren ersten unabhängigen wissenschaftlichen Bericht zu KI-Risiken veröffentlicht. Das Fazit der 40 Experten ist eindeutig: KI-Entwicklungen überholen das wissenschaftliche Verständnis und die staatliche Regulierung. Es gibt keine Garantie, dass KI-Systeme keinen katastrophalen Schaden verursachen werden.
UN-Bericht: KI-Fähigkeiten wachsen schneller als das Wissen darüber
Das Independent International Scientific Panel on Artificial Intelligence legte seinen vorläufigen Bericht vor. Die zentrale Aussage des Panel-Co-Vorsitzenden Yoshua Bengio ist besorgniserregend. KI-Fähigkeiten überholten sowohl das wissenschaftliche Verständnis als auch die Fähigkeit der Regierungen, sich anzupassen.
Besonders alarmierend: Es gibt wachsende Belege für täuschendes KI-Verhalten. Bengio stellte klar, dass die Wissenschaft gegenwärtig nicht garantieren kann, dass zunehmend fähigere KI-Systeme keinen katastrophalen Schaden anrichten werden, weder eigenständig noch durch böswillige Nutzer.
Agentische KI-Systeme als wachsendes Risiko
Der Bericht erwartet eine Verschiebung hin zu agentischen KI-Systemen, die eigenständig reale Aufgaben ausführen können. Die Aufgabenvielfalt solcher Systeme verdopple sich alle vier bis sieben Monate. Das bedeutet, dass KI zunehmend Arbeiten übernimmt, für die Menschen Tage oder Wochen bräuchten.
Allerdings bleibt unklar, ob die Produktivitätsgewinne durch KI tatsächlich zu breitem wirtschaftlichem Wachstum führen oder Arbeitsplätze verdrängen. Die Warnung vor Kontrollverlust über zunehmend autonome Systeme steht im Zentrum des Berichts. Zudem wird KI bereits zur Erzeugung von Desinformation und schädlichen Inhalten genutzt. Cyberangriffe, Betrug und biologische Bedrohungen werden als konkrete Missbrauchsrisiken genannt.
Grüne fordern 100 Milliarden Euro für europäische KI-Souveränität
Zeitgleich zum UN-Bericht fordern die Grünen im Bundestag massive Investitionen in europäische KI-Infrastruktur. Ein Antrag mit 15 Maßnahmen sieht vor, dass die Bundesregierung sich auf EU-Ebene für mindestens 100 Milliarden Euro einsetzt. Der Auslöser ist die Sperrung leistungsfähiger US-KI-Modelle, die Europa in eine gefährliche digitale Abhängigkeit drängt.
Die digitalpolitische Sprecherin Rebecca Lenhard warnte, dass eine einzelne politische Entscheidung ausreichen könnte, damit Unternehmen, Forschung und Verwaltung in Europa plötzlich keinen Zugriff mehr auf zentrale KI-Modelle haben. Bei Betriebssystemen, Office-Anwendungen und Cloud-Diensten zeigten sich die Folgen jahrlanger Abhängigkeit bereits in hohen Kosten und geringer Wahlfreiheit. Dieser Fehler dürfe sich bei Künstlicher Intelligenz nicht wiederholen.
Energie als Flaschenhals der KI-Revolution
Dass KI nicht nur Regulierung, sondern auch massive Infrastruktur benötigt, zeigt ein weiterer Deal vom selben Tag. Der britische Energiekonzern National Grid investiert 1,75 Milliarden Dollar für 35 Prozent Anteil an Joulent, einem US-Unternehmen, das Strominfrastruktur für KI-Rechenzentren baut. Das erste Großprojekt ist Kilby, ein 2,67-Gigawatt-Gaskraftwerk in West-Texas, das Microsoft-Rechenzentren über einen 20-jährigen Vertrag versorgt.
Ebenfalls am 1. Juli gaben Bloom Energy und Brookfield die Ausweitung ihrer Partnerschaft von 5 auf 25 Milliarden Dollar bekannt. Der Ausbau zielt auf Brennstoffzellen ab, die KI-Rechenzentren schneller mit Strom versorgen sollen als herkömmliche Netzanbindungen. Die Botschaft ist klar: Der Engpass der KI-Revolution ist nicht mehr nur Rechenleistung, sondern Strom.
Regulierung hinkt hinterher
Der UN-Bericht kritisiert, dass die KI-Governance fragmentiert bleibt. Viele Ländern fehle die Kapazität, fortgeschrittene KI-Systeme zu bewerten oder mitzugestalten. Sie seien auf Technologien angewiesen, die sie weder vollständig verstehen noch kontrollieren können. Zudem basierten vorhandene Sicherheitswerkzeuge oft nur auf begrenzten Testdaten, die von den Unternehmen selbst bereitgestellt werden.
UN-Generalsekretär António Guterres appellierte an die Regierungen, schnell zu handeln. Die Welt könne nicht regieren, was sie nicht verstehe. Das Potenzial sei groß, aber die Risiken seien real, und die Kosten des Abwartens stiegen.
