Was der FINRA-Ansatz für KI bedeutet
Demis Hassabis, CEO von Google DeepMind, hat am Montag in einem Essay einen weitreichenden Vorschlag zur Regulierung von KI vorgestellt. Seine zentrale Idee: eine nach dem Vorbild der US-Börsenaufsicht FINRA strukturierte Standards-Behörde für Frontier-KI-Modelle. Der Nobelpreisträger und DeepMind-Gründer will, dass diese Behörde bis Jahresende ins Leben gerufen wird, bevor die KI-Entwicklung außer Kontrolle gerät. Hassabis vergleicht den Moment, in dem sich die KI-Branche befindet, mit den Vorgebirgen der Singularität. Künstliche allgemeine Intelligenz, so seine Einschätzung, sei nur noch wenige Jahre entfernt. Ihre Ankunft werde die Gesellschaft mit zehnmal der Wucht und Geschwindigkeit der Industriellen Revolution verändern. Die von ihm vorgeschlagene Standards-Behörde soll als öffentlich-private Partnerschaft unter Bundesaufsicht funktionieren, ähnlich wie FINRA die US-Börsen und Makler überwacht. Ein Vorstand aus unabhängigen technischen Experten und Open-Source-Vertretern soll die Behörde leiten. Die Finanzierung soll hauptsächlich aus der Industrie selbst kommen. Das ist bewusst so konzipiert, weil nur so genug Geld für Top-Talente und Rechenleistung für groß angelegte Modellbewertungen zur Verfügung stehe.
Frontier-Klasse und freiwillige Prüfungen
Konkret schlägt Hassabis vor, dass KI-Modelle eine Frontier-Klasse-Einstufung erhalten sollen, wenn sie bestimmte Benchmark-Schwellenwerte überschreiten. Unternehmen, die solche Modelle entwickeln, würden als Frontier-Labs eingestuft. Diese Labs sollen Modelle bis zu 30 Tage vor der Veröffentlichung der Behörde zur Prüfung vorlegen. Zudem sollen sie Modellkarten veröffentlichen, Personal intern überprüfen, Cybersicherheitsprogramme betreiben und dedizierte Sicherheitsforschung finanzieren. In der ersten Phase soll die Teilnahme freiwillig sein. Hassabis erwartet jedoch, dass der Prozess, einmal bewährt, zur Pflicht für den US-Markt wird. Die Bewertungen sollen Cybersicherheits- und biologische Bedrohungskapazitäten abdecken. Zusätzlich sollen Tests prüfen, ob agentische Systeme Sicherheitsvorkehrungen umgehen oder täuschende Verhaltensweisen zeigen.
Wasserzeichen und nachvollziehbares Denken
Zudem fordert der DeepMind-Chef zwei technische Maßnahmen. Erstens sollen KI-generierte Bilder mit Wasserzeichen versehen werden. Zweitens sollen Modelle ihre Denkprozesse in menschenlesbarer Form offenlegen. Die Bewertungsbenchmarks sollen vierteljährlich aktualisiert werden, und die Behörde soll langfristig eigene unabhängige Tests entwickeln. So soll verhindert werden, dass Labs ihre Modelle einfach auf die bekannten Testkriterien trainieren. Hassabis geht sogar noch einen Schritt weiter: Er schlägt vor, dass die Behörde eine bewusste Verlangsamung der Entwicklung bei Frontier-Labs koordinieren können soll, falls die Situation es erfordert. Der Rahmen soll laut Hassabis für alle qualifizierenden Modelle gelten, unabhängig davon, wo sie entwickelt wurden oder ob sie Open-Source oder proprietär sind. Kleinere Startups und akademische Projekte sollen davon ausgenommen bleiben.
Kritik: Wer kontrolliert die Kontrolleure?
Der Vorschlag hat jedoch offensichtliche Schwachstellen. Eine Organisation, die hauptsächlich von den Unternehmen finanziert wird, die sie beaufsichtigen soll, wirft Fragen zur echten Unabhängigkeit auf. Frontier-Labs hätten erheblichen Einfluss darauf, welche Benchmarks entwickelt und wie Schwellenwerte gesetzt werden, zumindest bis die Behörde eigene Testkapazitäten aufbaut. Dieser Aufbau könnte Jahre dauern, in denen die etablierten Akteure die Regeln mitschreiben, nach denen sie bewertet werden. Dazu kommt ein geopolitisches Problem. Der Vorschlag, US-Standards auf Modelle unabhängig von ihrem Herkunftsland anzuwenden, klingt auf dem Papier gut. In der Praxis ist die Durchsetzung amerikanischer Standards gegenüber Labors in China oder anderen Ländern eine völlig andere Herausforderung. Hassabis’ Essay geht darauf nicht wirklich ein, wie diese Lücke geschlossen werden soll.
Der Kontext: Wachsender Druck auf KI-Regulierung
Der Vorschlag kommt nicht von ungefähr. Die KI-Branche steht unter wachsendem Druck, sich selbst zu regulieren, bevor Regierungen es tun. Anthropic hat erst kürzlich mit der US-Regierung über die Kontrolle seiner Frontier-Modelle verhandelt. Die EU arbeitet am AI Act. Und auf dem G7-Gipfel in Évian haben KI-Chefs wie Sam Altman und Dario Amodei direkt mit Staatschefs über globale Regeln verhandelt. Hassabis’ Vorschlag versucht, einen Mittelweg zwischen freier Innovation und notwendiger Kontrolle zu finden. Ob dieser Weg gelingt, hängt vor allem davon ab, ob die mächtigsten KI-Unternehmen bereit sind, echte Unabhängigkeit zuzulassen.
