Apple drosselt KI-Sicherheitsberichte: Wenn Fake-Schwachstellen das Bug-Bounty-Programm überfluten
Apples Sicherheitsteam kämpft mit einem neuen Gegner, und es ist keine Hackergruppe. Es ist die schiere Masse an KI-generierten Sicherheitsberichten, die das Bug-Bounty-Programm des Konzerns an seine Grenzen bringt. Der iPhone-Hersteller hat inzwischen die Anzahl der gleichzeitig offenen Berichte pro Forscher begrenzt und eine 30-tägige Sperrfrist eingeführt. Der Grund: Eine Flut von halluzinierten Schwachstellen, die menschliche Prüfer bandagt.
Was ist passiert?
Wie die Financial Times berichtet, hat Apple im Juni stillschweigend sein internes Meldeportal Feedback Assistant angepasst. Forscher können nun nur noch eine begrenzte Anzahl von Sicherheitsberichten gleichzeitig offen halten. Wer das Limit erreicht, muss 30 Tage warten, bevor er neue Meldungen einreichen kann. Die Maßnahme richtet sich gegen eine wachsende Welle von KI-gestützten Einsendungen, von denen viele Schwachstellen beschreiben, die schlichtweg nicht existieren.
Apple selbst spricht von einem branchenweiten Problem. Zwar betont das Unternehmen, dass Forscher problemlos eine höhere Quote beantragen können. Dennoch zeigt die Maßnahme, wie sehr die KI-Revolution die klassische Sicherheitsforschung auf den Kopf stellt.
Bynario: Das Startup, das 50 Fehler in drei Wochen fand
Die neue Regel wurde öffentlich, als das italienische Cybersecurity-Startup Bynario meldete, dass es mit Hilfe von ChatGPT mehr als 50 potenzielle Schwachstellen in der aktuellen macOS-Version innerhalb von nur drei Wochen identifiziert hatte. Darunter befand sich eine kritische Privilege-Escalation-Lücke, die einem Angreifer volle Kontrolle über einen Mac geben könnte.
Doch Bynario konnte diese Funde zunächst gar nicht einreichen, weil das Kontingent bereits ausgeschöpft war. Apple hat inzwischen bestätigt, dass man sich direkt mit Bynario in Austausch befindet und die Berichte prüft. Das Startup ist übrigens kein Neuling: Bereits 2025 und 2026 hatte es Sicherheitslücken an Apple gemeldet, von denen mindestens eine zu einem offiziellen Patch führte.
Die dunkle Seite der KI-Sicherheitsforschung
Das Kernproblem ist nicht, dass KI echte Schwachstellen findet. Sondern dass sie gleichzeitig eine enorme Menge an Schein-Fehlern produziert. In der Branche spricht man mittlerweile von AI Slop: Berichte, die überzeugend klingen, aber halluzinierte Risiken beschreiben. Jede einzelne Meldung muss von Apples Sicherheitsteam manuell geprüft werden. Das kostet Zeit und bindet Ressourcen, die für echte Bedrohungen gebraucht werden.
Dazu kommt ein Paradox: Nutzer mit begrenztem Fachwissen nutzen ChatGPT, um vermeintliche Probleme an ihrem Rechner zu diagnostizieren, und schicken die Ergebnisse direkt als Sicherheitsbericht an Apple. Die KI formuliert professionell, aber der Inhalt ist oft falsch. Gleichzeitig entdeckt dieselbe Technologie echte Lücken, die menschliche Forscher übersehen hätten.
Apple kämpft mit KI gegen KI
Interessanterweise nutzt Apple selbst KI-Modelle, um die Flut an Berichten zu bewältigen. Das Unternehmen setzt intern auf Werkzeuge von Anthropic und OpenAI, um eingehende Meldungen vorzusortieren und echte Schwachstellen zu identifizieren. In den jüngsten Sicherheitsupdates hat Apple ausdrücklich KI-Unterstützung bei der Entdeckung mehrerer Lücken auf iPhone, iPad und Mac anerkannt.
Auch der Einsatz von Anthropics Mythos-Modell zeigt, wie ernst Apple die Sache nimmt. Forscher nutzten Mythos, um eine Umgehung der Memory Integrity Enforcement zu finden, einer der wichtigsten Sicherheitsfunktionen, die Apple 2025 eingeführt hatte. Ohne KI wäre dieser Angriffsvektor vielleicht unentdeckt geblieben.
Was bedeutet das für die Sicherheit?
Die Situation offenbart ein grundsätzliches Dilemma der modernen Sicherheitsforschung. KI beschleunigt die Fehlersuche dramatisch, aber sie senkt auch die Hemmschwelle für falsche oder unnötige Meldungen. Apples Bug-Bounty-Programm zahlt bis zu 5 Millionen Dollar für die schwerwiegendsten Lücken. Diese Anreize ziehen nicht nur talentierte Forscher an, sondern auch immer mehr Menschen, die KI als Werkzeug nutzen, ohne die Ergebnisse ausreichend zu verifizieren.
Für Nutzer bedeutet die Entwicklung zweierlei. Einerseits werden echte Sicherheitslücken schneller gefunden und geschlossen. Apples letztes Betriebssystem-Update enthielt etwa fünfmal mehr Sicherheits-Patches als einige frühere Versionen. Andererseits besteht das Risiko, dass kritische Funde im Rauschen der KI-Slop übersehen oder durch die neuen Limits blockiert werden.
Apple hat versichert, dass legitime Berichte weiterhin zu den Sicherheitsteams durchdringen werden. Doch die Tatsache, dass ein Unternehmen mit mehr als 300 Milliarden Dollar Bargeld seine Prozesse anpassen muss, zeigt, dass die KI-Revolution in der Cybersicherheit nicht nur Chancen bringt, sondern auch erhebliche operative Belastungen.
Die Frage, die bleibt: Wie kann die Sicherheitsbranche sicherstellen, dass KI-Entdeckungen effizient verifiziert werden, ohne echte Funde zu blockieren? Apples Quoten-Lösung ist ein erster Schritt, aber sie ist kaum das letzte Wort in dieser Debatte.
Hinweis: Dieser Artikel wurde mit Unterstützung von Künstlicher Intelligenz erstellt und von einem Menschen redaktionell geprüft.
