Eine Cambridge-Studie offenbart erschreckende Realitäten: Die Terrorgruppe Boko Haram nutzt ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek systematisch für Angriffsplanung und Bombenbau. Forscherin Antonia Jülich befragte 27 ehemalige Mitglieder und dokumentierte, wie KI-Chatbots zum festen Bestandteil terroristischer Operationen wurden.
KI-Einheiten in beiden Fraktionen
Die Studie des Cambridge Programme on AI Science and Policy zeigt ein institutionalisiertes Ausmaß. Beide Boko-Haram-Fraktionen haben eigene KI-Einheiten aufgebaut. ISIS-Verbindungsleute schulten Kommandeure im Umgehen von Sicherheitsfiltern. Die Gruppe nutzte KI bei jedem Schritt: Vorbereitung, Durchführung und Nachanalyse von Angriffen. Jülich sprach von 57 Interviews mit ehemaligen Mitgliedern in Nordost-Nigeria.
Motorrad-Sprünge und stärkere Bomben
Ein drastisches Beispiel zeigt die praktische Nutzung. Nach einem gescheiterten Angriff auf eine Militärbasis konsultierten Kämpfer KI-Chatbots, um Motorräder für den Sprung über Gräben zu modifizieren. Achtzehn Kämpfer starben beim Training, nur acht schafften den Sprung. Zudem nutzte die Gruppe KI, um Sprengsätze zu verbessern. Ein ehemaliger Kommandeur sagte: “Zuvor war die Explosion nicht so groß, aber dann haben sie es studiert. KI sagte uns, welche Chemikalien wir hinzufügen müssen, um die Explosion stärker zu machen.”
Sicherheitsfilter lassen sich umgehen
Die Studie belegt, dass freiwillige Selbstkontrolle der KI-Firmen nicht ausreicht. Erfahrene Mitglieder umgingen Beschränkungen, indem sie Anfragen als harmlose Projekte tarnten, beispielsweise als Filmrecherche. Die Gruppe testete außerdem mehrere Plattformen parallel und wählte diejenigen, die mehr Informationen preisgaben. Anthropic räumt ein, dass Jailbreaks wahrscheinlich nie vollständig verhindert werden können.
Was bedeutet das für die KI-Sicherheit?
Forscher warnen, dass der Fokus auf Chatbots zu kurz greift. Zwar machen KI-Chatbots vorhandenes Wissen leichter zugänglich, aber das größere Risiko liegt in spezialisierten KI-Systemen für Biowissenschaften. Die Frage ist nicht mehr, ob Terroristen KI nutzen, sondern wie schnell sich die Nutzung professionalisiert. Boko Haram zeigt, dass institutionalisierte KI-Nutzung durch Terrorgruppen bereits Realität ist. Die KI-Industrie muss dringend nachbessern, bevor lebenswissenschaftliche KI-Systeme in die falschen Hände geraten.
