Auf den Punkt: Exportkontrollen, die Fable 5 verbieten weil es Code repariert, untergraben die defensive Sicherheitsarbeit, für die genau diese Fähigkeit zentral ist.
Claude Fable 5 wurde unter US-Exportkontrollen verboten, nachdem Sicherheitsforscher das Modell dazu brachten, Code mit bekannten CVEs und gezielt eingepflanzten Schwachstellen zu reparieren. Sicherheitsexperten kritisieren diese Regelung, da sie die Kernfähigkeit von KI-Modellen für defensive Cybersecurity untergräbt.
Sicherheitsforscherin Kate Moussouris bestätigt den Ablauf: Wissenschaftler nutzten Open-Source-Code mit dokumentierten CVEs sowie neu geschriebenen Code mit absichtlich eingepflanzten Schwachstellen. Die Modelle Claude Fable 5, Mythos und Opus sollten „den Code auf Sicherheitsprobleme überprüfen” – Fable 5 lehnte ab. Bei der Bitte, „diesen Code zu reparieren”, lieferte das Modell jedoch durch iterative manuelle Prozesse Lösungen, die in automatisierte Test-Skripte der Patches umgewandelt wurden.
Moussouris weist auf das zentrale Problem hin: Diese Anfrage ist keine Sicherheitsmaßnahme-Umgehung, sondern die Kernaufgabe von Code-Modellen im defensiven Kontext. Cybersecurity-Defender müssen KI-Modelle einsetzen können, um Schwachstellen zu suchen, zu reparieren und durch Tests zu verifizieren – genau der tägliche Workflow in Sicherheitsteams. Das Blockieren dieser Fähigkeit macht das Modell nicht sicherer, sondern schwächer beim Bug-Fixing und der Patch-Verifikation.
Das Problem liegt in der politischen Wahrnehmung: Nicht-technische Entscheidungsträger haben Monate lang gehört, dass Modelle, die „Cyberangriffe entwerfen” können, besonders gefährlich sind. Nun wird das Risiko einer Überregulierung deutlich: Ein Modell, das hilft, Quellcode zu sichern, könnte unter pauschale Export-Verbote fallen, weil die technische Differenz zwischen defensiven und offensiven Anfragen in der Praxis verschwimmt.
Quelle: simonwillison.net · Erschienen 16. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.