Auf den Punkt: Der Gesetzentwurf „AI Incident Reporting Act" macht die Meldung kritischer KI-Vorfälle zur rechtlichen Pflicht statt zur freiwilligen Praktik und sieht Strafen von bis zu zwei Millionen Dollar vor.
US-Gesetzgeber haben einen Gesetzentwurf vorgestellt, der Entwickler fortgeschrittener KI-Modelle dazu verpflichtet, schwerwiegende Sicherheitsvorfälle innerhalb von sieben Tagen dem Handelsministerium zu melden. Dies schafft erstmals einen föderalen Regulierungsrahmen für hochriskante KI-Systeme.
Der Gesetzentwurf „AI Incident Reporting Act” verlangt von Entwicklern sogenannter „covered models” die Offenlegung von Vorfällen spätestens sieben Tage nach dem Zeitpunkt, zu dem sie von einem Incident erfahren oder vernünftigerweise erfahren sollten. Das US-Handelsministerium muss seinerseits bei Vorfällen, die unmittelbare oder laufende Risiken schwerwiegender Schäden darstellen, die Führungsspitze des Kongresses und relevante Ausschüsse des Repräsentantenhauses und Senats innerhalb von 48 Stunden nach Erhalt der Meldung benachrichtigen.
Der Gesetzentwurf fordert den Handelsminister auf, Fähigkeitsschwellwerte zu definieren, die festlegen, welche KI-Modelle und Entwickler der Meldepflicht unterliegen. Meldepflichtig sind demnach Versuche durch KI-Modelle, menschliche Aufsicht zu umgehen, Operatoren zu täuschen, Schutzmaßnahmen zu umgehen, sich Abschaltungen zu widersetzen oder unbefugten Zugriff auf Systeme zu erlangen. Hinzu kommen Diebstahl oder Diebstahlversuche von Modellgewichten, Fähigkeiten, die offensive Cyber-Operationen gegen kritische Infrastruktur ermöglichen könnten, autonome Entwicklung leistungsfähigerer KI-Systeme sowie Fähigkeiten zur Beschleunigung von Entwicklung oder Einsatz chemischer, biologischer, radiologischer, nuklearer oder Sprengstoff-Waffen.
Das Handelsministerium erhält die Befugnis, Compliance zu untersuchen, Vorladungen auszustellen, Korrekturmaßnahmen anzuordnen und Bußgelder von bis zu zwei Millionen Dollar für Verstöße zu verhängen. Jeder Tag einer andauernden Verletzung gilt als separate Violation. Der Gesetzgeber beauftragt das Handelsministerium außerdem, die Fähigkeitsschwellwerte in Absprache mit KI-Entwicklern, akademischen Forschern, Cybersecurity-Experten, Sicherheitsbeamten und weiteren Stakeholdern festzulegen, bevor konkrete Implementierungsvorgaben erlassen werden.
Für CDOs und Compliance-Verantwortliche bedeutet die Regelung eine neue Reporting-Infrastruktur und klare Dokumentationspflichten, die der Cybersecurity-Regulierung ähnelt. Die Herausforderung liegt darin, dass vage definierte Schwellwerte entweder zu Unter- oder Übermelding führen können. Experten wie Sanchit Vir Gogia von Greyhound Research weisen darauf hin, dass Frontier-KI-Entwickler zwar bereits Red-Teaming und Evaluationen durchführen, aber bislang keine föderale Rechtsverbindlichkeit zur Sofortmeldung gefährlichen Verhaltens gekannt haben.
Quelle: www.csoonline.com · Erschienen 26. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.