Auf den Punkt: Unternehmen, die KI-Systeme betreiben, haften für deren fehlerhafte Ausgaben genauso wie für Fehler von Mitarbeitern und können sich nicht durch die technische Natur des Systems davon befreien.
Ein deutsches Gericht hat Google für fehlerhafte Inhalte in seinen KI-generierten Suchergebnisvorschauen haftbar gemacht. Dies setzt einen Präzedenzfall für die rechtliche Verantwortlichkeit von Unternehmen gegenüber von ihren KI-Systemen erzeugten Inhalten.
Die Entscheidung basiert auf dem Grundsatz, dass KI-Systeme als Vertreter des Unternehmens behandelt werden sollten, das sie einsetzt. Nach diesem Verständnis trägt das Unternehmen die volle Verantwortung für deren Ausgaben — wie es auch für Fehler von menschlichen Mitarbeitern tragen würde.
Wie der Cybersecurity-Experte Bruce Schneier in einer Analyse dazu ausführt: Wenn ein Unternehmen menschliche Autoren für Zusammenfassungen engagiert hätte, würde es für Ungenauigkeiten darin haften. Dementsprechend darf es sich nicht hinter fehlerhafter KI verstecken, wenn es stattdessen ein Computersystem einsetzt.
Aus Compliance-Perspektive ist diese Haltung bedeutsam: Sie verhindert ein Anreizproblem. Wenn Unternehmen KI-Fehler straflos akzeptieren könnten, hätten sie keinen wirtschaftlichen Anlass, teurere menschliche Fachleute (Schreiber, Juristen, Ärzte) einzustellen. Der fehlende Haftungszwang würde zu Governance-Risiken führen und es Organisationen erlauben, Qualitätsstandards systematisch zu untergraben.
Die deutsche Gerichtsentscheidung setzt damit ein Signal für die regulatorische Zukunft: Unternehmen, die KI-generierte Inhalte öffentlich bereitstellen, müssen die gleiche Sorgfalt und Verantwortlichkeit beweisen wie bei manuellen Produktionsprozessen. Dies betrifft insbesondere die Implementierung von Kontrollmechanismen und Fact-Checking-Verfahren vor Veröffentlichung.
Quelle: simonwillison.net · Erschienen 26. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.