Auf den Punkt: RealOrRender kombiniert KI-Bildanalyse mit Explainability-Methoden, um Deepfakes zuverlässig zu erkennen und die Entscheidungskriterien transparent zu machen.
Das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) hat das hybride System RealOrRender entwickelt, das synthetisch erzeugte oder manipulierte Bilder von authentischen unterscheiden kann. Das System kombiniert KI-basierte Bildanalyse mit explainbarer KI (XAI), um Erkennungsergebnisse nachvollziehbar zu machen.
Die Unterscheidung zwischen authentischen und synthetisch generierten oder manipulierten Bildern wird durch immer leistungsfähigere Generationsmodelle zunehmend schwieriger. Das Fraunhofer IOSB adressiert diese Herausforderung mit RealOrRender, einem hybriden System, das speziell für die Bildforensik konzipiert wurde.
RealOrRender nutzt KI-Modelle zur Detektion von künstlichen Bildern und Deepfakes. Der Kern des Systems liegt jedoch in der Integration von explainbarer KI (XAI): Die Erkennungsergebnisse werden nicht als Black Box ausgegeben, sondern mit nachvollziehbaren Begründungen versehen. Dies ermöglicht Nutzer:innen – insbesondere Sicherheits- und Compliance-Teams – die Entscheidungen des Systems zu verstehen und zu validieren.
Für CTOs und Sicherheitsverantwortliche ist die Kombination aus Detektionsgenauigkeit und Transparenz relevant, da regulatorische Anforderungen und interne Governance-Standards zunehmend explizierbare KI-Systeme vorschreiben. Die Fähigkeit, Erkennungsergebnisse zu dokumentieren und nachzuweisen, wird insbesondere im Kontext von Desinformationskampagnen, Fraud-Detection und Authentifizierungsprozessen kritisch.
Quelle: www.golem.de · Erschienen 1. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.2.