BSI und Fraunhofer stellen Deepfake-Erkennung "Real Or Render" vor

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) haben eine Methode zur Erkennung von Deepfakes vorgestellt. Das Verfahren mit dem Namen “Real Or Render” soll KI-generierte Bilder und Videos automatisiert entlarven.

Technisch verfolgt das System einen hybriden Ansatz: Es rekonstruiert ein Eingabebild mithilfe eines KI-Bildgenerators (Diffusionsmodell) und vergleicht anschließend die Rekonstruktionsfehler. Echte Fotos enthalten laut Fraunhofer mehr natürliche Unregelmäßigkeiten, während sich Fälschungen der KI-Rekonstruktion stärker annähern. Auffällige Bildregionen markiert die Software in Heatmaps. Trainiert wurde das Modell mit rund 120.000 Bildern aus 18 verschiedenen Generatoren; die Erkennungsgenauigkeit gibt das Institut mit 85 bis 91 Prozent an. Andreas Specker, Senior Scientist am Fraunhofer IOSB, verantwortet die Arbeit im Forschungsbereich videobasierte Sicherheits- und Assistenzsysteme.

Für den Standort ist die Entwicklung doppelt relevant: Sie zeigt, dass öffentliche Institute in Deutschland eigene Detektionskompetenz gegen Desinformation aufbauen — ein Feld, das mit dem EU-KI-Gesetz und dessen Transparenzpflichten für KI-generierte Inhalte an Bedeutung gewinnt. Zugleich dämpft das BSI die Erwartungen: Automatisierte Detektionsmethoden funktionierten häufig nur unter bestimmten Rahmenbedingungen zuverlässig. Ein Restrisiko der Fehlklassifikation bleibt.