BSI und Fraunhofer: Wie eine KI ihre eigenen Deepfakes entlarvt

Ein KI-generiertes Gesicht, täuschend echt – und trotzdem entlarvt: Genau das leistet „Real Or Render”, ein Werkzeug, das das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) entwickelt hat. Der Clou steckt im Trick, mit dem die Software gefälschte Bilder überführt: Sie lässt eine KI das verdächtige Bild selbst noch einmal nachbauen und misst dann, wie weit Original und Rekonstruktion auseinanderliegen. Aus diesem hybriden Rekonstruktionsfehler berechnet ein zweites KI-Modell, ob das Bild echt oder gerendert ist.

Das Ergebnis ist keine Blackbox: Eine Heatmap markiert die verräterischen Stellen – Gesichter, Haare, Hände oder Objekte im Hintergrund. Dieser Fokus auf erklärbare KI (XAI) macht die Entscheidung nachvollziehbar. Trainiert wurde das System mit rund 120.000 Bildern aus 18 verschiedenen Bildgeneratoren, die Trefferquote liegt laut Fraunhofer bei 85 bis 91 Prozent. Andreas Specker, Senior Scientist am IOSB, steht hinter dem Verfahren.

Beim BSI läuft „Real Or Render” bereits als Demonstrator. Ein Selbstläufer ist die Deepfake-Jagd damit aber nicht: Automatische Erkennung funktioniere oft nur unter bestimmten Rahmenbedingungen zuverlässig, räumt das Amt selbst ein. Trotzdem ein starkes Signal – eine deutsche Behörde und ein deutsches Forschungsinstitut liefern gemeinsam Werkzeuge gegen die Bilderflut, die uns alle betrifft.