Fraunhofer-Warnsystem erkennt Deepfakes in der laufenden Videokonferenz

Der Chef ruft per Video an, bittet dringend um eine Überweisung — und ist gar nicht der Chef. Genau gegen diesen Moment richtet sich ein Warnsystem, das das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt gemeinsam mit dem Fraunhofer Heilbronn Research & Innovation Center für Cybersecurity entwickelt hat. Es prüft Bild und Ton mitten im laufenden Gespräch und meldet, wie wahrscheinlich das Gegenüber ein Deepfake ist.

Das Charmante daran: Die Analyse bleibt auf dem eigenen Rechner, es werden keine Video- oder Audiodaten nach außen geschickt. “Für die lokale Echtzeitanalyse unserer Lösung reicht ein Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher”, sagt Prof. Martin Steinebach, der die IT-Forensik am Fraunhofer SIT leitet.

Videokonferenzen sind für die Erkennung besonders zäh — Kompression, schwankende Qualität, Weichzeichner. Also trainierte das Team gegen genau diese Effekte an; für die Audioerkennung mit rund 19.000 echten und etwa 160.000 manipulierten Aufnahmen. Maschinelles Lernen habe sich dabei als deutlich schneller und effizienter erwiesen als klassische Signalverarbeitung.

Noch ist das Ganze ein Demonstrator, kein fertiges Produkt. Geplant ist die Integration in Plattformen wie Teams oder Zoom, als Plugin oder eingebaute Sicherheitsfunktion. Offen bleibt die rechtliche Frage, ob und wie Teilnehmende einer solchen Analyse zustimmen müssen. Der Bedarf jedenfalls wächst: Singapurs Cyber Security Agency zählte im Januar 2026 über 1.200 Deepfake-Betrugsfälle per Video — nach 43 im Januar 2025.