FernUni Hagen entwickelt Filter, der sensible Daten vor ChatGPT abfängt

An der FernUniversität in Hagen ist ein Prototyp entstanden, der vertrauliche Angaben aus Eingaben an KI-Sprachmodelle entfernt, bevor diese an Dienste wie ChatGPT übertragen werden. Das berichtet heise online. Das Team um Pascal Tippe nennt das System Privacy Gateway; beteiligt ist auch der Student Michael Maximilian Grötzner.

Technisch geht der Filter über eine Stichwortsuche hinaus. Er stützt sich auf ein Codebuch, das aus den Definitionen der Datenschutz-Grundverordnung und aus dem deutschen Geschäftsgeheimnisrecht abgeleitet ist. Damit sollen personenbezogene Daten und Betriebsinterna nicht erst beim Anbieter, sondern schon vor dem Versand herausgelöst werden.

Der Ansatz adressiert ein praktisches Problem des Standorts. Nach den in dem Bericht genannten Zahlen nutzt rund ein Drittel der Menschen in Deutschland wöchentlich KI-Anwendungen — häufig über Dienste, deren Verarbeitung außerhalb der eigenen Kontrolle liegt. Für Unternehmen und Behörden ist das der Kernkonflikt zwischen Produktivitätsgewinn und Geheimnisschutz.

Die Tests zeigen zugleich eine Grenze: Werden sensible Angaben entfernt, kann die Qualität der Antworten sinken, besonders bei datenintensiven Fragen etwa aus dem medizinischen Bereich. Es handelt sich um einen Forschungsprototyp; Angaben zu Lizenz, Preis oder Verfügbarkeit liegen nicht vor. Der ausführliche Bericht steht hinter der heise+ Bezahlschranke.