Was ist Fakt und was ist „Fake“?

Die geplanten digitalen „news-polygraph“ Werkzeuge unterstützen die Medienbranche, indem multimediale Inhalte mithilfe von KI einfacher und schneller auf Manipulationen überprüft werden können. In den sozialen Medien sind bewusst platzierte Falschinformationen längst ein bekanntes und weit verbreitetes Problem. Doch nicht nur die Anzahl manipulierter Medien nimmt rasant zu, auch die Qualität der gefälschten Inhalte steigt. Sogenannte Deepfakes, mit KI manipulierte Bild-, Audio- oder Videodateien, wirken zunehmend täuschend echt, so dass Fälschungen nur mit großem Aufwand identifiziert werden können. „news-polygraph“ soll Medienschaffende und weitere betroffene Branchen in Zukunft verlässlich, zeitsparend und intuitiv bei der Erkennung von Falschinformationen unterstützen.

Für eine zuverlässige Erkennung manipulierter Medieninhalte müssen die KI-Modelle von den Expert:innen für Desinformation „angelernt“ werden. Wie gut das Training funktioniert, wird in einem ersten Pilotprojekt im journalistischen Bereich überprüft. Weitere Anwendungsbereiche sind vielfältig und reichen von PR-Agenturen bis hin zu öffentlichen Einrichtungen, Versicherungen oder Ermittlungsbehörden.

Pressemitteilung zur positiven Gutachterentscheidung

Mehr Informationen zur BMBF Programmfamilie „Innovation und Strukturwandel“ und das Projekt.