news-polygraph

Über news-polygraph

Ziel des KI-Forschungsprojektes ist die Entwicklung einer Technologieplattform, die mithilfe von Künstlicher Intelligenz gezielte Desinformation („Fake News“) identifiziert. Dafür kombiniert „news-polygraph“ verschiedene Software-Werkzeuge zur Erkennung von Manipulationen an Bildern, Ton, Videos sowie Texten. So entsteht eine vernetzte Palette digitaler Werkzeuge für den Einsatz gegen gefälschte oder aus dem Kontext gerissene Informationen. „news-polygraph“ wurde vom Bundesministerium für Bildung und Forschung (BMBF) im Rahmen des Förderprogramms „RUBIN – Regionale unternehmerische Bündnisse für Innovation“ für eine Förderung ausgewählt. An der Forschung und Entwicklung werden in den nächsten drei Jahren insgesamt zehn Partner aus Berlin, Brandenburg und Thüringen zusammenarbeiten, darunter Institutionen aus Wissenschaft, Medien, Technologie und Wirtschaft.

Im Mai 2023 ist „news-polygraph“ in die Umsetzungsphase gestartet.

News

Wir haben unseren ersten Blogartikel veröffentlicht!

Unser erster Blogartikel mit dem Titel „Künstliche Intelligenz braucht journalistischen Spürsinn – denn ohne geht es auch in Zukunft nicht!“ ist veröffentlicht. In Zukunft werden wir regemäßig Blogartikel zu aktuellen Themen aus unserem Bündnis veröffentlichen.

Jetzt lesen

Unser Partner Moritz Demmig vom rbb spricht im Podcast "KI – und jetzt? Wie wir Künstliche Intelligenz leben wollen"

"Alles Fake? - Künstliche Intelligenz und Medien"

Moritz Demming vom Forschungsbündnis news-polygraph ist zu Gast im rbb-Podcast „KI – und jetzt? Wie wir Künstliche Intelligenz leben wollen“. In der Folge „Alles Fake? – Künstliche Intelligenz und Medien (5)“ vom 17.11.2023 spricht er zusammen mit den Hosts ARD-Journalistin Nadia Kailouli und Wissenschaftler Aljoscha Burchardt über das Katz- und Mausspiel der mithilfe von KI-Generierter Desinformation und den Jornalist*innen, welche diese zu identifizieren versuchen.

Hier finden Sie die Folge in der ARD-Audiothek

Zur Folge

Konferenz zu Desinformation und Verifikationstechnologien

Jetzt anmelden: Konferenz zu Desinformationen und Verifikationstechnologien am 23.11.23 im Haus des Rundfunks in Berlin

Wie kann es gelingen, im Katz- und Mausspiel KI-basierter Fälschungs- und Verifikationstechnologien die Nase vorn zu behalten? Das news-polygraph Forschungsbündnis stellt sich dieser Frage in seinem Auftaktevent am 23.11.23.

Gemeinsam mit Ihnen gehen wir dem Spannungsfeld zwischen Fälschung und Aufdeckung nach und stellen uns die Frage, wie man heutzutage im Katz- und Mausspiel KI-basierter Fälschungs- und Verifikationstechnologien die Nase vorn behält.

Wir wollen Ihre Anforderungen kennenlernen, unsere Pläne für die Entwicklung neuer Tools vorstellen und mit Ihnen ins Gespräch kommen. Es erwartet Sie ein kuratierter Tag mit Fachvorträgen in Deutsch und Englisch sowie Diskussionen mit relevanten Akteuren wie dem dpa Deutsche Presse-Agentur GmbH-Faktencheck, dem ARD-Politikmagazin Kontraste, der Medienanstalt Berlin-Brandenburg (mabb) und #Faktenfuchs vom Bayerischer Rundfunk.

Agenda

Vormittagsprogramm

Begrüßungsrede – Ulrike Demmer (Rundfunk Berlin-Brandenburg)
Keynote: “Täuschend echt? – Verifikation in Zeiten von KI” – Stefan Voß (Deutsche PresseAgentur / GADMO)
news-polygraph – Eine Technologieplattform für KI-basierte Content-Verifizierung – Anna
Schild (Deutsche Welle), Moritz Demmig (Rundfunk Berlin-Brandenburg), Patrick Aichroth
(Fraunhofer IDMT)
Unraveling the web of deceit: AI-powered insights into text-based disinformation – Jakob
Tesch (Ubermetrics), Lauren Green (delphai)
Digitale Spurensuche: Verifizierung von audio-visuelle Mediendaten – Patrick Aichroth
(Fraunhofer IDMT), Dr. Tim Polzehl (DFKI)
Crowdsourcing zur Unterstützung von Content-Verifikation – André Beyer (Crowdee)
Trust Matters! – Vera Schmitt (Technische Universität Berlin), Nura Kawa (neurocat)

Nachmittagsprogramm:

Showcasing Spot: Eine Schnittstelle für geografische Suchanfragen in Open Street Map in
natürlicher Sprache – Lynn Khellaf (Deutsche Welle)
Aus der Praxis: Fact-Checking und Verifikation beim BR24 #Faktenfuchs – Jana Heigl
(Bayerischer Rundfunk #Faktenfuchs)
Verifikation im Investigativjournalismus: Fallbeispiele aus dem ARD-Politikmagazin Kontraste
Georg Heil (Kontraste)
Mit Künstlicher Intelligenz zu einer modernen Medienaufsicht – Dr. Eva Flecken
(Medienanstalt Berlin-Brandenburg)
Paneldiskussion – Das Katz- und Mausspiel der Desinformation (Dr. Eva Flecken, Jana Heigl,
Georg Heil, Vera Schmitt, Stefan Voß)

Was ist Fakt und was ist "Fake"?

Ein KI-Lügendetektor für Medieninhalte: Was ist Fakt und was ist "Fake"?

Die geplanten digitalen „news-polygraph“ Werkzeuge unterstützen die Medienbranche, indem multimediale Inhalte mithilfe von KI einfacher und schneller auf Manipulationen überprüft werden können. In den sozialen Medien sind bewusst platzierte Falschinformationen längst ein bekanntes und weit verbreitetes Problem. Doch nicht nur die Anzahl manipulierter Medien nimmt rasant zu, auch die Qualität der gefälschten Inhalte steigt. Sogenannte Deepfakes, mit KI manipulierte Bild-, Audio- oder Videodateien, wirken zunehmend täuschend echt, so dass Fälschungen nur mit großem Aufwand identifiziert werden können. „news-polygraph“ soll Medienschaffende und weitere betroffene Branchen in Zukunft verlässlich, zeitsparend und intuitiv bei der Erkennung von Falschinformationen unterstützen.

Für eine zuverlässige Erkennung manipulierter Medieninhalte müssen die KI-Modelle von den Expert:innen für Desinformation „angelernt“ werden. Wie gut das Training funktioniert, wird in einem ersten Pilotprojekt im journalistischen Bereich überprüft. Weitere Anwendungsbereiche sind vielfältig und reichen von PR-Agenturen bis hin zu öffentlichen Einrichtungen, Versicherungen oder Ermittlungsbehörden.

Pressemitteilung zur positiven Gutachterentscheidung

Mehr Informationen zur BMBF Programmfamilie „Innovation und Strukturwandel“ und das Projekt.