Faktoren und Stilmittel von Desinformationskampagnen erkennen und offenlegen
Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.
Das Projekt „Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel“ (DeFaktS) verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformationen. Zu diesem Zweck werden zunächst Nachrichten in großen Mengen aus verdächtigen Social-Media- und Messenger-Gruppen extrahiert. Auf dieser Basis wird eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Die derart trainierte KI bildet im Anschluss eine Komponente für eine sogenannte „erklärbare KI“ (Explainable Artificial Intelligence, XAI). Mithilfe der XAI soll eine App dann Nutzerinnen und Nutzer von Online-Angeboten einfach und nachvollziehbar informieren und warnen, wenn für Desinformationen typische Faktoren und Stilmittel auftreten. Die Forschenden werden die entwickelten Komponenten in einer Feldstudie anwenden, um die reale Verbreitung von Desinformationen in sozialen Netzwerken und Messengerdiensten zu quantifizieren und klassifizieren. Durch die Entwicklung einer Programmierschnittstelle sollen auch Dritte auf das KI-Modell zugreifen und die XAI-Komponenten in ihre Anwendungen integrieren können.
Das Innovationspotenzial des Projekts liegt darin, dass eine universelle Lösung entsteht, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen. Da aktuell selbst größere Plattformbetreiber keine eindeutige Erkennung von Desinformation leisten können, versucht das Projektteam, die zugrundeliegenden Faktoren zu identifizieren und den Nutzenden mittels XAI zu vermitteln. Die letztendliche Interpretation und Bewertung der Informationen erfolgt jedoch weiterhin durch die Nutzerinnen und Nutzer.
Politik, Onlinenachrichten, Social-Media-Plattformen sowie Debatten- und Partizipationstools sind allesamt dem Problem von Desinformationen ausgesetzt und könnten von einer derartigen Lösung profitieren. Da ein solcher Ansatz erstmalig für den deutschen Sprachraum entwickelt und erforscht wird, hat das Vorhaben einen wichtigen Nutzen für die Wirtschaft und Gesellschaft Deutschlands.