Ziel der Fördermaßnahme ist es, die Forschung, Entwicklung und Innovationskraft im Bereich des Erkennens und Abwehrens von Desinformation nachhaltig zu stärken sowie effektive Lösungen für den Umgang mit Desinformationskampagnen und digitaler Manipulation voranzubringen.
Versuche der gezielten Täuschung und Manipulation mittels falscher Informationen (Desinformation) hat es zu allen Zeiten gegeben. In der heutigen Zeit, die von digital vernetzten Öffentlichkeiten und neuen Möglichkeiten der Erstellung und Verbreitung von Desinformation geprägt ist, entsteht jedoch ein zusätzliches Schadenspotential. Digitale Plattformen, soziale Netzwerke und andere Kommunikationskanäle bilden eine vielschichtige Struktur, in der sich manipulative Falschinformationen schnell und effizient verbreiten lassen. So kann digitale Desinformation erhebliche Auswirkungen auf das demokratische Gemeinwohl und das Vertrauen in Staat und öffentliche Institutionen haben.
Durch die rasch voranschreitende Entwicklung digitaler Technologien, insbesondere im Bereich der generativen Künstlichen Intelligenz (KI), hat sich die Erstellung und Verbreitung von täuschend echten Falschinhalten (sog. Deepfakes) stark vereinfacht. Umgekehrt können digitale Technologien wie KI dazu beitragen, die Erkennung und Abwehr von Desinformation zu verbessern. Technische Lösungen stellen einen wichtigen Teil der Antwort auf die Herausforderungen gezielter Manipulationsversuche durch Desinformation dar. Darüber hinaus gilt es, typische Muster von Desinformationskampagnen zu erforschen, ihre Wirkmechanismen zu verstehen und negative Folgen möglichst frühzeitig oder bestenfalls präventiv abzuwehren. Schließlich sind die Sensibilisierung und Aufklärung der Öffentlichkeit sowie Stärkung von Medien- und Digitalkompetenzen wesentlich für die effektive Bekämpfung von Desinformation.
Ziel der Förderung ist es, die Forschung, Entwicklung und Innovationskraft im Bereich des Erkennens und Abwehrens von Desinformation nachhaltig zu stärken sowie effektive Lösungen für den Umgang mit Desinformationskampagnen und digitaler Manipulation voranzubringen. Die Forschungsexpertise und gesellschaftliche Medienkompetenz sollen ausgebaut und der Transfer von Forschungsergebnissen in die Praxis befördert werden.
Durch die Zusammenarbeit relevanter Stakeholder soll zudem eine breite und anwendungsorientierte Datenbasis und Erkenntnisgrundlage zur Desinformationsbekämpfung geschaffen und anwendungsbezogen erprobt werden. Die Förderung soll zur gesellschaftlichen Resilienz, zur Stärkung der Demokratie sowie technologischen Souveränität Deutschlands beitragen.
Zielindikatoren dieser Förderrichtlinie sind die Anzahl und Effektivität von Methoden, Verfahren und Werkzeugen, mit deren Hilfe Desinformation vorgebeugt, erkannt und abgewehrt werden kann sowie eine Verbesserung des Zugangs zu Daten und Erkenntnissen der Forschung im Bereich Desinformation. Weitere Zielindikatoren sind die Etablierung von Forschungsgruppen im Themenbereich Desinformation, ein hoher Impact der erzielten Forschungsergebnisse sowie eine gestiegene gesellschaftliche Kompetenz im Umgang mit Desinformation.
Zweck der Zuwendung ist es, innerhalb einer dem Vorhaben angemessenen Projektlaufzeit von typischerweise drei Jahren, Forschung im Kontext der im „Gegenstand der Förderung“ dargestellten Themenkomplexe durchzuführen. Dabei ist eine dem Vorhaben angemessene Methodik zu verwenden. Die im Projekt erzielten Ergebnisse sind in geeigneter Form zu evaluieren, zu bewerten, zu publizieren und für die weitere Verwertung vorzubereiten.
Die Fördermaßnahme ist Teil des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän.“, insbesondere des strategischen Ziels „Demokratie und Gesellschaft: stabil und digital“ und des Handlungsfelds „IT-Sicherheit schützt Privatheit und stützt Demokratie“ und dessen Unterziels „Desinformation bekämpfen“ . Sie führt den Förderschwerpunkt "Erkennen und Bekämpfen von digitalen Desinformationskampagnen" des Programms fort. Zudem ist die Fördermaßnahme Teil der Leitinitiative Hyperkonnektivität und der Agenda Cybersicherheitsforschung des Bundesministeriums für Bildung und Forschung (BMBF) sowie der Zukunftsstrategie Forschung und Innovation der Bundesregierung.
Die Ergebnisse der geförderten Vorhaben dürfen nur in der Bundesrepublik Deutschland oder dem EWR und der Schweiz genutzt werden.
Im Rahmen der vorliegenden Richtlinie werden Forschungsvorhaben im Verbund mit Bezug zu den oben genannten Zielen gefördert, die sich insbesondere dem Erkennen und Abwehren von Desinformation zuordnen lassen. Ein thematischer Schwerpunkt liegt auf Desinformation, bei deren Erzeugung und/oder Verbreitung fortschrittliche KI-Technologien zum Einsatz kommen.
Beispiele für Forschungsthemen sind:
Desinformation verstehen:
Desinformation erkennen:
Desinformation vorbeugen und abwehren:
Ein zusätzlicher Anwendungsbereich dieser Richtlinie ist die Schaffung allgemein zugänglicher Datengrundlagen zur Erforschung von Desinformation sowie zum Vergleich von entwickelten Gegenmaßnahmen, Lösungsansätzen und Algorithmen (Benchmarking).
Projekte, die einen Lösungsansatz entwickeln, müssen einen klaren Praxisbezug entlang eines Anwendungsfalls aufweisen. Projektvorschläge müssen darlegen, wie der geplante Lösungsansatz im Nachgang umgesetzt werden kann. Es ist darzustellen, welchen Anreiz potentielle Anwender zur Umsetzung haben, idealerweise untermauert durch die Einbindung eines Anwendungspartners bereits im Forschungsverbund.
Projekte mit grundlegendem oder analytischem Charakter müssen darlegen, wie eine spätere Replikation der Ergebnisse möglich sein wird, und insbesondere, wie sie ihre Forschungsdaten als Open Data in strukturierter und auffindbarer Form publizieren wollen.
Zusätzlich muss die Verfügbarkeit beziehungsweise Zugänglichkeit der für das Vorhaben benötigten Daten sichergestellt werden. Die Formen des Datenzugangs müssen nachvollziehbar dargestellt werden.
Die folgenden Faktoren sollen, wo immer einschlägig, berücksichtigt werden:
Querschnittsthemen wie Normung, Standardisierung und vorbereitende Arbeiten zur Zertifizierung sollten, soweit möglich und erforderlich, in den Vorhaben berücksichtigt werden.
Ebenfalls erwünscht ist die Berücksichtigung von Outreach-Konzepten, die möglichst niederschwellige und zielgruppenorientierte Angebote machen, um Desinformation leichter zu erkennen und zugrundeliegende Mechanismen sowie Risiken zu verstehen.