Interpretierbare Deepfake-Erkennung
Synthetische, mit Künstlicher Intelligenz (KI) generierte Medien sind in der heutigen Welt allgegenwärtig und verbreiten sich immer schneller. Durch Fortschritte in der Technik und die freie Verfügbarkeit von großen Datenbanken sind selbst technisch nicht versierte Personen in der Lage, Inhalte mittels KI zu manipulieren oder zu generieren und somit sogenannte Deepfakes zu erstellen. Dies kann schwerwiegende Konsequenzen haben, wenn Deepfakes zum Beispiel dazu genutzt werden, Desinformation zu verbreiten oder politische Prozesse zu manipulieren.
Im Projekt „Aletheia“ entwickeln die Forschenden auf Basis von Künstlicher Intelligenz eine Detektor-architektur, die Deepfakes in Bildern, Videos und Audiofrequenzen erkennen soll. Dabei ist das Ziel, dass sie nicht nur Fälschungen mit Menschen, sondern auch allgemeine Deepfakes, bspw. von Gebäuden und anderen Umgebungen, identifiziert. Der Erkennungsalgorithmus, auf dem die Architektur basiert, soll auffällige Stellen und Anomalien in digitalen Medien suchen, die in authentischen Inhalten nicht vorkommen. Die Ergebnisse der Analyse werden hierbei mithilfe von innovativen Interpretationsmodellen forensisch detailliert aufbereitet und in niederschwelliger Form zur Verfügung gestellt. Dadurch soll die Untersuchung leicht nachvollziehbar sein, damit die Endnutzenden eine endgültige Entscheidung bei potenziellen Fälschungen treffen können. Diese Einbindung soll die Genauigkeit und Transferierbarkeit der computergestützten Detektoren verstärken, da die Nutzenden zum Beispiel Falsch-Positiv-Ergebnisse erkennen können, die anschließend aus der Wertung genommen werden.
Die Erkennungsmechanismen, die das Projekt anvisiert, stellen eine innovative und transparente Lösung dar, die sowohl das Vertrauen in Deepfakedetektoren als auch ihre Genauigkeit verbessern soll. Das Projekt, das auf Erklärbarkeit fußt, will nicht nur Forensikexperten, sondern auch Nutzende ohne spezielles Fachwissen befähigen, synthetisch generierte Inhalte zu erkennen. Somit leistet es einen wichtigen Beitrag dazu, dass sich alle Bürgerinnen und Bürger sicher und selbstbestimmt in der digitalen Welt bewegen können.