Abwehr von Kommunikationsbetrug zum Schutz der digitalen Identität
Identitätsdiebstahl und der Missbrauch persönlicher Daten stellen eine große Gefahr für die informationelle Selbstbestimmung dar. Künstliche Intelligenz (KI) eröffnet neue Möglichkeiten im Bereich der Verarbeitung natürlicher Sprache und der Synthese von Sprechstimmen. Dadurch wird es zunehmend möglich, sprachbasierte Betrugsversuche zu automatisieren und damit in der breiten Masse durchzuführen. Diese technischen Methoden erlauben neuartige, massen-individualisierte Angriffe, die für den einzelnen schwerer zu erkennen sind.
Im Projekt „AntiScam“ entwickeln die Forschenden KI-gestützte Methoden zur Erkennung von sprachbasiertem Betrug. Hierbei verfolgt das Forschungsteam einen ganzheitlichen, soziotechnischen Ansatz, bei dem ein Schwerpunkt in der Entwicklung von erklärbaren KI-Methoden zur Betrugserkennung liegt. Insbesondere soll die Erkennung von Gesprächsbetrug, der synthetische Stimmen nutzt, verbessert werden. Dabei setzt das Projektteam erklärbare KI ein, sodass Endnutzende die Mechanismen dieser Betrugserkennung verstehen und nachvollziehen können. Zudem wird ein interaktives Lernspiel entwickelt, das die Nutzenden für die Gefahren von sprachbasiertem Betrug sensibilisieren und ihre Abwehrreaktion stärken soll. Darüber hinaus soll das Spiel auch dazu dienen, die im Projekt entwickelten KI-Methoden unter realitätsnahen Bedingungen zu testen und zu optimieren.
Sowohl die anvisierte Software als auch die wissenschaftlichen Erkenntnisse werden offen bereitgestellt, wodurch deren breite Nutzung ermöglicht wird. Die Projektergebnisse bieten Potenziale für die Entwicklung neuer Sicherheitsprodukte und somit für Unternehmen im Bereich der Cybersicherheit neue Marktchancen. Die einzigartige Verbindung von empirischer Forschung im Bereich der IT-Sicherheit mit technischen und partizipativen Entwicklungsansätzen stellt eine innovative Möglichkeit zur Abwehr von Social-Engineering-Angriffen und zur Stärkung der digitalen Souveränität von Bürgerinnen und Bürgern dar.