Sichere und Privatsphäre schützende Ansätze für den Einsatz von Maschinellem Lernen
Künstliche Intelligenz (KI) und Maschinelles Lernen (ML) sind in vielen Bereichen der Gesellschaft, Industrie und Wissenschaft weit verbreitet. Während Machine-Learning-Operations (ML-Ops) bereits die Automatisierung und Standardisierung des gesamten Lebenszyklus von ML-Modellen unterstützen und komplexe Herausforderungen in Entwicklung, Training, Evaluation und Betrieb bewältigen, bleibt ein zentrales Problem bisher ungelöst: Die Einhaltung rechtlicher Vorgaben, insbesondere zu Datenschutz und Urheberrecht, sowie die Absicherung gegen Angriffe werden von aktuellen Systemen oft unzureichend abgedeckt.
Im Vorhaben „PriMFlow“ entwickelt das Projektteam Methoden, um zentrale Anforderungen an Sicherheit und Datenschutz für moderne ML-Ops-Architekturen umzusetzen. Ziel ist die Schaffung einer ML-Ops-Architektur, welche den gesamten Lebenszyklus moderner ML-Anwendungen ebenso umfassend abdeckt wie bestehende Systeme, jedoch mit deutlich erhöhter Angriffssicherheit. Gleichzeitig soll sie es Anwendern ermöglichen, rechtliche Anforderungen effizient einzuhalten. Ein besonderes Augenmerk liegt auf der praktischen Umsetzung des in der Europäischen Union geltenden „Rechts auf Vergessenwerden“. Dazu entwickeln die Forschenden Mechanismen, die unter Anwendung von Ansätzen aus dem Bereich des Machine-Unlearning umgesetzt werden. Diese Mechanismen ermöglichen es, Daten ohne aufwändiges Retraining der ML-Modelle „vergessen“ zu lassen und bei Bedarf zuverlässig aus versionierten Speicherorten zu löschen.
Die Projektergebnisse tragen dazu bei, dass Unternehmen ML-Anwendungen effizient, datenschutzkonform und sicher einsetzen können. Dadurch ermöglicht es „PriMFlow“, auch bisher beim Einsatz von KI zurückhaltenden Unternehmen, die Potenziale auch für hochsensible Daten zu nutzen, um ihre Wettbewerbsfähigkeit zu steigern und innovative, Privatsphäre erhaltende Lösungen zu entwickeln.