Sichere KI-Systeme für die Produktion
Unternehmen setzen zunehmend auf Künstliche-Intelligenz (KI) in der Produktion, um Kosten einzusparen sowie Umsatz und Produktqualität zu steigern.
Der Einsatz von KI-Systemen bietet neben Vorteilen aber auch neue Angriffsflächen. So können durch das Einspielen manipulierter Anweisungen Systemausfälle herbeigeführt oder hochsensible Produktionsdaten, die zum Training der KI-Systeme dienen, gestohlen werden.
Bisher existierende Schutztechnologien sind häufig noch nicht speziell auf KI-Systeme zugeschnitten. Verfügbare Produkte sind daher oftmals teuer und aufwendig anzupassen oder erfüllen nicht die strengen Sicherheitsanforderungen von Unternehmen.
Im Projekt „Sichere KI-Systeme für die Produktion“ (SecureAI) sollen sowohl eine geschützte Kommunikation zwischen den beteiligten Parteien als auch automatische Sicherheitsmaßnahmen für KI-Systeme entwickelt werden. Um diese Ziele zu erreichen, werden durch SecureAI Verschlüsselungstechniken für die Daten und Abwehrmaßnahmen gegen zahlreiche Arten von Angriffen auf KI-Systeme erforscht. Die Forschenden untersuchen beispielsweise Angriffe auf das Training der KI („Adversarial Attacks“) oder solche, die darauf abzielen, ganze KI-Modelle zu entwenden („Modellextraktionsangriffe“).
Das Projekt setzt die Priorität auf Privatheit und Datenschutz. Hierzu kommen Verfahren der Anonymisierung und Pseudonymisierung sowie zur Datensparsamkeit zum Einsatz. Zudem werden die Daten möglichst lokal verarbeitet, um sie bestmöglich zu schützen.
Als Ergebnis von SecureAI visieren die Forschenden einen Modellmarktplatz an, über den Industrieunternehmen eine Vielzahl von einsatzbereiten und sicheren KI-Systemen finden und nutzen können. Diese Systeme sollen möglichst einfach und intuitiv konfigurierbar sein, sodass sie bestmöglich die firmenspezifischen Bedürfnisse erfüllen.
Für die in SecureAI fokussierten Probleme existieren bisher keine zuverlässigen Lösungen, sodass auf wissenschaftlicher Seite ein hohes Potential besteht. Die angestrebte KI-Technologie soll es produzierenden Unternehmen ermöglichen, passgenaue und zuverlässige KI-Systeme zu betreiben. Hierdurch können Kosten minimiert und kann die Qualität gesteigert werden, während sich gleichzeitig das Risiko von Ausfällen oder Datenverlusten durch Angriffe verringert.
Die entwickelten Lösungen können zukünftig außerdem für andere Anwendungsfelder, wie beispielsweise im Gesundheitswesen oder dem autonomen Fahren, angepasst werden. Auf diese Weise trägt SecureAI zu einer insgesamt sichereren Nutzung von KI-Systemen bei, die in immer mehr Bereichen der Wirtschaft, Gesellschaft und Wissenschaft zum Einsatz kommen.