Jahreskonferenz Forum Privatheit: „Bei der Weiterentwicklung von KI-Technologien müssen wir die Privatsphäre mitdenken“
Der vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Forschungsverbund Forum Privatheit beschäftigt sich bei seiner diesjährigen Konferenz mit den Auswirkungen der Künstlichen Intelligenz (KI) auf Demokratie und Privatheit. Im Interview erläutert Projektkoordinator Michael Friedewald die Bedeutung des Themas.
Herr Friedewald, bei Ihrer Konferenz legen Sie in diesem Jahr den Schwerpunkt auf das Thema KI. Weshalb ist es bei der Weiterentwicklung von KI-basierten Technologien so wichtig, an die Privatsphäre der Menschen zu denken?
KI-Systeme sind ja nicht von sich aus „intelligent“, sondern müssen zunächst einmal mit möglichst guten Daten trainiert werden, damit sie dann im realen Betrieb das tun, was wir uns von Ihnen erwarten, nämlich Muster zu erkennen, Entscheidungen zu treffen oder Prognosen zu stellen. Die besten Trainingsdaten sind solche, die von realen Nutzer:innen stammen. Und deshalb werden teilweise sehr große Datenbestände gesammelt oder zusammengetragen. Auf der anderen Seite können KI-Systeme Entscheidungen von erheblicher Tragweite treffen, von der Beurteilung der Kreditwürdigkeit bis zur Einschätzung, ob jemand straffällig wird. Bei der Weiterentwicklung von KI-basierten Technologien sollten solche Eingriffe in die Privatsphäre immer mitgedacht und mögliche negative Folgen minimiert werden.
Welche KI-Dienste sind aus Ihrer Sicht mit Blick auf Privatheit besonders problematisch?
Eine der Versprechungen von KI ist ja, dass Entscheidungen unvoreingenommen und neutral erfolgen. Das ist aber vielfach gar nicht der Fall, wenn KI-Systeme beispielsweise mit unvollständigen oder verzerrten Daten trainiert werden. Dann sind die Entscheidungen solcher Systeme ebenfalls verzerrt, was besonders problematisch ist, wenn damit bestimmte Persönlichkeitsmerkmale bewertet werden. Und einzelne Sachbearbeiter:innen, die Kreditanträge bearbeiten, werden in der Regel die Bewertung des KI-Systems nicht in Frage stellen.
Welche (technischen) Ansätze sind vielversprechend, um trotz des Einsatzes von KI Privatheit zu gewährleisten?
In erster Linie sollte sich zu Beginn der Entwicklung die Frage gestellt werden, welche Daten tatsächlich für die Aufgabe notwendig sind und ob es sich immer auch um Daten von echten Nutzer:innen handeln muss. In vielen Fällen ist es vollkommen ausreichend, Systeme mit synthetischen Daten zu trainieren. Ansonsten haben Anonymisierungstechniken ein großes Potenzial, Privatheitsprobleme zu vermeiden.
Wie sollte die weitere Entwicklung von KI begleitet werden?
Wegen der weitreichenden Konsequenzen, die KI haben kann, sollte die Entwicklung von Beginn an einen ganzheitlichen Blick einnehmen und durch den Einbezug von Nutzer:innen frühzeitig mögliche Konfliktpotenziale identifizieren und berücksichtigen. Dazu sollten neben Informatiker:innen auch Psycholog:innen, Sozial- und Rechtswissenschaftler:innen im Entwicklungsprozess beteiligt werden.
Im Titel Ihrer Konferenz sprechen Sie von den „Auswirkungen der KI auf Demokratie und Privatheit“. Inwiefern sind solche Auswirkungen zu befürchten?
Wir haben beispielsweise in den vergangenen Jahren Beispiele gesehen, dass durch den Einsatz von KI sogenanntes Mikro- oder Wähler-Targeting betrieben wird: Dabei werden Wähler:innen nach bestimmten Persönlichkeitsmerkmalen in „Schubladen“ eingeteilt und dann mit für sie maßgeschneiderten Botschaften angesprochen. Wurde Obama für diese Art von „fortschrittlichem“ Wahlkampf 2011 noch gelobt und bewundert, haben wir in der Zwischenzeit gelernt, dass diesen Werkzeuge auch ein gefährliches Potenzial zur Aushöhlung der Demokratie haben, wie die regelmäßigen Vorwürfe der Wahlbeeinflussung durch Russland zeigen.
Herr Friedewald, noch ein Blick in die Zukunft nach der Konferenz. Wie geht es in den kommenden Jahren weiter?
Das „Forum Privatheit“ war über die Jahre sehr erfolgreich und hat sich zu einer festen Instanz in Forschung zu den Themen Privatheit, Datenschutz und Selbstbestimmung entwickelt. Aufgrund der hohen Relevanz dieser Themen, hat das BMBF eine erweiterte Initiative, die Plattform Privatheit, ins Leben gerufen. Langfristig soll ein starkes Forschungsnetzwerk entstehen. Wir freuen uns sehr, dass wir als „Forum Privatheit“ diese neuen Aktivitäten wissenschaftlich begleiten dürfen. Über die Forschung hinaus, ist es uns ein besonderes Anliegen, die Akteure zu vernetzen und so zu einer starken wissenschaftlichen Gemeinschaft beizutragen, ebenso, wie durch Wissenschaftskommunikation die Themen breit in die Gesellschaft zu tragen, so wie auf dieser Konferenz.
Vielen Dank für dieses Gespräch.