Über die blinden Flecken von KI – von Diskriminierung bis technologische Verantwortung

Die Beziehung zwischen KI und gesellschaftlicher Vielfalt ist kompliziert. BFH-Forscherin Mascha Kurpicz-Briki geht dem in ihrem Interview mit der KI-Koryphäe Roger A. Søraa nach, der sich in seinem bahnbrechenden Buch «AI for Diversity» damit beschäftigt hat Er warnt vor den subtilen Gefahren der KI-induzierten Ausgrenzung und betont die übersehenen Schnittmengen der Diskriminierung. Er stellt nicht nur den Begriff des technologischen Determinismus in Frage, sondern plädiert stattdessen für einen ganzheitlichen soziotechnischen Ansatz.

Societybyte: In Ihrem kürzlich erschienenen Buch AI for Diversity (KI für Vielfalt ) erörtern Sie verschiedene Aspekte, wie KI zur Ausgrenzung verschiedener gesellschaftlicher Gruppen führen kann: Wo sehen Sie die größte Gefahr in diesen jüngsten Fortschritten?

Roger A. Søraa: In AI for Diversity befasse ich mich mit verschiedenen Aspekten, bei denen KI zu Ausgrenzung führen kann, z. B. aufgrund von Geschlecht, Alter, Nation und Klasse. Es gibt viele bekannte Beispiele, in denen KI nachweislich zu Diskriminierung geführt hat. Ich denke jedoch, dass die grösste Gefahr in unseren blinden Flecken liegt – in den Fällen, in denen wir nicht erkennen, dass Diskriminierung stattfindet. Im letzten Kapitel des Buches konzentriere ich mich auf die «intersektionale» Ausgrenzung, bei der zwei oder mehr Parameter zusammen zu Ausgrenzungspraktiken führen können. Da die KI potenziell viel aus persönlichen Daten ableitet, müssen wir uns der diskriminierenden Ausgrenzung in den Empfehlungen und Entscheidungen der KI besonders bewusst sein.

Prof. Roger A. Søraa ist Experte für KI.

Sie erwähnen auch die Gefahren des technologischen Determinismus. Könnten Sie erklären, was sich hinter diesem Begriff verbirgt und inwiefern er ein Problem darstellen kann?

Technologischer Determinismus ist der Glaube, dass die technologische Entwicklung den gesellschaftlichen Wandel vorantreibt. Das kann sowohl auf der utopischen Seite sein, wenn wir darauf vertrauen, dass die Technologie unsere Probleme löst, als auch auf der dystopischen Seite, wenn wir der KI die Schuld geben, wenn etwas schief läuft. Ich plädiere für einen soziotechnischen Ansatz, bei dem Gesellschaft und Technologie nicht getrennt voneinander betrachtet werden und sich gegenseitig beeinflussen, sondern eng miteinander verwoben sind. Was wir als Gesellschaft tun, wirkt sich also auf die Technologie aus und umgekehrt.

Gibt es auch Wege, wie KI die Vielfalt unterstützen kann?

KI hat ein enormes Potenzial, die Welt zu verändern – und während ich uns zur Vorsicht vor ihren Gefahren mahne, sehe ich auch ein grosses Potenzial, KI für das Gute zu nutzen. Die Nutzung des enormen Potenzials der KI zur Förderung der Vielfalt, z. B. bei der Vertretung von Randgruppen, der Erleichterung des Zugangs zu Inhalten, z. B. für Menschen mit Behinderungen, der Förderung der Bildungsgleichheit durch gezielte Lernstrategien für Einzelpersonen, der Erleichterung des Sprachenlernens und der Übersetzung sowie der Verringerung von Voreingenommenheit bei der Einstellung und im Management (siehe z. B. das BIAS-Projekt, biasproject.eu), das ich leite), um nur einige der vielen potenziellen Vorteile zu nennen.

Sie sagen, dass ein verantwortungsvoller Einsatz von KI-Technologien entscheidend ist. Können Sie uns einige Schlüsselelemente nennen, auf die wir achten sollten?

Bei der KI muss der Mensch mitwirken, um die technologische Verantwortung zu gewährleisten. Dies betrifft Fragen der Transparenz (z. B. welche Daten werden einbezogen, auf welche Weise, wie werden sie interpretiert?), der Fairness für alle von der KI betroffenen Gruppen, Fragen des Datenschutzes sowie ethische Überlegungen. Die europäische Forschungsgemeinschaft konzentriert sich seit langem auf die verantwortungsvolle Forschung und Innovation. Obwohl dieser Ansatz sowohl solide als auch fundiert ist, schafft die KI neue Herausforderungen – insbesondere in Bezug auf die in meinem Buch erwähnte Vielfalt -, deren Lösung eine gute Zusammenarbeit über Wissensgebiete hinweg erfordert.

Zur Person

Roger A. Søraa ist außerordentlicher Professor für Wissenschafts- und Technologiestudien (STS) am Institut für interdisziplinäre Kulturstudien (KULT). Seine Forschungsschwerpunkte sind Automatisierung, Robotisierung und die Digitalisierung der Gesellschaft – das Verhältnis zwischen Mensch und Technik. Dr. Søraa interessiert sich besonders für die soziale Domestizierung von Technologie, siehe z.B. seine Forschungen über Krankenhausroboter und Gerontechnologien im Haushalt. Er ist ausserdem Senior Researcher am NTNU Social Research und Partner des Horizon Europe Projekts BIAS mit dem Departement Technik und Informatik der BFH.