Digital & AI Literacy als Säule der digitalen Verantwortung – Ein Bericht von der Shift-Konferenz

Digitale Ethik ist zentral bei der Nutzung von Künstlicher Intelligenz. Es war das Thema der kürzlich statt gefundenen Shift-Konferenz in Zürich.Die Referent*innen kommen aus der Praxis und aus der Forschung und bieten innovative Perspektive darüber, wie wir als Gesellschaft die Chancen und die Herausforderungen der Digitalisierung angehen können, an.  Die Autorin war bei der Konferenz anwesend und teilt ihre Eindrücke und die Kernbotschaften der Konferenz mit uns.

«Ist die Schweiz zivilisiert?» Mit dieser provokativen Frage hat Karin Lange von «die Mobiliar» ihren Vortrag an der Shift Konferenz über Digitale Ethik angefangen, nachdem sie das Publikum gefragt hatte, was «Zivilisation» für sie bedeutet. Auf die herkömmliche Definition der Zivilisation als «die Entwicklung des Zusammenlebens von Menschen, die zu einem möglichst friedlichen und aggressionsfreien Miteinander führen soll» konfrontierte sie die Anwesenden mit verschiedenen fragwürdigen Praktiken, die in der digitalen Welt zu beobachten sind: Anarchistische Geschäftsmodelle (GAFA), die Aufmerksamkeitsökonomie mit brutalen Vorgehen, die unbestrafte Verbreitung von Unwahrheiten, Hass und Perversionen, den unregulierten Einsatz von KI. Ihre Meinung ist klar: die digitale Welt hat sich zum Sekundärraum entwickelt und dieser muss stärker reguliert werden.

Die digitale Welt: Deceptive Designs und Manipulierung der Meinungsbildung

Die unregulierte digitale Welt wurde durch Markus Zimmer (ZHAW) weiter illustriert: Deceptive Designs (oder Dark Patterns) sind Tricks, die auf Websites und in Apps verwendet werden, um uns dazu zu bringen, Dinge zu tun, die wir nicht beabsichtigt haben, z. B. etwas zu kaufen oder sich anzumelden. Eine Studie hat gezeigt, dass, obwohl solche Praktiken wahrgenommen werden, sie keinen Einfluss auf Kauf und Weiterempfehlungsabsicht haben. Sei es aus fehlender Motivation für die jüngere Generation oder aus fehlenden Fähigkeiten und wahrgenommenen Möglichkeiten für die Ältere, finden sich anscheinend die sondierten Menschen damit ab, manipuliert zu werden. Und obwohl Deceptive Designs an der Grenze der Legalität stehen, ist die Regulation solche Praktiken mühsam. In der Tat, Deceptive Designs, die manipulativ, aber nicht unbedingt täuschend sind, sind schwer zu verfolgen.

Ein weiteres heißes Thema im Bereich der Gesetzgebung der digitalen Welt ist der Einfluss der digitalen Debatte durch Bots, Trolls, Falschinformationen, Polarisierung und Pseudonymisierung. Die meisten Leute verfügen nicht über die nötigen Kompetenzen, um sich vor solchen Manipulierungstechniken zu schützen. Anna-Lena König hat berichtet, wie die Stiftung Risiko-Dialog zu diesem Zweck einen interaktiven Workshop für Schulen und Organisationen entwickelt hat, so dass die Nutzer*innen solche Praktiken direkt erleben und kritisch hinterfragen können. Es ist das Ziel,Strategien für einen reflektierten Umgang mit der digitalen Meinungsbildung zu entwickeln.

Digitale Selbstbestimmung

Sowohl Markus Zimmer als auch Anna-Lena König betonten die Notwendigkeit, dass die Nutzer*innen die Technologie besser verstehen und für die entsprechenden Risiken sensibilisiert werden müssen. Dass die Verwendung von biometrischen Daten kritisch ist, die erlauben, eine Person eindeutig zu erkennen, mag zum Beispiel für die Betroffene unklar sein. Laetitia Rameler hat für TA-SWISS die Ergebnisse einer Studie über drei Anwendungen der Erkennung Stimme, Sprache und Gesicht vorgestellt:

• die Früherkennung Krankheiten,
• die Analyse Emotionen für Werbung und Marketing oder bei Bewerbungsverfahren
• und die Authentifizierung durch die Stimme bei Banken.

Bei all diesen Anwendungen stellt sich die Frage nach dem Kompromiss zwischen den gebotenen Vorteilen und dem erforderlichen Mass an Überwachung. Es stellt sich weiter die Frage, ob die Betroffenen sich wirklich frei fühlen, den Erkennungsprozess abzulehnen, vor allem in Situationen, in denen es eine Machtasymmetrie gibt.

Die Frage der digitalen Selbstbestimmung stellt sich auch für den Einsatz von People Analytics am Arbeitsplatz. Für die Organisatorin der Konferenz, Cornelia Diethelm, ist in diesem Fall die Unternehmenskultur zentral: Was soll damit erreicht werden? Amazon und die Schweizer Post sind zwar beide im Bereich Logistik tätig, ihr Umgang mit People Analytics ist aber ganz anders. Es sollte unter anderem klar kommuniziert werden, zu welchem Zweck die Technologie eingesetzt wird und wer davon profitieren wird, aber auch auf welche Werte und Richtlinien die Einsetzung sich basieren wird, wie, zum Beispiel, den Ethik-Codex für datenbasierte Wertschöpfung der Data Innovation Alliance.

In Unternehmen ist die Einhaltung der ethischen Werten aber nicht durch ein Gremium, sondern durch alle Mitarbeiter kontrolliert, betonte Karin Lage. Es liegt deswegen in die Verantwortung der Firma, die nötige, gruppengezielte Ausbildungen anzubieten, so dass die Mitarbeiter über das nötige Verständnis der Technologie und die damit verbundenen Risiken verfügen, um den Ethik-Kodex zu verstehen und zu gewährleisten, dass er eingehalten wird.

Digitale Verantwortung Schweizer Unternehmen

Die digitale Verantwortung der Unternehmen ist auch für institutionelle Investor*innen wichtig, wie Matthias Narr, von der Stiftung Ethos, berichtete. Die Stiftung vertritt 247 Pensionskassen und gemeinnützige Stiftungen und fördert nachhaltige und verantwortungsbewussten Investitionen. Die Umsetzung eines Kodex für die digitale Verantwortung ist eine der 7 Erwartungen, die sie für die Unternehmen als Grundsätze für digitale Verantwortung stellen, zusammen mit der Transparenz der digitalen Praktiken, hochwertigem Datenschutz, ethischen Grundsätze für die Nutzung KI, dem Ausschluss sensibler Aktivitäten bei der Digitalisierung, die Gewährleistung einer gerechten sozialen Transformation und die Verringerung des ökologischen Fussabdrucks digitaler .

Eine Analyse dieser Erwartungen in 40 Unternehmen ergab, dass es trotz der eher schlechten Ergebnisse (ein Durchschnitt von 23 Punkten von insgesamt 100) einen Trend zur Verbesserung gibt (2021 lag der Wert bei 11). Die Aspekte der Nutzung KI (13.9), der Ausschuss sensibler Aktivität (11.7) und der gerechten sozialen Transformation (13.4) sind diejenige mit dem Hauptverbesserungspotential. Manche Unternehmen wie Swisscom (87), Zürich Versicherung (72) oder Sonova (68) haben aber insgesamt schon relative gute Ergebnisse und dienen als Referenzen. In der Zukunft werden die sozialen Investoren immer mehr Transparenz über die digitalen Praktiken der Unternehmen fordern, um ein gesundes Wirtschaftsumfeld zu wahren, dass die Interessen der Gesellschaft als Ganzes unterstützt.

Transparenz und Verantwortlichkeit waren die Schlüsselwörter der Konferenz: Die von der Technologie betroffenen Menschen müssen sie verstehen, damit sie fundierte Entscheidungen treffen und zur Gestaltung einer verantwortungsbewussten digitalen Zukunft beitragen können.