Ist Digitalisierung für jede*n zugänglich, können wir neuen Technologien vertrauen und wer übernimmt letztlich Verantwortung für das Handeln dieser? Mit diesen spannenden Fragen beschäftigt sich Janina Loh, Technikphilosophin an der Universität Wien. Im Interview spricht sie über den Impact digitaler Technologien auf unseren Alltag und möchte gern geduzt werden.

In verschiedenen Branchen hört man momentan, dass die COVID-19 Pandemie einen regelrechten Digitalisierungsschub ausgelöst hat. Wie siehst du das?

Digitalisierung wird immer als das globale und allgemein verfügbares «Ding» betrachtet. Dabei wird häufig übersehen, dass die Digitalisierung auch drastische Mechanismen mit sich bringt, die bestimmte gesellschaftliche Gruppen ausschliesst. Es ist längst nicht so, dass alle Menschen gleichermassen auf Digitalisierungsprozesse oder -methoden zugreifen können. Nehmen wir beispielsweise die Schulen, wo Digitalisierung zurzeit eine grosse Rolle spielt. Häufig wird dort übersehen, dass viele Familien weder über eine Internetverbindung noch über einen Laptop oder Rechner verfügen. Wenn man dann davon redet, dass die Digitalisierung die weltumspannende Technologie ist, halte ich das für eine grosse Arroganz.

Als Philosophin gehört es für dich dazu, sich auch mit den Schattenseiten von neuen Technologien auseinanderzusetzen. Man hat manchmal aber den Eindruck, dass die Philosophie der Technik hinterher hinkt und wichtige Fragen erst gestellt werden, wenn Technologien oder Produkte in Entwicklung oder  bereits im Gebrauch sind.

Die Frage, ob die Philosophie der Technik hinterherrennt oder die Technik der Philosophie ist falsch gestellt. Weil sich letztlich alles gleichermassen nebeneinander entwickelt und durcheinander wirkt. Wir arbeiten gemeinsam an einem gesellschaftlichen Zusammensein. Philosoph*innen auf ihre Weise und Techniker*innen auf ihre. Als Philosophin geht es mir darum, dass die Frage nach dem technologisch Machbaren, der Frage nach dem moralisch Wünschenswerten nachgeordnet ist. Viele empirische Wissenschaften würden sagen, dass die Frage nach der Realisierbarkeit zuerst zu stellen ist: Können wir beispielsweise ein autonomes Fahrzeug entwickeln? Philosophisch betrachtet geht es aber zunächst darum zu klären, ob wir überhaupt autonome Fahrzeuge wollen – unabhängig davon, ob eine Technologie entwickelt werden kann oder nicht. Unternehmen, die diese Systeme entwickeln, haben diese Fragen des Wollen und des Wünschenswerten schon beantwortet.

Philosophisch betrachtet geht es zunächst darum zu klären, ob wir überhaupt autonome Fahrzeuge wollen – unabhängig davon, ob eine Technologie entwickelt werden kann oder nicht.

 

Und wie können wir lernen, diese komplexen Fragen zu stellen?

Als Philosophin sehe ich es als Aufgabe, eine Sprache für diese Themen zu finden, damit Menschen mit unterschiedlichen Hintergründen diese verstehen und eine ethische Handhabung finden können. Für mich beginnt dies damit, nicht nur im Elfenbeinturm zu sitzen, sondern mich an Kongressen und öffentlichen Diskussionen zu beteiligen. Weiter sehe ich auch Schulen in der Pflicht, Kurse in Mediensouveränität anzubieten und Bildungsinstitutionen, die beispielsweise Ingenieur*innen ausbilden, Ethikkurse in ihr Curriculum aufzunehmen. Drittens, müssen auch Unternehmen, welche die Technologien entwickeln und auf den Markt bringen, verpflichtende ethische Weiterbildungskurse anbieten. Viertens, brauchen wir politische Institutionen und Einrichtungen. Wir brauchen Räte und Gremien, die sich mit konkreten Technologien befassen und den Risiken und Chancen, die damit einhergehen. Auf der kollektiven Ebene haben wir also Schule, Ausbildung, Unternehmen und Institutionen.

Was wäre auf individueller Ebene notwendig?

Unter anderem, dass wir in der Erziehung mit unseren Kindern einen Dialog darüber führen, was es bedeutet, online unterwegs zu sein und dort persönliche Informationen zu teilen. Man trägt letztlich auch eine individuelle Verantwortung, sich mit alltäglichen Technologien auseinanderzusetzen.

Welche Verantwortung trägt die Technologie selbst, also das Auto, das autonom fährt?

Das Problem bei der Frage nach der Verantwortung ist, dass die Industrie häufig die Tendenz hat, sich aus der Affäre zu ziehen. Wenn das Auto etwas tut, was von den Techniker*innen nicht vorgesehen war oder worüber sie keine Kontrolle hatten, weist die Industrie die Verantwortung von sich weg. Ich argumentiere dann gerne mit einem Gegenbeispiel.

Man muss beispielsweise beim Autonomen Fahren genauer hinschauen und fragen, wer hatte wieviel Macht, Einfluss oder Wissen?

 

Welches wäre?

Die Erziehung von Kindern. Auch diese können wir nicht abschliessend kontrollieren. Wir können uns lediglich bemühen, dass sie sich so verhalten, wie wir das von ihnen erwarten. Als Eltern haben wir die Verantwortung, auch wenn sich das Kind nicht gemäss unseren Vorstellungen verhält. Das heisst, solange Kinder nicht zu erwachsenen, autonomen Personen herangereift sind, liegt die Verantwortung bei den Erziehungsberechtigen. Wenn wir also schon beim komplexesten Wesen, das wir kennen, dem Menschen, Verantwortung übernehmen, dann doch bestimmt auch bei viel weniger komplexen Dingen wie autonomen Autos? Letztlich sind wir die Kreateur*innen sowohl unserer Kinder als auch unserer Technologien. Deswegen tragen wir für beide Verantwortung. Aber eben nicht die alleinige Verantwortung.

Kannst du das etwas genauer ausführen?

Es ist, pointiert ausgedrückt, nicht nur die Programmiererin, welche den Algorithmus fürs autonome Fahren schreibt, die die alleinige Verantwortung trägt, sondern auch das Unternehmen und letztlich auch die Jurist*innen, die ein Rechtssystem entwickelt haben, in welchem autonome Autos in einer bestimmten Weise zum Einsatz kommen können. Verantwortung funktioniert verzweigt und liegt hier auf vielen verschiedenen Schultern. Allerdings haben wir auch schon vor autonomen Autos Mittel und Wege gefunden, in sehr komplexen, undurchsichtigen Kontexten Verantwortliche auszumachen. Zu behaupten, mit dem autonomen Fahren sei dies nicht mehr möglich, halte ich für voreilig. Man muss in diesem Beispiel genauer hinschauen und fragen, wer hatte wieviel Macht, Einfluss oder Wissen? Am Ende des Tages muss es möglich sein, die Verantwortung der einzelnen Beteiligten und der Kollektive auszumachen.

Wie siehst du dies in Bezug auf den öffentlichen Sektor – trägt er mehr Verantwortung als beispielsweise Unternehmen?

Ich glaube, es geht hier um eine andere Form von Verantwortlichkeit. Es gibt den Ausspruch aus den Spiderman-Comics: «Mit mehr Macht kommt mehr Verantwortung». Verantwortung ist ein graduelles Phänomen und nicht ein Ganz-oder-gar-nicht. Es gibt bestimmte Bedingungen, um jemandem Verantwortung zuschreiben zu können. Erstens, Handlungsfähigkeit, also ein Mensch oder eine Institution muss in der Lage sein, zu handeln. Damit geht auch Autonomie einher und das Wissen um bestimmte Folgen. Zweitens muss Kommunikationsfähigkeit vorliegen und zum Dritten braucht man Urteilskraft. Man muss eine Situation einschätzen, beurteilen und reflektieren können. Das sind wesentliche Voraussetzungen, wenn wir Menschen in unserer Gesellschaft als strafrechtliche Personen einschätzen, denen wir zuschreiben, dass sie in der Lage sind, Verantwortung zu tragen und das für alles was sie tun. Das heisst auch, dass wir, sei das der öffentliche Sektor, ein Unternehmen oder wir als Bürger*innen, für die Technologien, mit denen wir im Alltag im Umgang sind, Verantwortung tragen. Das führt natürlich zu Verstrickungen, die im Alltag schwierig auseinander zu halten sind. Wir haben unendlich viele Verantwortlichkeiten als Individuen und Kollektive, die sich teilweise auch noch widersprechen können.

Kann die Philosophie Definitionen oder Handreichungen anbieten, wie wir mit Technologien umgehen sollen? Seien dies Daten, AI’s oder autonome Fahrzeuge.

Es gibt unterschiedliche Ansätze. Die kurze und unbefriedigende Antwort: Es gibt keinen einzelnen, korrekten ethischen Weg, den wir einschlagen können. Es gibt unterschiedliche ethische Schulen, wie die utilitaristische Ethik, die Tugendethik etc., die jeweils unterschiedliche Umgangsweisen vorschlagen würden. Als Philosophin weise ich dann jeweils auf vier Fragenblöcke hin, die jeder und jede für sich anwenden kann, sei es in Bezug auf Daten oder andere Technologien.

Welche Aspekte beinhalten diese Fragenblöcke?

Nehmen wir erstens das Beispiel der Daten. Zunächst stellt sich die Frage nach Herstellung und Design: Woher kommen die Daten? Wer stellt sie mir zur Verfügung? Unter welchen Bedingungen sind sie entstanden? Welche Menschen wurden in welcher Art und Weise in die Akquirierung dieser Daten mit eingebunden? Was sind das für Unternehmen? Der zweite Fragenblock ist die Frage nach Autonomie und Aufgabenbereich: Wofür sind diese Daten da? Was sollen sie tun? Welche Aufgabe haben sie? Und wie selbständig können diese Daten in ihrem jeweiligen Aufgabebereich walten? Der dritte Fragenkomplex bezieht sich auf Kontext und Einsatzbereich: Wo kommen diese Daten zum Einsatz? Wer profitiert bzw. könnte eventuell Schaden dadurch nehmen? Der vierte Fragekomplex dreht sich um das Thema Sicherheit: Wie können wir gewährleisten, dass Dritte keinen Zugriff auf Daten haben? Wie kann Missbrauch vorgebeugt werden? Letztlich geht es bei der Beantwortung der vier Fragenblöcke darum, zu schauen, dass wir diese so beantworten können, dass sie unserem ethischen Bewusstsein entsprechen. Diese Fragenblöcke kann man daher als eine Art Werkzeugkasten betrachten, um sich mit Technologien auseinanderzusetzen.

Das Vertrauen in Sachen Online-Shopping ist ziemlich gering. Hingegen ist die Gewohnheit, online zu bestellen, so gross, dass die Frage nach dem Vertrauen keine unmittelbare Rolle spielt.

 

Auch das Thema Vertrauen spielt doch eine wichtige Rolle, wenn es darum geht, ob bestimmte Technologien oder Produkte genutzt werden. Wie kommt es, dass wir online unsere persönlichen Daten bereitwillig zur Verfügung stellen, während wir teilweise der öffentlichen Hand in Sachen Digitalisierung mit viel Misstrauen gegenübertreten?

Das hat für mich weniger mit Vertrauen in den Staat zu tun als mit Gewohnheit. Bei einem Dienst, der überall und immer zur Verfügung steht, ist es schlicht Bequemlichkeit diesen Dienst zu nutzen. Es geht um die pure Verfügbarkeit und Allgegenwärtigkeit der Technologie. Das sind zwei Aspekte, die häufig gemeinsam auftreten aber nicht unbedingt voneinander abhängig sind.

Kannst du dies an einem Beispiel aufzeigen?

Nehmen wir Online-Shopping. Zunächst einmal die Frage: Wem vertraue ich da? Ich vertraue dem Online-Händler nicht per se, aber ich vertraue darauf, dass das Unternehmen mir die Produkte schickt, die ich dort bestelle. Aber das ist nicht wirklich Vertrauen, das hat mit Erwartung zu tun. Vertraue ich darauf, dass der Online-Händler sein Wissen und seine Dienste mit Blick auf gesellschaftliche Aspekte einsetzt und interpretiert? Nein, ganz sicher nicht. Wem könnte ich dann vertrauen? Dem Staat, dass er das Unternehmen in einer rechtlichen gewissen Weise einhegt? Sicherlich, aber das erwarte ich einfach, davon gehe ich aus. Vertraue ich darauf, dass der Staat das Unternehmen ethisch verpflichtet, sich an bestimme Regelungen zu halten? Nein, dem vertraue ich auch nicht, da der Staat schliesslich auch einen gewissen Nutzen daraus zieht, dass Bürger*innen in seinem Einzugsgebiet von diesem Online-Händler bestellen. Das heisst, das Vertrauen in Sachen Online-Shopping ist ziemlich gering. Hingegen die Gewohnheit, online zu bestellen, ist so gross, dass die Frage nach dem Vertrauen keine unmittelbare Rolle spielt. Wir müssten uns bewusst aus der Gewohnheit herausreissen. Das Beispiel zeigt, es geht im Umgang mit allgegenwärtigen Technologien selten um die Frage, ob wir den dahinterstehenden Institutionen, sei dies die Industrie oder der öffentliche Sektor, vertrauen, im Gegenteil: Ganz häufig vertrauen wir ihnen nicht und nutzen diese Technologien dennoch.

Zur Person

Janina Loh ist Technikphilosophin an der Universität Wien und arbeitet dort als PostDoc. Loh forscht zu Fragen der Roboterethik, der Verantwortungszuschreibung in der Mensch-Maschine-Interaktion und zum Umgang mit neuen und digitalen Technologien. Weitere Themenschwerpunkte von Loh sind Fragen der Urteilskraft im öffentlichen Raum, der Trans- und Posthumanismus sowie feministische Zugänge der Technikphilosophie. Sie wird an der Transform 2020 referieren.

Transform 2020

Die TRANSFORM 2020 findet am 13. November im Rathaus Bern statt und widmet sich der transformativen Kraft guter Daten im öffentlichen Sektor. Unter dem Titel «In good Data we trust» werden spannende internationale Expert*innen erwartet. Die Konferenz wird organisiert vom Institut Public Sector Transformation, dem Institut Digital Enabling und dem BFH-Zentrum Digital Society. Alle Informationen zur Konferenz, das Programm und das Anmeldeformular finden Sie hier.