Rational gesehen liegen die Vorteile des elektronischen Patientendossiers auf der Hand. Sie werden immer wieder wiederholt. Doch es gibt auch ein Unbehagen mit den längerfristigen Nebenwirkungen, die derartige System haben können. Unser Autor widmet sich diesem Aspekt, der seiner Ansicht nach in der aktuellen Debatte zu kurz kommt.

Im akademischen Umfeld mangelt es nicht an Befürwortern und gar Euphorikern in Sachen E-Health. Hier wird die Zukunft gedacht, entwickelt und an Einzelfällen überprüft, bevor sie sich in die Breite entwickelt. E-Health gut zu finden gehört daher quasi zu den sozialen Pflichten. Ein paar spezifische Einwände sind okay, aber fundamentalere Vorbehalte passen nicht. Bemerkenswert ist nun, dass ein Kollege meine kritische Haltung wahrgenommen und nicht etwa verurteilt hat, sondern sich dafür interessierte. Was ist es genau, das Dich stört? – Ich konnte zunächst nicht mehr sagen, als dass ich ein schlechtes Gefühl hatte. Ich merkte schmerzlich, dass ich keine guten Gründe vorbringen konnte. Diese Peinlichkeit war mir Anstoss, meine Gedanken zu ordnen und die dunkle Seite des Mondes damit etwas zu beleuchten.

Eine gute Horrorstory fängt mit einem sympathischen Gesicht an und mit der gutgemeinten Hilfe eines Zauberlehrlings. Ab da führt sie mit einer Kaskade von einzeln betrachtet recht unauffälligen Konsequenzen zur Katastrophe und endet dort, wo ersichtlich wird, dass die Sache noch um Dimensionen schlimmer ist, als zunächst angenommen.

Das freundliche Gesicht in unserem Fall sind die «Use-Cases». Der Notfallarzt weiss auf der Unfallstelle, dass der vor ihm liegende Mensch blutverdünnende Medikamente einnimmt und kann nur so die Leben rettende Intervention durchführen. Da kann keiner etwas dagegen haben. Wir wären dumm, wenn wir uns diese Vorteile nicht verschaffen würden, denn sie sind in Griffnähe.

Manipulation und Machtlosigkeit werden aber erst wirklich schlimm in Kombination mit Abhängigkeit.

Damit solches möglich wird, muss auf Daten zurückgegriffen werden, die beim Staat bei staatlichen Institutionen oder privaten Unternehmen vorhanden sind. Diese Organisationen mögen alle grundsätzlich vertrauenswürdig sein und mit guter Absicht handeln. Was sich nicht verhindern lässt ist, dass sich damit langsam die Machtverhältnisse verschieben. Dem ist auch dann so, wenn die Hoheit über alle personalisierten Daten beim Individuum bleibt, wie dies von Datenschützern gefordert wird: Wer viele Daten nutzen kann, lernt daraus auch, wie er manipulieren muss, damit egoistisch wünschbare Resultate unter scheinbarer Freiwilligkeit entstehen. Dieses Wissen ist Macht. Genutzt wird es, indem vorgeschlagene Medikamente in Listen zuoberst erscheinen oder zuunterst, indem Markennamen genannt werden oder nicht, Links zur online Bestellung angeboten werden oder nicht. Die Forschung zu solchen Manipulationen ist erheblich, sie ist aber bescheiden im Vergleich den praktischen Anwendungen, mit denen heute schon für riesige Gewinne gesorgt wird. Dagegen ist das Individuum machtlos.

Manipulation und Machtlosigkeit werden aber erst wirklich schlimm in Kombination mit Abhängigkeit. Digitale Startups funktionieren zunächst immer so, dass sie möglichst viel Nutzen für die Kunden hervorbringen. Die neue Dienstleistung wird rasch zur neuen Selbstverständlichkeit. Je mehr Nutzen sie stiftet, desto mehr schafft sie auch Abhängigkeit. Und diese Abhängigkeit wird irgendwann ausgenutzt. Je erfolgreicher das System, desto grösser der Anreiz dazu.

Wir müssen zum Beispiel darüber nachdenken, wie sich die Ermächtigung des Patienten programmieren lässt oder wie ein Algorithmus zur «systemimmanenten Manipulationsbegrenzung» aussehen könnte.

Wer meint, diese Prinzipien liessen sich einfach ausser Kraft setzen, weil es doch um ein so wichtiges Gut wie unsere Gesundheit geht, möge sich vor Augen halten, dass es milde gesagt sehr schwierig ist, komplexe Systeme dazu zu bringen, dass sie im Interesse der Gesellschaft wirken. Zum Beispiel die Internet-Giganten wie Google und Facebook haben eine enorme Reichweite und erzeugen schädliche Informationsblasen, obwohl es um ein so hohes Gut wie Informationsfreiheit und Demokratie geht. Da kann kaum jemand wirksam eingreifen. Und unser Gesundheitssystem wird heute schon von unmoralischen Prinzipen gesteuert: Es gibt leitende Ärzte, die einen Leistungslohn in Abhängigkeit der Anzahl durchgeführter Eingriffe haben. Niemand möchte sich von einem Arzt mit Anreizvertrag beraten lassen, ob seine Operation wirklich nötig sei. Aber nirgends wird ein Spitalchef oder ein Verwaltungsrat für das Gestalten solcher Konstrukte zur Rechenschaft gezogen. Es bräuchte ein klares, transparentes Verständnis, dass das unmoralisch ist und es müsste meines Erachtens verboten sein. Das egoistische Lernen von Systemen ist aber mit oder ohne gesetzgeberischer Intervention eine logische Konsequenz der Datenverfügbarkeit. Es ist nicht aufzuhalten. Im Gegenteil wird die künstliche Intelligenz diesen Prozess noch beschleunigen und professionalisieren. Es ist also nicht der Punkt, dass man im E-Health hinterhältiges Verhalten von irgendeiner konkreten Person oder einer Institution befürchtet. Der Punkt ist, dass die tendenzielle Nebenwirkung von vermehrtem Technologieeinsatz ist, dass wir manipulierbarer werden, machtloser und abhängiger.

Während auf der hellen Seite des Mondes mit digitaler Medizin Leistungen effizienter werden, spielt sich auf der dunklen Seite folgendes ab: Es erhöht sich der Anreiz zum Missbrauch des Gesundheitssystems, dem wir alle ausgeliefert sind. Wir können dem Horror nur entkommen, wenn wir weiterdenken als nur, wie wir mit Technologie im Gesundheitswesen Nutzen stiften. Wir müssen zum Beispiel darüber nachdenken, wie sich die Ermächtigung des Patienten programmieren lässt oder wie ein Algorithmus zur «systemimmanenten Manipulationsbegrenzung» aussehen könnte. Vielleicht ist es an der Zeit, ein starkes Team zur dunklen Seite des Mondes zu senden.

Referenzen

• Ackerlof, George & Shiller, Robert (2009): Animal Spirits, How Human Psychology Drives the Economy, and Why it Matters for
• Global Capitalism, Princeton University Press, Princeton.
• Dan Ariely (2013): The Honest Truth About Dishonesty: How We Lie to Everyone – Especially Ourselves, Harper Collins, London.
• Hunziker, Alexander W. (2001): Spass am ökonomischen Denken, Die wichtigsten Konzete einfach erklärt, SKV Verlag, Zürich.
• Pariser, Eli (2012): Filter Bubble, Wie wir im Internet entmündigt werden, Hanser, München.
• Schöchli, Hansueli (2018): Verdienen Chefärzte tatsächlich eine Million Franken pro Jahr?, in: NZZ, 21. Februar, online:
• Thaler, Richard & Sunstein, Cass (2009): Nudge, Improving Decisions About Health, Wealth and Happiness, Penguin, London.
• Kahneman, Daniel (2012): Thinking fast and slow, Penguin, London.

Inspirationsquellen

• Dürrenmatt, Friedrich (1962): Die Physiker, Eine Komödie in zwei Akten, Diogenes, (Neufassung 1980).
• Orwell, George (1949): 1984, Ullstein Verlag, Berlin (39. Auflage 1994).
• Polanski, Roman (1967): Tanz der Vampire. Kinofilm/Horror-Komödie.