Beiträge

Unternehmen müssen auch Roboter vor Cyberattacken schützen

Roboter sind die Schnittstelle, durch welche IT-Systeme ganz konkret auf die reale Welt einwirken. Gefahren für Mensch und Umwelt wurden bislang durch strikte Abgrenzung minimiert. Mit zunehmender Vernetzung, neuen Technologien und Formen der Zusammenarbeit wird diese Isolation aufgebrochen. Das stellt neue Anforderungen an die Cybersicherheit.

Noch bis vor wenigen Jahren standen Roboter in der Industrie fast ausschliesslich hinter trennenden Schutzeinrichtungen im Einsatz. Die Arbeitsbereiche von Mensch und Roboter waren strikt voneinander isoliert. Diese starre Trennung wird durch neue intelligente Robotertechnik aufgehoben: Sogenannte sensitive Roboter, die in der Lage sind, ihre Umgebung wahrzunehmen und mithilfe regelungstechnischer Methoden darauf zu reagieren, sind der Schlüssel für eine Zusammenarbeit zwischen Mensch und Maschine.

Wie Mensch und Maschine zusammenarbeiten

Es gibt drei Formen der Zusammenarbeit: Wenn eine Aufgabe nur durch Mensch und Roboter gemeinsam erledigt werden kann, also jeder seine speziellen Fähigkeiten einbringen muss, spricht man von Kollaboration. Ein Beispiel wäre das Platzieren eines sehr schweren oder heissen Objekts an einem Gegenstück, das sich aufgrund hoher Fertigungstoleranzen nicht immer an der gleichen Stelle befindet. Der Roboter bringt die nötige Leistung und Robustheit mit, der Mensch nutzt seine visuellen Fähigkeiten, um den Roboter zur richtigen Position zu führen. Echte Kollaboration ist in der Industrie bis dato selten anzutreffen, denn in Arbeitsschritten, die dafür in Frage kämen, ist eine Vollautomatisierung oft einfacher und günstiger.

Bei den Formen der Zusammenarbeit, die derzeit entwickelt werden oder bereits in Fertigungsprozesse integriert sind, handelt es sich in der Regel um Kooperation oder Koexistenz von Mensch und Roboter. Bei einer Kooperation teilen sie sich zwar einen Arbeitsplatz, arbeiten aber nie zeitgleich am selben Ort und an derselben Aufgabe. Vielmehr gibt es Schnittstellen zwischen sequenziellen Arbeitsprozessen; die Schritte ergänzen sich. Von einer Koexistenz wiederum spricht man, wenn lediglich die trennende Schutzeinrichtung wegfällt, die Arbeitsprozesse von Mensch und Roboter sich aber nicht überschneiden.

Neue Technologie, neue Risiken

Die Automatisierung von Geschäftsprozessen führt zu neuen Risiken. Das Thema Robotiksicherheit steht bei vielen Unternehmen bereits auf der digitalen Agenda. Alle Beteiligten – der Verwaltungsrat, die AktionärInnen und die KundInnen – erwarten, dass Unternehmen dieser Herausforderung genügend Aufmerksamkeit schenken. Das betrifft einerseits die physische Sicherheit – im Englischen “safety” – sowie andererseits die als “security” bezeichnete informationstechnische Cybersicherheit. Dabei müssen Unternehmen berücksichtigen, dass Security und Safety oft unterschiedliche Ziele verfolgen: Steht bei Safety zum Beispiel die Sicherung des Arbeiters vor den Bewegungen eines Roboterarmes im Vordergrund, so ist Security notwendig, um das Robotersystem vor einem unerlaubten Eingriff des Menschen zu schützen.

Der Bereich Security wird im Rahmen der Prozessautomatisierung mithilfe von Robotern (RPA, siehe Kasten) vor neue Herausforderungen gestellt. Zurecht fragen sich Unternehmen, welche Cyberrisiken mit dem Einsatz von Automatisierungstechnologien verbunden sind. Mit RPA stehen Hackern nämlich neue Angriffspunkte zur Verfügung, um sensible Daten oder sensible Informationen offenzulegen, zu stehlen, zu ändern oder zu zerstören. Zudem könnten Unbefugte auf nicht autorisierte Anwendungen und Systeme zugreifen und Schwachstellen ausnutzen, um weiteren Zugriff auf die Daten des Unternehmens zu erhalten. Und schliesslich besteht die Gefahr, dass ein “Denial of Service”-Angriff die Systeme eines Unternehmens mit so vielen Informationen bombardiert, dass die Produktion zum Erliegen kommt. (Vergleiche Abbildung 1 anhand von Bots )

Abbildung 1

Was Unternehmen tun können

Angesichts dieser Risiken ist es wichtig, dass die Geschäftsleitung das Thema Cybersicherheit im Zusammenhang mit dem Einsatz von Robotern ernst nimmt. Abbildung 2 zeigt Cyberdomänen, die in der Robotiksicherheit zentral sind. So kann eine ausreichende Priorisierung der Thematik in der gesamten Unternehmung erreicht  und auf bestehenden Sicherheitsmassnahmen aufgebaut werden. Cybersicherheit muss als Bestandteil aller Betriebs- und Produktionsprozesse und somit als Längsschnittthema verstanden werden. Alle Mitarbeitenden – insbesondere diejenigen, die Teil der Betriebsprozesse sind – sollten sich der bestehenden Bedrohungen bewusst sein und ein entsprechendes Verhalten verinnerlichen.

 


Abbildung 2

Bereits die Auswahl der Hard- und Software stellt die Weichen für eine sichere Anwendung von Robotik im Unternehmen. Je weiter die Digitalisierung und Vernetzung voranschreitet, desto stärker wird bereits bei der Entwicklung von Hard- wie Software darauf geachtet, die Systeme so frei von Schwachstellen und so resistent gegen Cyberangriffe wie möglich zu konzipieren. In diesem Fall spricht man von “security by design”. Das ist gerade bei komplexen Systemen und Anwendungen zentral: Bereits während der Konzeption einer Roboteranwendung müssen potenzielle Schwachstellen des Systems durch eine strukturierte Analyse identifiziert werden.

Starkes Design, aber schwache Implementierung

Viele Schwachstellen, die bei Cyberangriffen ausgenützt werden, sind allerdings keine Designfehler, sondern entstehen während der Implementierung im Unternehmen. Ein erster Schritt zur Vermeidung von Sicherheitslücken liegt in der Analyse der Computercodes, die im Roboternetzwerk zum Einsatz kommen. Dazu stehen Unternehmen zahlreiche Werkzeuge zur Verfügung, die im Rahmen der statischen Codeanalyse automatisiert angewendet werden können.

Da viele Anwendungen zwangsweise verteilt in einem Netzwerk arbeiten, müssen die internen Kommunikationskanäle genauso gesichert werden wie eine Datenübertragung in externe Systeme. Dass Roboter und Sensoren zwar in einem komplexen Netzwerk physisch miteinander verbunden sind, aber dank maschinellem Lernen auch einen hohen Grad an Autonomie haben, macht diese Aufgabe besonders komplex: Eine Middleware-Schicht sorgt dafür, dass zum Beispiel Sensoren und Roboterarme ihre Funktionen unabhängig voneinander weiterentwickeln können. Diese Entkopplung bringt grosse Sicherheitsrisiken mit sich, da in diesem dynamischen Umfeld nicht mehr kontrolliert werden kann, wer Daten produziert beziehungsweise konsumiert. Somit kann auch eine Manipulation des Datenflusses nicht erkannt werden.

Eine solche Middleware ist das Robot Operating System (ROS); sie findet sich mittlerweile immer häufiger auch in industriellen Anwendungen und Robotikprodukten. ROS sieht allerdings derzeit keine Mechanismen für Authentifizierung, Autorisierung oder Sicherstellung der Datenintegrität vor – das müssen sich Anwender bewusst sein. Somit sind Roboter, die auf ROS basieren, inhärent anfällig für Cyberangriffe und Manipulationen. Allerdings werden derzeit Ansätze entwickelt, um ROS-Anwendungen besser vor Angreifern zu schützen. Es wird damit künftig möglich sein, für einzelne Elemente im Netzwerk Zertifikate auszustellen, die deren Authentizität beweisen und auch ihre Berechtigung zum Senden und Empfangen von Daten regeln.

Daneben müssen Unternehmen auch darauf achten, dass die Speicherung von Daten und der Zugriff auf das System mit entsprechenden Massnahmen abgesichert sind. Dazu gehören Aspekte wie Schlüssel- und Zertifikatsspeicherung sowie geeignete Workflows für die Wartung. Werden Zertifikate nicht sicher aufbewahrt, ist auch eine Sicherung der Kommunikation zwecklos. Genauso wichtig ist es, dass nicht einfach Änderungen am System vorgenommen werden dürfen, daher muss während der Wartung, die oft nicht vor Ort sondern über einen Zugriff von aussen stattfindet, auch das Personal gegenüber dem Netzwerk des Unternehmens beziehungsweise der Maschine authentifiziert werden. Erst danach darf über einen gesicherten Kanal eine Wartung vorgenommen werden. Hierbei empfiehlt es sich zudem, alle Aktionen während der Wartung unveränderbar zu protokollieren, damit sie später nachvollziehbar sind.

Widerstandsfähigkeit gegen Cyberangriffe ist das Ziel

Alle diese proaktiven Massnahmen dienen dazu, Angriffe zu erkennen und schnell darauf reagieren zu können. Es braucht aber auch organisatorische und technische Mittel, um die Folgen eines erfolgreichen Cyberangriffs zu minimieren und sicherzustellen, dass der Produktionsbetrieb schnell wieder aufgenommen werden kann. Die Sicherheit des Gesamtsystems steht somit im Mittelpunkt und muss als gemeinsames Schutzziel definiert werden. Hierfür wird auch neues Know-how für Mitarbeitende in vernetzten Produktionen nötig sein, das weit über die klassische IT-Sicherheit hinausgeht.

Es sind grosse Herausforderungen, die auf Unternehmen zukommen. Die Erkenntnis, jederzeit selbst Opfer von Cyberangriffen werden zu können, ist ein erster wichtiger Schritt. Um erfolgreich und verantwortungsvoll in der Industrie 4.0 tätig zu sein, ist es aber unerlässlich, zusammen mit kompetenten Partnern die richtigen Sicherheitstechnologien auszuwählen und zu implementieren.

Wie Unternehmen Robotersysteme nutzen

Unternehmen nutzen die Fähigkeit von Robotikplattformen, um Arbeitsabläufe zu automatisieren, zu koordinieren und kognitive Lernfunktionen auszuführen. Es herrscht oft Verwirrung darüber, was jeweils gemeint ist, wenn von Robotik die Rede ist. Im Allgemeinen werden die folgenden drei Formen der Robotik angewendet:

  • Robotic Process Automation (RPA) wird eingesetzt, um manuelle Aufgaben über verschiedene Geschäftsprozesse und Systeme hinweg bearbeiten zu können. Zu den typischen Aktivitäten gehören Dateneingabe, Datenmigration über mehrere Systeme, Datenbearbeitung, Datenabgleich und regelbasierte Entscheidungsfindung in Geschäftsprozessen.
  • Orchestration (OR) konzentriert sich auf die Koordination von Automatisierungsaktionen. Ein Anwendungsbeispiel wäre die Abstimmung zwischen verschiedenen Bewegungssensoren und einem Roboterarm, dessen Bewegungen durch die Daten dieser Sensoren begrenzt werden.
  • Kognitives Lernen (CL) geht über die regelbasierte Entscheidungsfindung hinaus und zielt darauf ab, komplexe Aufgaben ohne menschliche Interaktion zu erfüllen. Grundlage dafür sind selbstlernende Algorithmen. Ziel einer Anwendung könnte beispielsweise sein, dass Roboterarme durch Sensordaten lernen, wie gross ihr Bewegungsradius ist – bis zu dem Punkt, wo Sensoren letztlich überflüssig wären.
PDF erstellen

Ähnliche Beiträge

Es wurden leider keine ähnlichen Beiträge gefunden.

Wenn humanoide Roboter auch pflegen

Die digitale Transformation wird auffallend einseitig diskutiert. Ausführlich thematisiert werden zwar Effizienz, Kostenreduktion und Sicherheit. Völlig unterbelichtet bleibt jedoch, was das Algorithmisieren mit uns Menschen macht, ausser uns zu ersetzen. Die Berufsbilder passen spätestens dann nicht mehr, wenn menschenförmige Roboter als (verlässlichere) ArbeitskollegInnen das Feld aufmischen – eine kritische Betrachtung unseres Autors.

Erfreulicherweise entscheiden sich viele junge Menschen für Ausbildungen im Gesundheitssektor. Allerdings wird der Bedarf trotz grossen Anstrengungen weit über dem Fachkräftepotenzial liegen: zum einen steigen viel zu viele aus (32% der Ärzte und 46% der Pflegenden; 1) , zum anderen sinkt die Zahl der SchulabgängerInnen. Fehlende Professionals und steigende Kosten zwingen zu Effizienzsteigerungen, ja zur Industrialisierung der Versorgung. Konsequenz: Wer heute in einen Gesundheitsbereich einsteigt, wird humanoide und humanoforme Roboter als Arbeitskollegen haben.

Entsprechend sind disruptive Verschiebungen zu erwarten: Wenn in der industrialisierten Routineversorgung das Lean Management umgesetzt und die gestrafften Prozesse nur noch hochspezialisiertes Knowhow für bestimmte Funktionen benötigen, braucht es dann noch mehrjährige Berufsausbildungen und Professionen mit abgegrenzten Berufsbildern?

Diese weitreichende Grundsatzfrage wird in der Bildung der Gesundheitsberufe nicht gestellt. Eigentlich eine geradezu unethische Unterlassung – hängt davon doch die Perspektive und die Lebensgestaltung von Zehntausenden junger Menschen ab, die eindringlich motiviert werden, möglichst 30 oder 40 Jahre dem Gesundheitswesen zu dienen. Wird die lebenslange Weiterbildung deren Neuausrichtung und Einpassung in die industrialisierten Prozesse richten können? Oder bleiben dann nur noch die Fittesten im völlig umgekrempelten Arbeitsmarkt? Diejenigen, die sich in die verbleibenden Nischen einfügen können, wenn alles automatisiert sein wird, was automatisiert werden kann?

Mehr Zuwendung oder futuristische Sozialromantik?

Im Quervergleich fällt auf, dass im Gesundheitssektor eine konservierende Lernwelt dominiert. Tief verankert ist die Vorstellung, dass die Versorgung von (kranken) Menschen nicht substituierbar ist, weil dies Empathie, Beziehungsarbeit, Dialog und Reflexion erfordert. Ausbildungen investieren viel in die Identitätsbildung. Diese umfasst die sukzessive Anpassung an Normen, berufsrelevante Vorstellungen und Wertorientierungen, aber auch die Formung der Persönlichkeit sowie den Kern und Umfang des Handelns. Durch den Bezug auf Rollenmodelle und Traditionen werden oft idealtypische Bilder transportiert, die – überspitzt gesagt – rückwärtsgerichtete Identitäten beschwören, professionsbezogene Territorien verfestigen, einen aufgeklärten Paternalismus stützen, der Selbstüberschätzung Vorschub leisten und den Glauben bestärken, dass PatientInnen immer abhängig sein werden.

Wenn die Prozesse effizienter geworden sind und uns Algorithmen und Roboter unterstützen, ja 80% der Ärzte ersetzbar geworden sind, werden die Prozessführer genau hinschauen, wofür die Zeit und die Menschen dann noch eingesetzt werden.

Auffallend an der Debatte über die digitale Transformation im Gesundheitswesen ist, dass die Risiken (2) deutlich seltener thematisiert werden als die Opportunitäten. KI (KI) und damit arbeitende Instrumente werden meist als ökonomische Notwendigkeit oder als technologische Chance dargestellt. Einerseits wird ins Feld geführt, dass neue Anwendungen, neue Geräte, neue IT-Applikationen, neue Algorithmen etc. die Produktions- und Personalkosten senken, Daten wirkungsvoller verknüpfen sowie Sicherheit und Nutzen verbessern. Anderseits wird als Chance verkündet, dass Health-Professionals dann wieder mehr Zeit haben werden für die Kranken. (3)

Während bei der Effizienzsteigerung die Erwartungen erfüllt werden, ist es wohl naiv zu glauben, dass sich in den gestrafften Prozessen wieder Komfortzonen und eine neue Gemütlichkeit etablieren können. Structure follows strategy gilt auch hier. Wenn die Prozesse effizienter geworden sind und uns Algorithmen und Roboter unterstützen, ja 80% der Ärzte ersetzbar geworden sind, werden die Prozessführer genau hinschauen, wofür die Zeit und die Menschen dann noch eingesetzt werden. Maschinen übernehmen alles Repetitive; Zeit für Zuwendung kann hinzugekauft werden.

Formatiert für die Welt von gestern, oder ready for tomorrow?

Das mag erschreckend kulturpessimistisch klingen. Erschreckend ist allerdings auch, dass wir uns nicht fragen, wie es denn uns selber dabei gehen könnte. In freudiger Erwartung der Zukunft wird nicht erkannt, vergessen oder verdrängt, dass die Algorithmen und Automatismen auch unser Verhältnis untereinander als Menschen und Professionals grundlegend verändern werden.

Der Autor mit dem humanoiden Roboter Sophia.

Meine Begegnung mit der fast-menschlichen SOPHIA (5, 6) war irritierend – auch wenn sie in Talkshows brilliert (7), gibt es bei diesem Wesen noch deutlichen Verbesserungsbedarf. Etwa beim Wahrnehmen des Gegenübers, beim Verstehen, bei der Interaktion. Es fehlt ihr schlicht an Soft Skills, um eine halbwegs ansprechende Konversation zu führen (siehe Video). Sie mag gesprächig sein, aber aktuell ist es ein Sozialexperiment. Es ist noch kein Gegenüber, das in der Lage ist, dank KI das aktuellste Wissen zu mobilisieren, zu vernetzen, zu vermitteln und zum Wohle von Patienten einzusetzen. Mit ihr kann man noch nicht kooperieren, um argumentativ Lösungswege zu erörtern, um Fehler zu vermeiden, um den Nutzen und die Qualität zu verbessern oder um zu guten Entscheidungen zu gelangen. Die EntwicklerInnen sagen denn auch, das sei erst KI im Kindheitsstadium.

https://www.youtube.com/watch?v=THU-Mg6H994

Trotzdem: wenn dereinst Algorithmen die Entscheide fällen und uns humanoide Roboter und menschenförmige Maschinenwesen umgeben (oder sich um uns kümmern), werden dies Nachfahren von Sophia oder anderen ähnlichen Geschöpfen (9, 10) sein. Dass es dann nicht immer der Mensch ist, der die Maschine steuert, liegt auf der Hand. Wahrscheinlicher ist ein Zusammenwirken von Menschen, Maschinen und KI, welches neue Regeln für unser Handeln und auch unsere Handlungsspielräume einführt.

Bis dahin bleibt noch Zeit, weil die digitale Transformation nicht schlagartig eintritt, sondern ein schleichender Prozess ist. Im Interesse einer nachhaltigen Personalsicherung und Vermeidung eines Praxisschocks muss die Bildung vom Silodenken und einer Formatierung wegkommen, welche auf unmittelbare Einsatzfähigkeit abzielt. Es gilt, den Blick zu erweitern, um zukunftsfähig zu werden: Statt nur technisches Knowhow und instrumentelle Skills zu vermitteln, müssen die Effekte der Digitalisierung und der KI auf unsere Identität, die zwischenmenschliche Interaktion und das professionelle Handeln in der Ausbildung thematisiert werden. Interprofessionalität, die aktuell forciert wird, umfasst auch den Einbezug dieser Wesen und Supportsysteme.

Auf der strategischen Ebene müssen Zweck und Ziele mehrjähriger professionsbezogener Formung, exklusiven Wissens und ausgrenzender Identitätsbildung radikal hinterfragt werden. Es ist höchst unwahrscheinlich, dass Menschen, die grundlegend andere Vorstellungen von der Praxis haben, in Intensivseminaren mit der Virtual-Reality-Brille in die digitalisierte Arbeitswelt hineingeführt werden können und diese bedenkenlos akzeptieren.

 


Referenzen

  1. https://www.obsan.admin.ch//sites/default/files/publications/2016/obsan_71_bericht.pdf
  2. NZZ Zukunftsdebatte vom 17. Oktober 2018, bei der eine der Leitfragen die Möglichkeiten adressierte, wie und ob wir in der Lage sein werden, fortgeschrittene System der künstlichen Intelligenz im Zaum zu halten
  3. Beitrag in Ausgabe 4/2018 des Fachmagazins Arzt-Spital-Pflege, S. 22ff
  4. https://medicalfuturist.com
  5. https://www.cnbc.com/2018/06/05/hanson-robotics-sophia-the-robot-pr-stunt-artificial-intelligence.html 
  6. https://www.youtube.com/watch?v=AEpiOrFoNtI
  7. Sequenz: Schauspieler Will Smith hat ein Date mit einem Humanoiden
  8. https://futurism.com/images/top-10-humanoid-robots/
  9. https://www.youtube.com/watch?v=clg_9fpEI8c
PDF erstellen

Ähnliche Beiträge

Es wurden leider keine ähnlichen Beiträge gefunden.