Rüdiger von Eisenhart-Rothe

Nach den mentalen Revolutionen, angestoßen durch Kopernikus, Charles Darwin und Sigmund Freud hat die vierte Revolution, die digitale Revolution, begonnen. Sie schreitet unaufhaltsam fort und durchdringt jetzt schon alle unsere Lebensbereiche. Sie verändert nicht nur das Privat- oder Wirtschaftsleben, sondern betrifft v.a. auch den Gesundheitssektor. Trotz erheblicher Fortschritte stehen wir als Orthopäden und Unfallchirurgen, ebenso wie die meisten anderen medizinischen Disziplinen, erst am Anfang. Entsprechend einer Studie von Roland Berger (Future of Health) soll jedoch bereits in der nahen Zukunft 20 % der ärztlichen Leistung durch künstliche Intelligenz (KI) und Robotik ersetzt werden. Satya Nadella, CEO von Microsoft, sieht die Medizin sogar als dringlichsten Anwendungsbereich von KI.

Wenn nun diese digitalen Technologien wie Robotik, Big Data oder KI auf O und U treffen, entstehen zwangsläufig eine Reihe von neuen Herausforderungen und Fragestellungen. Diese lassen sich nicht immer allein mit medizinisch-technologischen, rechtlichen oder ökonomischen Argumenten beantworten, sondern bedürfen insbesondere auch einer ethischen Bewertung.

Dies können nun konkrete Einzelfragen sein, beispielsweise die Übernahme von Verantwortungen bei der Entwicklung und auch Einsatz von OP- und Pflegerobotersystemen. Maschinen sind nach heutiger Rechtsprechung keine Rechtspersönlichkeiten und können keine Verantwortung übernehmen, wohl aber basierend auf Algorithmen teilweise autonom entscheiden bzw. handeln. Ist der Entwickler oder Anwender nun für eine Fehlhandlung des Roboters verantwortlich? Kann und soll ein Pflege- oder Operationsroboter eine Pflegekraft oder einen Operateur komplett ersetzen? Während im Operationssaal noch die Schnittstelle Operateur und Maschine (z.B. semi-aktive Systeme wie der MAKO-Roboter oder mixed reality viewer der Firma Brainlab) im Vordergrund steht, ist der helfende Pflegeroboter schon Realität. In Anbetracht des Pflegemangels können Pflegeroboter eine gute Lösung sein und auch der Bereich der Geriatronik wird immer wichtiger, um die Mobilität möglichst lange zu erhalten und dadurch auch zwischenmenschliche Interaktion und Kommunikation im Alter zu erleichtern. Ist ein Pflegeroboter nun ein wichtiger Beitrag zur Erweiterung der Freiheit, indem er die selbständige Lebensweise unterstützt? ktuell können sich nur 20 % der Bevölkerung vorstellen, dass ein Roboter beispielsweise die Körperpflege übernimmt.

Vielleicht noch dringlicher sind Fragen zum Thema Big Data. So wird das Sammeln von medizinischen Daten insbesondere im Bereich Prävention und Mobilität (Stichwort wearables) nicht ohne große Firmen wie Google oder Amazon umzusetzen sein. Wie soll mit diesen neuen Playern im Gesundheitssystem umgegangen werden? Ist das Sammeln von Gesundheitsdaten zur gewinnorientierten Nutzung unethisch und unsittlich? Aber was, wenn dadurch (schneller) neue Medikamente entwickelt werden können? Wem gehören die medizinischen Daten oder müssen diese einem übergeordneten Interesse dienen (Projekte wie „Patients like me“ oder „Personal genome Project“)? Wie viel persönliche Daten wollen wir teilen, wieviel Transparenz wollen wir? Und was sind wir dafür bereit aufzugeben?

Wer analysiert und interpretiert die Daten und entwickelt daraus einen Behandlungsalgorithmus? Machine learning basiert auf bisher Gelerntem. Was passiert, wenn der Algorithmus das Problem nicht kennt, weil es noch nie vorgekommen ist, wie zum Beispiel die Covid-Pandemie oder ein sog. Reality gap, also eine Diskrepanz zwischen Simulation und Realität, zu einer Fehlentscheidung führt? Und wenn das IBM Watson Oncology-System Festlegungen in Behandlungspfaden des Osteosarkoms auf Grundlage veralteter, nicht-repräsentativer Datensätze falsch treffen würde: wer wäre für die Aktualisierung/Validierung der Daten oder den entstandenen (Personen-)schaden verantwortlich?

Selbst wenn keine Komplikationen auftreten, Künstliche Intelligenz basiert auf Regeln, die von Entwicklern vorgegeben werden. Sogenannte „decision support systems“ schlagen, basierend auf den vorgegebenen Kriterien und den vorhandenen Daten wie Outcome oder Kosten, eine entsprechende Therapie bzw. ein entsprechendes Vorgehen vor. Inwieweit dann ökonomische Kriterien einen Einfluss auf die Entscheidung haben, bleibt für den Anwender unklar. Noch weitreichender sind die Folgen in der Akutversorgung von Schwerstverletzten oder Triagierung, wenn Algorithmen selber ethikfähig entwickelt werden (Wer definiert was ethikfähig ist?). Wie wird dann bei Ressourcenknappheit ein Algorithmus entscheiden, wen es sich lohnt zu retten? Wieviel ist ein Menschenleben wert, sind alle Menschen gleich viel wert und wer trägt dann die Verantwortung für diese Entscheidung: der Entwickler oder der Anwender?

Was passiert, wenn Arzt und Algorithmus unterschiedlich entscheiden? Vielleicht erkennen wir auch nicht den Moment der technologischen Singularität, wenn selbstlernende Systeme besser entscheiden als Menschen und somit der Einfluss von Big Data und künstlicher Intelligenz auf das medizinische Wissen und die Therapieentscheidung wichtiger ist als die Empirie von Ärzten und Wissenschaftlern.

All diese Überlegungen zeigen, wie wichtig es ist, einen ethischen Rahmen gerade für diese neuen Technologien zu schaffen. Was sind unsere Ziele bei der Digitalisierung in O und U? Die Digitalisierung selber hat keine eigenen Ziele und Ethik. In der Medizin muss es immer um die Menschen, ihre Heilung und ihr Wohlbefinden gehen. Ökonomische und technologische Vorteile dürfen hier keine Priorität haben, sondern nur dem übergeordneten Ziel dienen. Und es geht in der Zukunft darum, das richtige Maß für den Einsatz von KI, Robotik, Big Data und das menschliche Einfühlungsvermögen des Arztes und aller Mitarbeiter im Gesundheitssystem und in der Pflege zu finden. Daher haben wir auch die Verpflichtung und die Verantwortung, die Digitalisierung in O und U wesentlich zu prägen und in die richtige Richtung zu lenken. Daraus ergibt sich für uns eine Reihe von Aufgaben: