KI in der digitalen Medizin braucht natürliche Verantwortung

Es ist keine unrealistische Annahme, dass dieser Beitrag in nicht allzu ferner Zukunft in ähnlicher Form von einem digitalen Twin oder direkt von der Redaktions-KI verfasst wird. Dieser Umstand kann als Disruption gefeiert oder Dehumanisierung beklagt werden. Der Gedanke daran erfüllt schon heute zahlreiche Menschen mit Hoffnung, weckt dagegen bei anderen die schlimmsten Befürchtungen.

Zugespitzter könnte es am Beispiel des Arztberufs in einem Krankenhaus verlaufen. Bereits heute wird der Arzt durch eine KI plus entsprechende Systeme als künstlicher Co-Pilot ergänzt. Auch bei Pflegern, unterstützt durch Robotik. Die gesellschaftliche Auseinandersetzung mit solchen Entwicklungen hat dabei gerade erst begonnen. Sie ist implizit oder explizit deutlich von Haltungen, Überzeugungen und Wertevorstellungen geprägt.

Ohne jene wäre es ja einfach. KI-Doc macht den Job: nicht heute, aber vielleicht irgendwann. Effizient wäre er sowieso, medizinisch gut auch und am Ende vielleicht sogar menschlich akzeptabel (es soll auch nette Bots und Kuschelrobos geben). Wie können wir gute Argumente für oder gegen solche Entwicklungen finden? Zum Beispiel um zu verhindern oder zu befördern, dass die Medizin, die Pflege und am Ende das gesamte Gesundheitssystem durch digitale Technologien weitestgehend frei von menschlichen Entscheidungen und Verantwortlichkeiten handelt?

Was ist eigentlich Ethik?

Die Ethik ist als Theorie der Moral - also der beobachtbaren Normen in einer Gruppe - ein empfehlenswerter Kandidat für die begründete Auseinandersetzung mit solchen Fragestellungen. Trends, Szenarien, besser oder schlechter begründete und begründbare Zukunftserwartungen in Technologie, Medizin, Gesellschaft - insbesondere Wirtschaft und Recht - sind ebenso wichtig, wie die Kenntnis von vergangenen Entwicklungen und gegenwärtigen Situationen. Gemeint sind hier aktuelle und künftige Fakten, die einen natürlichen oder sozialen Hintergrund aufweisen können.

Aber dies alles ist keine Ethik. Bei ihr geht es um die Frage, was wir, also jeder von uns, in der Welt tun oder unterlassen sollen und welcher Zustand der Welt wünschenswert ist. Dabei spielen Fakten keine begründende Rolle. Nur weil digitale Medizin verfügbar ist, macht dieser Sachverhalt ihren Einsatz, ja nicht einmal ihre Entwicklung legitim. Aber ohne Fakten ist eine Ethik leer, denn moralische Normen sollen in der Welt positiv wirken und diese gestalten. Fakten begrenzen freilich auch menschliche Gestaltungschancen. Nicht alles Legitime ist auch realisierbar. Kurz gesagt, es braucht ethisch begründbare Normen und Fakten: Der Mensch soll nur was er kann - aber nicht alles was er kann, soll er.

Ebenso ist das Recht betroffen. In einem Rechtsstaat dürfen wir auf eine große Deckungsmenge zwischen Gesetzen, die mit Zwang und Sanktionen arbeiten, und moralischen Normen, die auf Einsicht und Freiwilligkeit setzen, hoffen. Aber es ist kein notwendiger Zusammenhang, denn es gibt auch unmoralische Gesetze. Zudem lassen sich Rechtsrahmen und Regulierungssysteme auskontern. Medizinische Daten werden global nicht gleich behandelt. Natürlich ist die Analyse des Rechtsrahmens sowie der gestaltende Einfluss auf jenen hochrelevant. Aber er ersetzt eben keine ethischen Reflexionen. Deswegen ist es richtig, wenn Bundespräsident Frank-Walter Steinmeier vor nicht allzu langer Zeit eine "Ethik der Digitalisierung" eingefordert hat.

Die Telekom gab sich selbstbindende Richtlinien zum Einsatz von KI und hat zum weiteren Dialog eingeladen. Denn ohne eine ethische Reflexion ist der ableitbare deutliche Patientenautonomieakzent der neuen Datenschutz-Grundverordnung (DSGVO) werteorientiert kaum verortbar. Zudem können bereits rein rechtliche Fragen wie beispielsweise Fragen nach der zivil- oder auch strafrechtlichen Haftung für und von KI keineswegs als geklärt betrachtet werden. Auch hier muss antizipativ die Ethik einspringen. Die ist und bleibt künftig ihr Kerngeschäft.

Ohne die Dimension der Ethik keine überzeugende Debatte

Die ethischen Fragen, die sich heute zunächst Akteure in der Technologieszene und im medizinischen Bereich vorhalten sollten, sind nicht trivial. Dies ist deshalb so, weil eine überzeugende Ethik einerseits die Fakten aufnehmen muss. Andererseits muss sie eine normative Überzeugung entwickeln, wo die Reise hingehen soll. Die Kenntnisse der relevanten Sachzusammenhänge beispielsweise zum Thema Datenschutz sind bereits so umfassend, dass eine Debatte ohne interdisziplinären Dialog kaum zu machen ist.

Zudem gehen von solchen Dialogen durchaus konstruktive Impulse zur Weiterentwicklung der rechtlichen Rahmenbedingungen aus. Im Rahmen der Leitidee des Smart Hospitals hat die Universitätsmedizin Essen daher die "Ethik-Ellipse Smart Hospital" ins Leben gerufen. Diese setzt sich aus Vertretern der Bereiche Medizin, Geisteswissenschaft, Technologie und Industrie zusammen. Denn auf dem Weg hin zur gelebten digitalisierten Medizin müssen viele Diskussionen erst noch geführt werden.

Technologie versus Menschlichkeit?

Die Technik ist ein ambivalentes Phänomen. Sie kann dabei das Wesen des Menschen bedrohen - ganz grundsätzlich und auch sehr konkret wie etwa durch Kriegstechnologien. Ganz aktuell haben sich beispielsweise rund 4.000 Mitarbeiter von Google gegen das US-KI-Militärprojekt "Maven" mit einer Protestnote an ihren CEO Sundar Pichai ausgesprochen.

Diesen Zusammenhang erleben wir auch in der digitalen Revolution vor der eigenen Tür weniger dramatisch aber doch ganz nah: Wir befreien uns einerseits von "natürlichen Zwängen", zum Beispiel der direkten Kommunikation, vergessen aber gleichzeitig vielleicht wo das klassische Gespräch eben nicht durch digitale Sozialkommunikation überzeugend ersetzt werden kann (Mittel) und sollte (Zweck).

KI & Co. sind Mittel zum Zweck. Die ethische Diskussion dreht sich daher um die Frage, welche Mittel für welche legitimen Zwecke selber legitim sind. Solange eine KI zum Beispiel kein eigener ausweisbarer Träger von Verantwortung und Rechten sein kann - was nicht prinzipiell ausgeschlossen zu sein scheint - ist die Übernahme von medizinischer Verantwortung durch einen Arzt unabdingbar. Wann genau dieser Zeitpunkt vielleicht eintritt, an dem eine KI als Person zu sehen ist, ist ebenso strittig wie schwierig. Jedenfalls erscheint es Stand heute noch keine Realoption zu sein.

Schwierige Abwägungsfragen sind das Tagesgeschäft der "DeepEthics": Bei der Übernahme von pflegerischen Dienstleistungen im Falle der Unmöglichkeit der Bereitstellung menschlicher Pflegender scheint eine Roboter-Pflege zumindest diskutabel. Aber auch für andere Haltungen lassen sich Argumente vorbringen.

Die Bemühungen, Algorithmen selber ethikfähig zu entwickeln werden dagegen kritisch diskutiert - im Bereich des autonomen Fahrens stellen sich diese Fragen schon konkret. Level-5(SAE International’s standard J3016)-Fahrzeuge werden nicht mehr von uns, sondern der KI gesteuert - wie sieht es bei denkbaren autonomen medizinischen Systemen aus? Wie weit sollen selbstvermessende Wearables in unser reales Leben eingreifen - Prävention um jeden Preis? Welche Datenchancen und -risiken ergeben sich bei einer breiteren Nutzung für die Patienten?

Die Ethik im Gesundheitswesen und vor allem in einem Smart Hospital muss eine klare Perspektive vorgeben. Denn der digitale (und auch sonstige) Technologieeinsatz in der Medizin kann nur solange ein geeignetes Mittel sein, solange er der Menschlichkeit dient. Dazu gehört auch, die Ausbildung der Entwickler um ethische Reflexionsanteile zu ergänzen. Dies gilt selbstverständlich für alle an technologischen Entwicklungen Beteiligten. Zudem müssen die erwartbaren Effizienzgewinne aus einer digitalisierten Medizin vor allem in mehr Zeit für Ärzte und Pflegende münden.

Zeit, die für emphatische und nahe Medizin in Zeiten des demografischen Wandels dringender denn je gebraucht wird. Auch können neue attraktive Professionen entstehen. Die Verdrängung bestehender menschlicher Kompetenzträger ist dagegen nicht legitim - selbst dann nicht, wenn es tatsächlich einmal die humanoide KI geben sollte. Dann wird die digitale Transformation auch ethisch überzeugend und die argumentationsfreie Innovationsverweigerung wackelig.

Ethik im Smart Hospital

Bei der digitalen Medizin, insbesondere im Smart Hospital, muss es immer um die Menschen, ihre Heilung und ihr Wohlbefinden gehen. Ökonomische und technologische Werte sind ethisch dabei kein Primat. Allerdings sind Krankenhäuser historisch und bereits sprachlich eine Einengung auf medizinische Fachrichtungen und nicht wünschenswerte Zustände. Letztlich handelt es sich hier um wirtschaftlich denkende Institutionen. Es sind eben "Häuser" für "Kranke".

Dieser Fokus hat durchaus seine Berechtigung. So hat dies nicht zuletzt einen erheblichen Anteil an einer medizinischen Versorgungslandschaft, die, wenn auch nicht optimal, hochwertige Leistungen anbietet. Das deutsche Gesundheitssystem hat allerdings ebenso seinen Anteil daran, dass viele Fehlanreize in Medizin und Pflege sowie überkomplexe Rahmenbedingungen den eigentlich wünschenswerten Effekt - nämlich maximale medizinische Qualität, die für möglichst viele Menschen erschwinglich ist - häufig verhindern. So wird aus einer positiven Marktorientierung schnell das Gespenst der Ökonomisierung und aus dem ebenso positiven medizinisch-technologischen Fortschritt die dunkle Dystopie des gläsernen Patienten.

Da gerade die Digitalisierung zwischen Skalierung und Individualisierung effizient und effektiv vermittelt, verwundert es nicht, dass sich das Gesundheitssystem nicht zuletzt in seiner Krankenhausgestalt oft schwer tut mit innovativer, patientenorientierter und sicherer Medizin. Sie ist die Leitidee des Smart Hospitals in Essen.

Dabei ist die gesellschaftliche Realität im medizinischen Bereich noch wenig anzutreffen. Hierzu zählt auch die durchaus kritisch anzufragende Offenheit, mit der Menschen ihre Daten beziehungsweise ihr ganzes Leben den einschlägigen Unternehmen im Gegenzug für hochbequeme Services geradezu aufdrängen. Aber die Signale gehen genau in diese Richtung: Digitale medizinische oder begleitende Dienste sowie Lösungen werden für die Menschen immer glaubwürdiger und attraktiver.

Stressfrei zum Patienten zurückfinden

Der Erfolg solcher Angebote liegt nicht nur in ihrer medizinischen Qualität, sondern vor allem in der Fähigkeit der anbietenden Game Changer, die Konsumenten und ihre Bedürfnisse zu verstehen. Möglicherweise müssen Krankenhäuser erst lernen, den Konsumenten im Patienten zu erkennen, um zu ihrem eigentlichen Anliegen und damit zum Patienten und seinem Wohlergeben institutionell stressfrei zurückzufinden.

Die digitale Transformation in Krankenhäusern wird viel diskutiert aber wenig gelebt. Die Krankenhäuser müssen sich selber auf den Weg machen. Niemand wird es für sie tun. Das Smart Hospital als Leitidee einer Bewegung in Richtung mehr Patientenerleben und mehr medizinische positive Ergebnisse für die Menschen entwickelt sich in einer dynamischen Welt aus Recht, Ökonomie, Ethik und Technologie stetig weiter.

Und immer mehr Krankenhäuser beginnen sich dieser Entwicklung zu öffnen. Ob nun aus innerer Einsicht oder äußerem Druck. In dieser Entwicklung ein über kaufmännische Effizienzgewinne hinausgehendes Potenzial für die Menschen in der Institution und für die Patienten zu entdecken, ist am Ende eine ethische Aufgabe.

In der ganzen Diskussion wird immer deutlicher, dass es um die Menschen selbst und ihre Belange geht. Und dass sie es auch sein sollten, die die Zukunft des Krankenhauses wesentlich mitprägen. Wie sehr, wo und wie werden Mittel der Digitalisierung den Menschen einen Nutzen bringen? Das ist die Schicksalsfrage der Krankenhausmedizin im 21. Jahrhundert.