Gastbeitrag: Warum KI Ärzte nicht ersetzen kann

Bei der Digitalisierung und der Anwendung von „Künstlicher Intelligenz“ kann es nicht um die Frage gehen, ob man dafür oder dagegen ist. Es geht vielmehr um eine Reflexion darauf, was die Technik leisten kann und was nicht.

VON PROFESSOR GIOVANNI MAIO

Gegenwärtig wird so getan, als könne man über Digitalisierung alles verbessern. Das ist grundlegend falsch. Man kann einiges verbessern und erleichtern, aber die Digitalisierung kann erstens nicht alle Probleme lösen und zweitens schafft die Überbewertung der Digitalisierung neue Probleme. Wenn wir zum Beispiel technisch vermittelt kommunizieren, dann kommunizieren wir nicht nur anders, sondern wir kommunizieren unweigerlich über anderes.

Denn die Informationen, die wir technisch vermittelt verschicken, werden durch die technische Anordnung unweigerlich einer Selektion und Verformung unterzogen. Die Digitalisierung der Kommunikation verändert Informationen; sie richtet Informationen zu, indem sie unweigerlich einhergeht mit einer Entkontextualisierung von Informationen.

Kritisch hinterfragen, ob alles in Daten steckt

Sie geht überdies einher mit einer Entsinnlichung von Informationen, gekoppelt an eine Enträumlichung und Entzeitlichung eben dieser. All dies führt letzten Endes zu einer Entkörperlichung von Informationen. Und genau diesen Trend, sich allein auf dekontextualisierte Daten zu verlassen und zu glauben, dass in diesen Daten schon alles steckt, was man braucht, gilt es kritisch zu hinterfragen, indem man sich neu ins Bewusstsein ruft, dass der Körper selbst kommuniziert, und dass wir bei der körperlichen Untersuchung, bei der Inaugenscheinnahme mehr wahrnehmen als ein Bild sagen kann.

Wir nehmen nämlich ganzheitlich wahr, mit allen Sinnen und machen uns ein Gesamtbild, indem wir verschiedene Eindrücke zusammenführen. Das kann das Bild schlichtweg nicht. Das Bild ist vielleicht genauer, präziser, aber es bleibt immer etwas Ausschnitthaftes, weil nur ein Mensch sich ein solches Gesamtbild machen kann wie es selbst ein Ganzkörperscan nicht könnte.

Die Frage lautet also, wo muss man einen Patienten persönlich sprechen, ihn persönlich untersuchen, um sich einen Gesamteindruck zu verschaffen und wo reicht es, ein Bild, eine Information zu haben, von der man weiß, dass sie nur einen Ausschnitt darstellt, dieser aber möglicherweise ausreichen kann, um weiterzuarbeiten? Es geht also um Differenzierung und nicht um Pauschalkritik.

Persönliche Untersuchungen und Gespräche bleiben der Königsweg

Die größte Gefahr besteht darin, dass man irgendwann glauben könnte, das persönliche Untersuchen, das war gestern, heute, in der modernen Zeit braucht man das nicht mehr. Das wäre ein eindeutiger Rückschritt. Die persönliche Untersuchung, gekoppelt an das persönliche Gespräch, wird immer der Königsweg bleiben. Diese Grundüberzeugung darf man sich heute durch die gegenwärtigen Heilsversprechen, mit denen der Digitalisierungsdiskurs unterlegt ist, nicht nehmen lassen, denn dies wäre nicht weniger als ein illegitimer Reduktionismus, zu Lasten der Patienten.

Es ist wichtig, sich der unvermeidbaren Unvollständigkeit der digitalisierten Daten bewusst zu bleiben und im Blick zu behalten, dass es immer eine Diskrepanz geben wird zwischen den realen Gegebenheiten und ihrer Beschreibbarkeit durch Daten. Die „künstliche Intelligenz“ kann den Arzt unterstützen, und genau in dieser Funktion muss man sie sehen: sie ist ein Hilfsmittel, aber sie ist kein Ersatz für das, was eben nur ein Arzt kann.

Der Rechner kann dem Arzt die Diagnosestellung nicht abnehmen, einfach weil der Computer nur automatisiert vorgehen kann und selbst mit „Deep Learning“ kann der Computer gleichwohl nicht das aufbringen, was nur ein Mensch kann: Faktenwissen mit implizitem Wissen zusammenbringen, Sachinformationen mit Erfahrungswissen, mit Situationswissen, Problemlösungswissen.

Einen Tumor mag der Computer entdecken und möglicherweise auch klassifizieren, aber er kann nicht sagen, was dem Patienten hilft. Und vor allem kann er nicht begreifen, was es auf sich hat, Krebs zu haben. Bei algorithmischem Vorgehen bleit zudem immer eine Fehleranfälligkeit. Der Computer kann sagen: Bei Muster A ist typischerweise die Wahrscheinlichkeit für die Diagnose B sehr hoch. Aber was, wenn die Symptome nur zufällig auftauchen und der Patient eigentlich etwas anderes hat?

Was der Computer eben nicht hat, ist der gesunde Menschenverstand und eine praktische Urteilskraft. Deswegen kann er kein Ersatz für die letztgültige ärztliche Beurteilung sein, denn nur ein Arzt hat die Fähigkeit, den Lokalbefund mit dem Gesamtbild des Patienten zusammenbringen. Die „künstliche Intelligenz“ ist im Grunde ein euphemistischer Begriff, weil mit dem Begriff suggeriert wird, dass eine Maschine menschliche Eigenschaften hätte.

Doch der Computer ist nichts anderes als eine Rechenmaschine, und sie kann schneller rechnen als der Mensch, aber deswegen ist sie nicht intelligent, sondern einfach nur ein Rechner. Zur Intelligenz gehört nun mal mehr als die Fähigkeit zu rechnen.

Medizin braucht auch emotionale und soziale Intelligenz

Da eine Maschine grundsätzlich nur mathematische Modelle umsetzen, also nur kalkulieren kann, wird sie nie verstehen können und daher kann sie auch kein guter Ratgeber sein. Die „künstliche Intelligenz“ macht auf dem Boden mathematischer Modelle eine Automatisierung von Entscheidungen zum Prototyp der Problemlösung.

Automatisiert vorzugehen heißt aber nichts anderes als unberaten vorzugehen, und das ist alles andere als Intelligenz. Eine Medizin, die sich nur noch auf die „künstliche Intelligenz“ verlässt, scannt den Menschen ab wie eine Maschine, die repariert werden soll. Wenn man die Medizin der „künstlichen Intelligenz“ überlassen würde, folgte man damit einem Reduktionismus, den sich kein Patient wirklich wünschen kann. Medizin geht nicht auf in mathematische Modelle, sondern sie braucht kalkulatorische Vernunft genauso wie emotionale und soziale Intelligenz – und das ist etwas ganz anderes als künstliche „Intelligenz“.

Die Digitalisierung und die oft euphorische Proklamierung der „künstlichen Intelligenz“ verstellt somit den Blick auf die Komplexität der ärztlichen Arbeitspraxis, denn durch die Glorifizierung der Digitalisierung wird die Besonderheit ärztlichen Handelns systematisch ignoriert und de-qualifiziert. Es wird schlichtweg übersehen, dass die ärztliche Professionalität nicht darin besteht, den richtigen Algorithmus zu bedienen, sondern darin, die Komplexität eines krankheitsbedingten Problems durch die Zusammenführung verschiedener Wissensformen so zu bewältigen, dass am Ende ein numerisch abgestützter und zugleich erfahrungsgesättigter Rat stehen kann.

Dieser Rat wird am Ende nur dann ein hilfreicher sein, wenn er Resultat einer ärztlichen Professionalität sein wird, die unweigerlich mit Reflektiertheit und Ganzheitlichkeit zu tun hat und nicht ersetzt werden kann durch eine Herrschaft der Algorithmen, weil Algorithmen etwas nicht können, was allein ein Mensch kann: den kranken Menschen in seiner spezifischen Situation zu verstehen.

Prof. Dr. Giovanni Maio ist seit 2005 Professor für Bioethik und Medizinethik an der Albert-Ludwigs-Universität Freiburg und Direktor des Instituts für Ethik und Geschichte der Medizin. Der Medizinethiker veröffentlichte zuletzt „Werte für die Medizin. Warum die Heilberufe ihre eigene Identität verteidigen müssen.“ Giovanni Maio, der Medizin und Philosophie studierte, berät die Deutsche Bischofskonferenz, die Bundesregierung sowie die Bundesärztekammer.