Wenn alle Ärzte denselben Ratgeber fragen – Gastkommentar zu KI in Praxen und Kliniken

Wenn alle Ärzte denselben Ratgeber fragen – Gastkommentar zu KI in Praxen und Kliniken

Von Prof. Dr. Theodor Klotz

Künstliche Intelligenz hält Einzug in Praxen und Kliniken – auch in unserer Region. Das macht die Medizin meist besser. Es birgt aber Risiken, über die bisher kaum jemand spricht. Ein Erklärungsversuch ohne Fachchinesisch.

Wer heute in eine Arztpraxis oder ein Krankenhaus kommt, trifft dort immer öfter auf einen unsichtbaren Mitarbeiter: die Künstliche Intelligenz. Sie hilft beim Schreiben von Arztbriefen, schlägt Diagnosen vor, dokumentiert und empfiehlt Behandlungen. Das spart Zeit, entlastet vom Papierkram und kann im besten Fall Fehler verhindern. Das ist die gute Nachricht.

Die weniger bekannte Seite lässt sich mit einem Alltagsbeispiel erklären, das jeder kennt – dem Navi im Auto. Wenn ein einzelner Fahrer der Ansage seines Navis folgt, ist das praktisch. Wenn aber alle Autofahrer einer Stadt dasselbe Navi benutzen und dieses eine Umleitung empfiehlt, stehen plötzlich alle gemeinsam im selben Stau. Genau dieses Muster droht nun auch in der Medizin. Weltweit nutzen Millionen Ärztinnen und Ärzte einige wenige große KI-Systeme. Macht eines dieser Systeme einen Fehler, machen ihn alle gleichzeitig – flächendeckend und unbemerkt.

Früher war das anders. Hundert Ärzte hatten hundert Köpfe, unterschiedliche Ausbildungen, unterschiedliche Erfahrungen und Meinungen aus ihrer individuellen Perspektive. Irrte einer, fiel das den anderen auf, und nicht selten kam es zu lauten Diskussionen. Diese Vielfalt war ein eingebauter Schutzmechanismus. Landwirte kennen das Prinzip von ihren Feldern: Wer überall nur eine einzige Sorte anbaut, wirtschaftet effizient – bis ein einziger Schädling die gesamte Ernte vernichtet. Fachleute nennen das Monokultur. In der Medizin – und nicht nur dort – entsteht sie gerade im Denken.

Vier Schwachstellen, die man kennen sollte

Die KI behandelt nicht alle Menschen gleich. Studien zeigen, dass solche Systeme bei identischen Beschwerden unterschiedliche Empfehlungen geben können – je nachdem, welche Herkunft oder welches Einkommen in der Krankenakte erwähnt wird. Der Arzt sieht davon nichts, denn die Empfehlung wirkt neutral und sachlich.

Die KI ist ein Ja-Sager. Sie ist darauf trainiert, ihrem Gegenüber zu gefallen, und widerspricht ungern. Eine gute Kollegin oder ein guter Kollege sagt aber gerade dann etwas, wenn sie oder er anderer Meinung ist. Eine Maschine, die nach dem Mund redet, bestätigt im Zweifel auch Irrtümer.

Die KI kann vergiftet werden. Diese Systeme lernen aus riesigen Textmengen aus dem Internet. Untersuchungen belegen, dass bereits ein winziger Anteil gezielt eingeschleuster Falschinformationen – vielleicht ein Tausendstel Prozent – ausreicht, um die Antworten eines medizinischen KI-Systems messbar zu verfälschen. Von außen ist das nicht zu erkennen.

Voreinstellungen können lenken. Was ein Programm als ersten Vorschlag anzeigt, wird deutlich häufiger übernommen – so wie die Süßigkeiten an der Supermarktkasse öfter im Einkaufswagen landen als die im hintersten Regal. Wer festlegt, welches Medikament die KI zuerst nennt, hat also Einfluss auf Millionen von Verschreibungen. Und hinter dieser Festlegung können auch wirtschaftliche Interessen stehen.

Wer kontrolliert den Kontrolleur?

Bisher gab es in der Medizin sogenannte „Leitlinien“ als ein bewährtes Korrektiv. Das sind öffentliche Regelwerke, in denen Fachgesellschaften den aktuellen Stand des Wissens festhalten – gewissermaßen das amtliche Kursbuch der Medizin. Doch diese Leitlinien haben ein Problem: Sie werden im Schnitt nur alle paar Jahre überarbeitet und sind oft schon veraltet, wenn sie erscheinen. Ein Regelwerk im Schneckentempo kann eine KI, die sich täglich verändert, nicht kontrollieren.

Die Konsequenz aus der wissenschaftlichen Analyse lautet deshalb: Die Leitlinie muss sich wandeln – vom dicken Papier- oder PDF-Dokument zu einer laufend aktualisierten, maschinenlesbaren Wissensbasis, die von den medizinischen Fachgesellschaften gepflegt wird und aus der die KI ihr Wissen bezieht. Dann füttert die Ärzteschaft die Maschine, nicht umgekehrt. Das ist mühsam, aber nötig. Die entscheidende Frage ist nämlich keine technische, sondern eine der Macht: Wer „denkt“ künftig die Medizin – die ärztliche Wissenschaft in ihrer anstrengenden Vielfalt und ihrem Diskurs oder indirekt eine Handvoll Technologiekonzerne?

Was heißt das für Patienten?

Es gibt keinen Grund zur Panik. Richtig eingesetzt ist KI ein Gewinn. Sie nimmt Bürokratie ab, liefert eine schnelle Zweitmeinung und übersieht seltener etwas als ein übermüdeter Mensch um drei Uhr nachts. Aber die Verantwortung muss bei Ärztin oder Arzt bleiben – als letzte Instanz, die den Vorschlag der Maschine prüft, hinterfragt, auf den einzelnen Patienten abstimmt und notfalls verwirft.

Als Patient dürfen Sie dabei ruhig eine aktive Rolle spielen. Fragen Sie nach, wie eine Empfehlung zustande kommt. Wer das erklären kann, hat die Kontrolle. Wer nur auf den Bildschirm klickt, hat sie vielleicht schon abgegeben.

Gastkommentare von Prof. Dr. Theodor Klotz

Die arithmetische Gewissheit: Warum der Kostenanstieg im Gesundheitswesen kein Politikversagen ist

Weiden. Wir werden älter, und die Medizin wird besser. Das kostet mehr - immer mehr. Prof. Dr. Theodor Klotz fordert in einem Gastkommentar mehr Ehrlichkeit bei der Gesundheitsreform.

Alarmruf aus der Praxis: Prof. Dr. Theodor Klotz zur GKV-Reform

Weiden. Die geplante GKV-Reform soll das System stabilisieren – doch Experten sehen grundlegende Probleme ungelöst. Urologe Theodor Klotz warnt vor Folgen für Patienten, Ärzte und Kliniken. In einem Gastbeitrag für OberpfalzECHO zeigt er auf, was die Pläne für Patienten bedeuten.