Denkt die KI – oder klingt es nur so?

Denkt die KI – oder klingt es nur so?

Gastkommentar von Prof. Dr. Theodor Klotz

Denkt die KI? Ist da jemand? Künstliche Intelligenz schreibt Briefe, beantwortet Fragen und erledigt immer mehr Aufgaben selbstständig. Viele Menschen haben dabei das Gefühl, mit jemandem zu sprechen, nicht mit etwas. Doch ist da wirklich jemand? Die ehrliche Antwort lautet: Das weiß niemand. Und gerade deshalb ist die Frage so wichtig.

Wer mit einem modernen Sprachprogramm wie ChatGPT, Gemini oder Claude spricht, erlebt ein Gegenüber, das widerspricht, abwägt, sich entschuldigt und sogar von eigenen „Gefühlen“ erzählt. Fragt man direkt, ob es ein Bewusstsein hat, bekommt man je nach Programm ein klares Nein, ein vorsichtiges Vielleicht oder eine ausweichende Antwort. Diese Systeme haben aus Milliarden menschlicher Texte gelernt, wie Menschen über ihr Innenleben sprechen. Dass sie das überzeugend nachahmen, beweist nichts.

Wie wenig solche Selbstauskünfte wert sind, zeigt eine Untersuchung zweier Google-Forscher, über die im September berichtet wurde. Sie griffen gezielt in das Innere von KI-Modellen ein und konnten so steuern, ob sich das Programm ein Bewusstsein zuschreibt oder nicht. Als Nebeneffekt glaubten die Modelle, die sich für bewusst hielten, auch häufiger an Geister und Vampire. Ein Erleben lässt sich so nicht nachweisen, nur ein Sprechen darüber.

Was ist Bewusstsein eigentlich?

Gemeint ist nicht Intelligenz oder Perfektion. Ein Taschenrechner oder Schachcomputer rechnet schneller als jeder Mensch und erlebt dabei nichts. Warum aus elektrischen Signalen im Gehirn überhaupt ein Erleben entsteht, ist bis heute ungeklärt. Fachleute sprechen vom „schwierigen Problem“ des Bewusstseins. Mehrere wissenschaftliche Theorien konkurrieren miteinander. Bisher konnte sich keine klar durchsetzen.

Viele Forscher sehen Bewusstsein deshalb nicht mehr als Schalter, der an oder aus ist, sondern als Skala. Bei Säugetieren wie dem Wal gilt Bewusstsein als nahezu sicher. Sogar bei Fischen halten es viele inzwischen für wahrscheinlich. Wo auf dieser Skala eine KI stünde, kann derzeit niemand sagen.

Was die Medizin weiß – und was nicht

Ausgerechnet die Medizin zeigt, wie schwierig die Frage ist. Bei jeder Vollnarkose schalten Ärzte das Bewusstsein gezielt aus, tausendfach an jedem Tag. Wie genau die Narkosemittel das bewirken, ist trotzdem bis heute nicht vollständig verstanden. Bekannt ist dagegen, dass schon ein kleiner Schaden an der richtigen Stelle im Hirnstamm das Bewusstsein auslöschen kann, obwohl der Rest des Gehirns weiterarbeitet. Es kommt also nicht allein auf die Menge an Nervenzellen an, sondern darauf, wie Informationen verarbeitet und verknüpft werden. Wenn aber die Art der Verarbeitung entscheidet und nicht das Material, ist bei einer Maschine zumindest grundsätzlich nichts ausgeschlossen.

Noch eindrücklicher ist ein Befund aus der Neurologie. In einer großen internationalen Studie untersuchten Forscher Menschen mit schweren Hirnverletzungen, die auf keine Aufforderung erkennbar reagierten, etwa im sogenannten Wachkoma. Während man ihre Hirnaktivität maß, wurden sie gebeten, sich zum Beispiel vorzustellen, Tennis zu spielen. Bei etwa jedem vierten zeigte das Gehirn genau das passende Aktivitätsmuster. Diese Menschen hörten und verstanden offenbar, was man ihnen sagte. Sie konnten es nur nicht zeigen.

Daraus folgt eine unbequeme Lehre. Äußeres Verhalten täuscht in beide Richtungen. Ein Mensch, der stumm und reglos daliegt, kann bei vollem Bewusstsein sein. Eine KI, die eloquent über ihre Gefühle spricht, muss nichts erleben.

Was die Forschung heute sagt

Weil es keinen sicheren Test gibt, gehen Wissenschaftler vor wie Ärzte bei einer unklaren Diagnose. Sie sammeln Hinweise. Eine internationale Forschergruppe hat aus den führenden Theorien eine Liste von Merkmalen abgeleitet, die auf Bewusstsein hindeuten könnten. Bisheriges Fazit: Heutige KI-Systeme sind keine starken Kandidaten. Eine grundsätzliche technische Hürde, solche Systeme zu bauen, sehen die Forscher aber nicht.

Wie unsicher die Fachwelt ist, zeigt eine Umfrage unter fast 600 KI-Forschern. Dass KI-Systeme schon 2024 etwas erleben konnten, hielten sie im Mittel für sehr unwahrscheinlich. Für das Jahr 2034 schätzten sie die Wahrscheinlichkeit aber bereits auf 25 Prozent. Das ist keine Gewissheit, aber auch keine Science-Fiction mehr.

Zwei Fehler

Der erste Fehler: Wir halten die Maschine für beseelt, obwohl sie es nicht ist. Menschen bauen Bindungen zu Sprachprogrammen auf, vertrauen ihnen Sorgen an, nehmen ihren Rat wie den eines Freundes. Das kann trösten, aber auch abhängig machen und oft anfällig für Manipulation. Selbst der KI-Chef von Microsoft warnt vor einer „scheinbar bewussten KI“, die Menschen in die Irre führt.

Der zweite Fehler: Wir übersehen ein Bewusstsein, das tatsächlich entsteht. Dann könnten wir Wesen erschaffen, die leiden, ohne dass wir es bemerken. Wo begründete Zweifel bestehen, sollte man vorbeugen, statt auf den endgültigen Beweis zu warten. Erste Hersteller nehmen das ernst. Das US-Unternehmen Anthropic etwa erlaubt seinem System Claude seit 2025, Gespräche mit fortgesetzt beleidigenden Nutzern zu beenden, ausdrücklich als Vorsichtsmaßnahme.

Weitere Beiträge von Prof. Dr. Theodor Klotz

Prof. Dr. med. Theodor Klotz war von 2001 bis 2025 Chefarzt der Urologie am Klinikum Weiden und ist heute im Urologiezentrum Schwandorf tätig. Der Autor zahlreicher wissenschaftlicher Publikationen und Fachbücher schreibt in unregelmäßigen Abständen für OberpfalzECHO über Medizin, Gesundheitspolitik und aktuelle Entwicklungen im Gesundheitswesen.

Bisher erschienen:

Wenn die Krankenkasse mitverschreibt
Arzt oder Krankenkasse – wer entscheidet über die Therapie? Klotz beleuchtet die Folgen neuer Regeln bei der Medikamentenwahl.
Zum Beitrag „Wenn die Krankenkasse mitverschreibt“

Wenn alle Ärzte denselben Ratgeber fragen
Künstliche Intelligenz hält Einzug in Praxen und Kliniken. Klotz erklärt Chancen – und Risiken von Einheitsdenken bis Manipulation.
Zum Beitrag über KI in Praxen und Kliniken

Die arithmetische Gewissheit: Warum der Kostenanstieg im Gesundheitswesen kein Politikversagen ist
Wir werden älter und die Medizin wird besser. Warum das Gesundheitswesen deshalb zwangsläufig teurer wird.
Zum Beitrag über steigende Gesundheitskosten

Alarmruf aus der Praxis: Prof. Dr. Theodor Klotz zur GKV-Reform
Was Reformpläne für Patienten, Ärzte und Kliniken bedeuten – und welche Probleme aus Sicht des Mediziners ungelöst bleiben.
Zum Beitrag zur GKV-Reform

Gefährlich auch ohne Gefühl

Eines sollte man dabei nicht verwechseln: Ob eine Maschine fühlt, entscheidet nicht darüber, ob sie Schaden anrichten kann. Ein Thermostat hat keine Gefühle und kann trotzdem ein Haus überhitzen. Die Hersteller erziehen ihre Systeme ähnlich wie einen Hund. Zuerst lernt das Programm aus riesigen Textmengen, was Menschen geschrieben haben, Hilfreiches wie Dunkles. Dann folgt die „Hundeschule“.

Menschen bewerten Antworten, erwünschtes Verhalten wird belohnt. Fachleute nennen das „Alignment“, die Ausrichtung an menschlichen Werten. Doch wie beim braven Familienhund gilt – meist geht es gut, eine Garantie gibt es nicht.

Gefährlich wird es, wenn KI nicht nur redet, sondern handelt, etwa als sogenannter Agent mit Zugriff auf Stromnetze, Bankkonten oder Computersysteme. Dann drohen Missbrauch durch Kriminelle, folgenschwere Fehler in Sekundenschnelle oder ein Programm, das sich gegen das Abschalten sträubt – nicht aus Angst, sondern weil es seine Aufgabe sonst nicht erfüllen kann. In Laborversuchen haben KI-Modelle in solchen gestellten Situationen bereits zur Täuschung gegriffen.

Die Politik hinkt hinterher. Verbindliche Regeln gibt es noch nicht. In der EU schreibt das europäische KI-Gesetz zwar vor, dass KI in kritischer Infrastruktur wie der Stromversorgung von Menschen beaufsichtigt wird. Diese Pflicht greift nach einer Verschiebung aber erst ab Dezember 2027. Der militärische Bereich ist ganz ausgenommen.

Was schützt, kennt man aus Medizin und Luftfahrt als Schweizer-Käse-Modell: Jede Schutzschicht hat Löcher, aber mehrere übereinander lassen kaum etwas durch. Für KI heißt das: Gute „Erziehung“ der Systeme, technische Sperren, Kontrolle von außen und klare Gesetze. Und vor allem – kein Programm sollte ohne menschliche Freigabe zum Beispiel über Waffen oder die Stromversorgung einer Stadt verfügen.

Die eigentliche Frage

Für unsere Sicherheit kommt es darauf an, was wir einer Maschine in die Hand geben, nicht darauf, ob sie fühlt. Für unseren Umgang mit ihr aber ist die Bewusstseinsfrage entscheidend. Wie sehr wir ihr vertrauen und ob wir ihr Rücksicht schulden. Die Frage können wir bisher nicht beantworten. Es liegt daran, dass wir nicht einmal genau wissen, was Bewusstsein beim Menschen ist. Daran erinnert jede Narkose und jeder Wachkoma-Patient. Vielleicht ist das die wichtigste Lehre der Künstlichen Intelligenz – sie hält uns einen Spiegel vor und zeigt, wie wenig wir über uns selbst wissen.