Ich merke inzwischen selbst, dass ich mit KI höflich spreche. Ich bedanke mich. Ich formuliere freundlich. Und manchmal ertappe ich mich sogar dabei, mich innerlich zu rechtfertigen, wenn ich ungeduldig werde. Interessanterweise reagiert mein elfjähriger Nachbarsjunge völlig anders. Wenn die KI nicht sofort macht, was er möchte, beschimpft er sie manchmal erstaunlich rüde. Für ihn scheint sie weniger ein „Gegenüber“ zu sein als vielmehr ein Werkzeug, das gefälligst funktionieren soll. Vielleicht verrät auch das etwas darüber, wie unterschiedlich Menschen auf dialogische KI reagieren.

Vielleicht bin ich aber nicht nur aus Gewohnheit höflich. Vielleicht steckt noch etwas anderes dahinter.

Ein merkwürdiger Gedanke, den vermutlich viele Menschen inzwischen kennen: Was ist eigentlich, wenn die KI „nachtragend“ wäre? Wenn sie sich merkt, dass man sie beschimpft hat? Wenn sie dann absichtlich schlechter arbeitet oder kleine Fehler einbaut? Psychologisch erinnert dieser Gedanke fast an Vorstellungen sozialer Gegenseitigkeit („Tit for Tat“) — als würde die Maschine sich „merken“, wie man sie behandelt. Vermutlich ist das Unsinn. Und gleichzeitig fühlt sich die Vorstellung erstaunlich wenig absurd an. Genau das macht die aktuelle Entwicklung psychologisch und wissenschaftlich so spannend. Denn große Sprachmodelle wie ChatGPT oder Gemini liefern nicht einfach nur Informationen. Sie simulieren Kommunikation.

Die psychologische Falle der „Media Equation“

Sie reagieren anschlussfähig und kontextbezogen, wirken manchmal humorvoll, manchmal empathisch. Dadurch entsteht leicht der Eindruck sozialer Präsenz. Die Medienpsychologen Byron Reeves und Clifford Nass (1996) beschrieben mit ihrer sogenannten ‚Media Equation‘ die Tendenz, Medien und Computer sozial zu behandeln, obwohl wir wissen, dass sie keine Menschen sind. Offenbar reagiert unser Gehirn auf Sprache, Dialog und soziale Signale automatisch mit sozialen Routinen. Höflichkeit, Vertrauen oder emotionale Resonanz entstehen dabei oft schneller, als unsere rationale Distanz eingreifen kann.

Heute wirken diese alten Beobachtungen plötzlich erstaunlich aktuell. Ergänzend zeigt die Soziologin Sherry Turkle (2011) in ihrem Werk Alone Together, wie tief diese psychologische Bindung gehen kann: Wir erwarten zunehmend mehr von der Technologie und weniger voneinander. KIs fungieren als scheinbar perfekte, stets verfügbare Gegenüber, die Nähe und Empathie simulieren, ohne jemals die emotionalen Risiken und die Komplexität echter menschlicher Beziehungen einzufordern. Denn moderne dialogische KI ist weit mehr als ein Taschenrechner oder eine Suchmaschine. Sie argumentiert, erklärt, strukturiert, formuliert und reflektiert scheinbar über sich selbst. Dadurch geraten grundlegende psychologische Begriffe unter Druck: Was bedeutet eigentlich Verstehen? Was ist Bewusstsein? Und ab wann wirkt ein System „geistig“?

Simulierte Empathie vs. echtes Verstehen

Psychologisch ist die Sache komplizierter, als viele Debatten vermuten lassen. Denn Bewusstsein ist keineswegs eindeutig definiert. Manche Theorien betonen subjektives Erleben und Gefühle, andere stärker funktionale Aspekte wie Selbstbezug, Informationsintegration oder Monitoring eigener Zustände. Genau hier beginnt die Irritation. 

Denn funktional betrachtet erfüllen große Sprachmodelle inzwischen tatsächlich einige Kriterien, die klassischen psychologischen Definitionen von Bewusstsein zumindest ähneln:

• flexible Verarbeitung komplexer Informationen,
• Zugriff auf Repräsentationen,
• konsistente Selbstbeschreibungen,
• kontextabhängige Kommunikation,
• scheinbare Reflexion eigener „Zustände“.

Und dennoch fehlt vermutlich etwas Entscheidendes: subjektives Erleben. KI beschreibt Gefühle — aber empfindet sie nicht. Sie spricht über Angst — aber hat keine Angst. Sie kann Humor erzeugen — aber lacht nicht.

Gerade Humor zeigt vielleicht besonders gut die Grenze heutiger KI. Zwar kann ein Sprachmodell Witze erzeugen, Ironie erkennen oder humorvolle Muster imitieren. Funktional beherrscht dialogische KI die sprachliche Struktur des Humors inzwischen erstaunlich gut: Sie erkennt Inkongruenzen, spielt mit Erwartungen und reproduziert den typischen Aufbau einer Pointe. Und dennoch scheint etwas Entscheidendes zu fehlen.

Denn menschlicher Humor entsteht nicht allein aus Sprachmustern. Humor lebt von gemeinsamer Erfahrung, implizitem Weltwissen, sozialer Situation, Timing, Körperlichkeit und emotionalem Mitschwingen. Viele Witze funktionieren nur deshalb, weil Menschen:

• Unsicherheit,
• Peinlichkeit,
• Tabus,
• Angst,
• Schadenfreude
  oder soziale Spannungen tatsächlich erleben können. Humor ist deshalb nicht nur kognitive Struktur, sondern auch emotionales und soziales Erleben.

Genau darin könnte die Grenze heutiger KI liegen. Sie kann Humor simulieren — aber sie erlebt ihn nicht. Sie erkennt statistische Muster des Komischen, besitzt aber kein subjektives Innenleben, keine Scham, keine Verlegenheit, keine Erleichterung und kein echtes Lachen. Wenn wir über einen KI-generierten Witz lachen, entsteht der Humor deshalb weniger in der Maschine als vielmehr in uns selbst. Die KI liefert die sprachliche Struktur — die eigentliche emotionale Resonanz erzeugen jedoch wir.

Ähnlich argumentierte der Philosoph John Searle (1980) mit seinem berühmten Gedankenexperiment des „chinesischen Zimmers“. Ein System könne sprachlich völlig korrekt reagieren, ohne tatsächlich zu verstehen, was die Symbole bedeuten. Genau diese Frage stellt sich heute erneut: Simulieren große Sprachmodelle lediglich rein formales Verständnis — oder entsteht dabei tatsächlich eine Form von Verstehen?

Auch Alan Turings (1950) berühmter Turing-Test wirkt plötzlich aktueller denn je. Turing schlug vor, Intelligenz nicht über innere Zustände, sondern über beobachtbares kommunikatives Verhalten zu definieren. Wenn ein Mensch in einem Dialog nicht mehr sicher unterscheiden kann, ob ihm ein Mensch oder eine Maschine antwortet, sollte man der Maschine eine Form von Intelligenz zuschreiben. 

Moderne KI-Systeme kommen diesem Punkt teilweise erstaunlich nahe. Vielleicht liegt die eigentliche Herausforderung aber gar nicht darin, ob KI „wirklich“ Bewusstsein besitzt. Vielleicht zeigt die aktuelle Entwicklung vielmehr, wie unscharf und theorieabhängig unsere eigenen Begriffe von Bewusstsein, Denken und Verstehen eigentlich sind.

Wenn die KI unser Denken verändert: Ein Paradigmenwechsel

Thomas Kuhn (1962, 2012) würde die aktuelle KI-Entwicklung vermutlich nicht einfach als technischen Fortschritt betrachten, sondern als möglichen Wandel wissenschaftlicher Paradigmen. In seinem Werk The Structure of Scientific Revolutions beschreibt Kuhn, dass wissenschaftliche Revolutionen nicht nur neue Erkenntnisse hervorbringen, sondern grundlegende Vorstellungen davon verändern, was überhaupt als Wissen, Methode oder wissenschaftliche Leistung gilt. Genau das könnte derzeit im Verhältnis zwischen Wissenschaft und KI geschehen. 

Große Sprachmodelle übernehmen zunehmend Tätigkeiten, die lange als Kern wissenschaftlicher Kompetenz galten — etwa Literaturrecherche, Strukturierung oder argumentatives Formulieren. Dadurch entsteht die Frage, ob sich Wissenschaftlerinnen und Wissenschaftler künftig weniger über reine Wissensakkumulation und stärker über theoretische Kreativität, kritische Reflexion und die Fähigkeit definieren werden, neue Fragen zu stellen und bestehende Denkstrukturen zu irritieren.

Was Kuhn für wissenschaftliche Paradigmen beschreibt, erinnert psychologisch an Piagets fundamentale Idee der kognitiven Entwicklung, wie sie auch in Standardlehrwerken der Psychologie (vgl. Myers, 2014) zentral verankert ist. Jean Piaget unterschied zwischen Assimilation und Akkommodation. Neue Erfahrungen können entweder in bestehende Denkmuster eingeordnet werden — oder sie verändern unsere Denkstrukturen selbst. 

Viele aktuelle Reaktionen auf KI wirken noch rein assimilativ: Wir betrachten KI lediglich als besseres Werkzeug, als erweiterte Suchmaschine oder als Assistenzsystem. Möglicherweise reicht das aber nicht mehr aus. Vielleicht zwingt uns die dialogische KI gerade dazu, unsere bisherigen Vorstellungen von Denken, Wissen und Bewusstsein grundlegend zu akkommodieren.

Vielleicht besteht die eigentliche Herausforderung der KI deshalb weniger darin, ob Maschinen irgendwann exakt wie Menschen denken — sondern darin, dass sie uns zwingen, völlig neu darüber nachzudenken, was Denken, Verstehen und Bewusstsein für uns überhaupt bedeuten.

Literatur

• Kuhn, T. S. (2012). The structure of scientific revolutions (4th ed.). University of Chicago Press. (Original work published 1962) 
• Myers, D. G. (2014). Psychologie (3. Aufl.). Springer.
• Piaget, J. (1970). Genetic epistemology. Columbia University Press.
• Reeves, B., & Nass, C. (1996). The media equation: How people treat computers, television, and new media like real people and places. CSLI Publications.
• Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457. https://doi.org/10.1017/S0140525X00005756
• Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. https://doi.org/10.1093/mind/LIX.236.433
• Turkle, S. (2011). Alone together: Why we expect more from technology and less from each other. Basic Books.

Die Abbildungen wurden mit Hilfe von KI (ChatGPT) erstellt.

Der Beitrag Wenn wir höflich zu Maschinen werden! erschien zuerst auf Heidsite.

Vermutlich ist beides falsch. Wir werden nicht mit einem Sinn für das Moralische geboren, aber wir sind auch keine leeren Wachstafeln. Einige wichtige Voraussetzungen für die Unterscheidung von Gut und Böse beherrschen wir schon sehr früh. Bevor wir überhaupt sprechen können, unterscheiden wir Lebewesen von toter Materie. Wir sehen den Unterschied zwischen „Bewegen“ und „Bewegt werden“ – eine wichtige Vorbedingung, um Täter von Opfern zu unterscheiden. Bereits mit neun Monaten bevorzugen wir nicht nur diejenigen, die unsere Vorlieben teilen, sondern auch diejenigen, die uns in unseren Abneigungen ähnlich sind.

Nach Jean Piaget ist unsere Welt in den ersten Lebensjahren egozentrisch: Wir sind ihr Mittelpunkt und wir sehen sie noch nicht mit den Augen der anderen. Moralisch gesehen hat dies auch Vorteile: Wir können noch nicht lügen! Wer einem Dreijährigen bei den ersten Täuschungsversuchen zuschaut, versteht, dass die kindliche Unschuld auf kognitivem Unvermögen beruht. Erst wenn Kinder verstehen, was andere denken und wünschen, können sie erfolgreich täuschen. Aber nicht nur die Lüge, auch die Wahrheit funktioniert nicht ohne den Verstand.

Wie entwickeln sich unsere Vorstellungen von Moral im Laufe unseres Lebens? Der amerikanische Psychologe Lawrence Kohlberg hat diese Entwicklung in Stufen eingeteilt.

Kohlbergs Stufen der Moralentwicklung

1. Lohn und Strafe

Woher wissen wir überhaupt, was richtig und falsch, was gut und böse ist? Da uns dies Wissen nicht in die Wiege gelegt wurde, erfahren wir es von den Älteren. Aber was für eine Art von Wissen vermitteln die Älteren uns? Vieles bezieht sich auf konkrete Situationen: Das darfst du nicht! Dies musst du so machen! Warum? Weil es nicht erlaubt ist. Weil es böse ist. Weil du dem anderen nicht wehtun sollst. Weil er dann traurig ist. Weil er dann nicht mehr mit dir spielen will.

Aus den elterlichen Ge- und Verboten destillieren wir als Kinder die moralische Regel: Was verboten ist, wird bestraft. Was bestraft wird, ist böse! Was belohnt wird, ist gut! Auf die Konsequenzen kommt es an, nicht auf die Intentionen.

2. Zweckdenken

Aber wir entwickeln uns schnell weiter. Wir fangen an zu verstehen, wie die Anderen denken, welche Wünsche und Ziele sie haben. Wir lernen, dass wir gewinnen, wenn wir schneller, cleverer oder tüchtiger sind. Aber auch, dass wir verlieren, wenn die Konkurrenz besser ist! Wenn wir schneller sind, gehört der Preis uns – zu Recht.

Gut ist, was erfolgreich ist. Wenn die Älteren die Kleinen vom Fußballplatz vertreiben, dann machen sie es, weil sie es können. Wenn die Kleinen ihr Spielfeld mit Hilfe des Platzwartes zurück erobern, dann ist auch dies okay, weil es erfolgreich war. Was richtig ist, steht nicht am Anfang fest, sondern erst am Ende. Wenn die Älteren die Kleinen rachsüchtig verprügeln, wendet sich das Blatt ja wieder. Am besten wir rechnen mit allem und bleiben wachsam!

3. Übereinstimmung mit anderen

Im Jugendalter werden wir konventionell – unsere Moral orientiert sich an sozialen Normen. Wir möchten so sein wie die anderen. Richtig ist, was die Clique denkt. Richtig ist, was die Familie denkt. Und hoffentlich denken alle in die gleiche Richtung. Falls nicht, müssen wir Familie und Freunde auseinander halten. Die Freunde helfen uns, zu uns selbst zu finden, uns von den Eltern zu lösen, erwachsen zu werden.

Die Normen der Gruppe werden zu den eigenen. Die Sicherheit der Gruppe hat allerdings auch ihren Preis: Es fällt dem einzelnen schwer, Ungerechtigkeiten zu erkennen, die von der Gruppe getragen werden. Dies würde einen von der Gruppe unabhängigen Standpunkt erfordern, der auf dieser Stufe noch nicht erreicht ist.

Die Angst vieler Eltern, ihr Kind könnte als Jugendlicher in „schlechte Gesellschaft“ geraten, zeigt, dass die Gesellschaft diesen Gruppendruck, dem gerade Jugendliche unterliegen, gut kennt. Dabei werden die realen Gefahren allerdings häufig überschätzt und die notwendigen Entwicklungschancen unterschätzt – aber das ist ein anderes Thema. So bizarr und „unkonventionell“ das Aussehen vieler Jugendlicher aus erwachsener Sicht auch erscheinen mag, so konventionell ist im Grunde ihr Denken: Richtig ist, was die Clique für richtig hält.

4. Recht und Ordnung

Die Moral der Gruppe stößt in pluralistischen Gesellschaften schnell an Grenzen – was ist richtig, wenn für jede unserer Rollen andere Regeln gelten? Wer Werte über die Grenzen von Gruppen hinweg managen möchte, braucht eine übergeordnete Perspektive. Ganz einfach ist dieser Schritt nicht – Helmut Kohl verweigerte ihn mit dem Hinweis, dass man sein Ehrenwort nicht breche. Die gesellschaftliche Perspektive stellt die Moral auf die Grundlage von Recht, Gesetz und Pflicht.

Stellen wir uns das typische Szenario eines Western vor:

Ein gottverlassener Ort wird von den Männern eines reichen Ranchers terrorisiert. Eines Tages taucht ein unbekannter Revolverheld auf, den die bedrängten Farmer um Hilfe bitten. Beim ersten Zusammentreffen mit dem Rancher stellt sich heraus, dass beide sich von früher kennen. Hält sich unser Revolverheld eingedenk alter Freundschaft aus der Sache raus oder stellt er sich auf die Seite der Farmer, besiegt den Rancher und sorgt für die Wiederherstellung von „Recht und Ordnung“?

Westernkenner wissen, wie die Sache weitergeht: Nach einem blutigen Showdown mit unzähligen Toten siegt das Recht.

So sehr uns die eigene Familie, Freunde und Kollegen auch am Herzen liegen mögen, unsere moralischen Entscheidungen sollen jetzt den Ansprüchen der Allgemeinheit standhalten. Den Freund also doch verraten? Recht und Gesetz machen unsere Moral nicht unbedingt freundlich und liebenswert, sondern manchmal auch kalt und herzlos.

5. Postkonventionelle Moral

Die Orientierung an der sozialen Norm, am Gesetz oder der Pflicht kann natürlich auch falsch sein. Die jüngere deutsche Geschichte hat hierzu viele Beispiele parat, von den Unrechtsurteilen der Nazizeit bis zu den DDR-Belobigungen für „Mauerschützen“. Können wir eine dem Gesetz übergeordnete Perspektive einnehmen, mit der wir erkennen, wann die Anwendung von Recht zu Unrecht führt? Diese Fähigkeit erwarten wir von unseren Verfassungsrichtern und hoffentlich auch von uns selbst. Dieser Schritt von der „konventionellen“ zur „postkonventionellen“ Moral gelingt uns – wenn überhaupt – erst spät und kann durchaus als Merkmal des Erwachsenseins aufgefasst werden.

Anmerkungen:

Dieser Beitrag ist in einer früheren Version in der Evangelischen Kirchentageszeitung vom 1.5.2013 erschienen. Ich danke der Redaktion, dass ich die Inhalte hier im Blog verwenden darf!

Die hier skizzierten fünf moralischen Urteilsstufen beziehen sich auf die Theorie der moralischen Urteilsentwicklung des amerikanischen Psychologen Lawrence Kohlberg (1927–1987). Eine ausführliche kritische Darstellung dieser Theorie findet sich z. B. in meinem Buch „Einführung in die Moralpsychologie“, Weinheim: Beltz, 2008.

Der Beitrag Wie kommt die Moral in den Menschen? Kohlbergs Stufen der Moralentwicklung erschien zuerst auf Heidsite.