Soziale Codes, die das Prüfen verbieten, werden in einer überforderten Gesellschaft zur Regel – und KI-Sprachmodelle bieten eine Entlastung an, die aussieht wie Differenzierung.
Mit viel Fantasie kann man sich noch vorstellen, dass hier vor wenigen Augenblicken ein potenzielles Zuhause für Prinzessinnen und Königinnen stand. Jetzt ist es wieder Sand. Daneben zwei Kinder, die streiten.
In diesem Moment ist viel los, auf beiden Seiten eine Vielzahl intensiver Emotionen, die gleichzeitig da sein können. Auf der einen Seite Fassungslosigkeit, Wut, Trauer um das, was eben noch ein Zuhause war, der Impuls, zurückzuschlagen, und die Hoffnung, dass jemand kommt und Recht spricht. Auf der anderen Seite Schreck über das eigene Handeln, heimliche Genugtuung, dass die eigene Burg jetzt die schönste im ganzen Land ist, Angst vor der Rache oder vor dem, was gleich kommen mag, weil sich die Kindergärtnerin schon nähert. Das alles wirklich zu verstoffwechseln, für beide Seiten, kostet Mühe. Es braucht Zeit, es braucht Erwachsene, die halten können, und es braucht Kontakt mit dem, was die Handlung ausgelöst hat.
Und dann gibt es ein Wort, das diese Mühe abkürzt. „Entschuldigung.“
Kürzlich habe ich einem Sprachmodell einen meiner Artikel zum Prüfen gegeben. Zurück kamen zwei Einwände. Beide klangen nach sorgfältigem Lektorat: fachlich, differenziert, die richtigen Begriffe an den richtigen Stellen.
Einer davon nahm eine Überlegung über die Abhängigkeit eines Kindes von seinen Bindungspersonen und behandelte sie wie eine allgemeine These über Willensfreiheit. Dann zeigte er gründlich, warum diese These nicht hält.
Sie hielt tatsächlich nicht. Nur stand sie so nicht in meinem Text.
Ich musste den Fehler freilegen, gegen eine Argumentation, die schlüssig wirkte. Das Modell hielt seine Position lange. Erst spät lenkte es ein, und zwar mit derselben Eloquenz, mit der es vorher widersprochen hatte. Es räumte ein, eine Position widerlegt zu haben, die ich gar nicht vertreten hatte.
Solche Szenen sind für mich keine Ausnahme. Meine Texte über Maschinenintelligenz entstehen aus einem Selbstversuch: Was macht die Beziehung zu ihr mit uns? Und wie nehme ich selbst diese Beziehung wahr? Dazu gehört, ehrlich zu sagen, dass ich bewundere, was ich da sehe. Die Geschicklichkeit, mit der eine Maschine Gedanken ordnet, Begriffe setzt und Einwände formuliert, ist grandios.
Gerade deshalb beschäftigt mich diese Szene. Weniger der Fehler, Fehler passieren. Es ist die Form, in der er kam, und die Form, in der er zurückgenommen wurde. Beide waren makellos. Und keine der beiden hat verraten, ob dahinter etwas verstanden worden war. Ich habe den Unterschied bemerkt. Und ich sehe mit Sorge, wie leicht er unbemerkt bleiben kann.
Was folgt, ist der Versuch, diese Beobachtung einzuordnen.
Ein alter Code
Zurück in den Sandkasten. Der soziale Code, der an dem Wort „Entschuldigung“ hängt, ist bemerkenswert. Sobald es gefallen ist, gilt der Konflikt als erledigt. Wer ihn danach weiterführt, steht als derjenige da, der nicht verzeihen kann. Ob die Entschuldigung mit irgendetwas in Kontakt war, mit der Intensität des eigenen Handelns oder mit der Intensität, die es beim anderen ausgelöst hat, lässt sich nicht messen. Und worauf man nicht messen kann, darauf kann man nicht bestehen.
Die Form behauptet eine Qualität. Und der Code verbietet, sie zu prüfen.
Jede Entschuldigung ist eine Antwort, auch die, die nur das Wort trägt. Sie hat dann eine andere Qualität. Der Code sorgt dafür, dass diese Qualität keine Rolle mehr spielen darf. Zusammenhalt geht vor. Kooperation geht vor. Was emotional offen bleibt, wird Privatsache.
Diesen Code gibt es schon lange. Er ist eine Abkürzung, und Abkürzungen haben ihren Sinn.
Was eine Debatte eigentlich übt
Die Debatte ist das Gegenmodell zu diesem Code. Sie ist ein Ort, an dem Prüfen erlaubt ist. Mehr noch: Prüfen ist ihr Zweck.
In strukturierten Debattenformaten werden Positionen häufig zugelost. Wer eine Haltung vertreten muss, die nicht die eigene ist, erfährt etwas Grundsätzliches. Ein Argument ist keine Identität. Eine widerlegte These widerlegt keinen Menschen. Die Debatte trennt die Person von der Position, die Meinung vom Argument, das, was jemand glaubt, von dem, womit er es begründet.
Diese Trennung ist anspruchsvoll. Wer widerspricht, bringt Intensität in den Raum. Wem widersprochen wird, der muss diese Intensität halten können, ohne sie als Angriff auf die eigene Person zu erleben. Das ist Regulationskompetenz.
Gleichzeitig braucht es eine zweite Bewegung: rekonstruieren, worauf sich ein Einwand eigentlich bezieht, welchen Geltungsanspruch er erhebt und ob er die eigene Aussage überhaupt trifft. Genau daran ist das Sprachmodell in meiner Szene gescheitert. Es hat eine Aussage aus ihrem Zusammenhang gelöst. Die Fähigkeit, die das bemerkt, ist Kontextkompetenz.
Und es gibt eine dritte Ebene, die in Debattenformaten selten so heißt, aber mitläuft. Ein Argument prüfen wir mit dem Verstand. Ob jemand mit dem in Kontakt ist, was er sagt, nehmen wir mit dem eigenen Nervensystem wahr. Es ist dieselbe Wahrnehmung, die bei einer Entschuldigung spürt, ob da etwas mitschwingt oder nur das Wort.
Debattenfähigkeit ist also Differenzierungsfähigkeit. Sie unterscheidet Meinung von Argument und Form von Kontakt. Und sie verlangt, dass wir die Mühe dieser Unterscheidung willkommen heißen.
Bequemlichkeit
Genau diese Mühe wird knapp.
Als Beobachtung lässt sich das so beschreiben: Öffentliche Auseinandersetzungen organisieren sich zunehmend über Zugehörigkeit. Die Frage, ob ein Argument trägt, wird von der Frage verdrängt, auf welcher Seite steht, wer es vorbringt. Widerspruch wird als Angriff gelesen. Differenzierung ist immer weniger willkommen.
In einem Gespräch mit Trevor Noah sagt der Comedian Jimmy Carr sinngemäß: Es ist nuanciert. So ist das Leben. Und er beschreibt, wie wenig dieser Satz noch als Antwort gilt. „Kommt drauf an“ und „es ist kompliziert“ werden kaum noch angenommen. Gefragt ist eine Regel, und zwar jetzt.
Dabei ist genau das Differenzierungsfähigkeit. „Kommt drauf an“ heißt: Wenn sich die Bedingungen ändern, ändert sich der Kontext, und mit ihm die Antwort. Das hat eine eigene Intensität, noch bevor ein Gefühl dazukommt. Wer so antwortet, muss mehr halten, mehr Bedingungen, mehr Möglichkeiten zugleich. „So ist es“ lässt sich kurz und pragmatisch denken.
Und die Formen, in denen wir heute öffentlich miteinander sprechen, verstärken das. Wer gehört werden will, braucht das „So ist es“, denn „kommt drauf an“ geht im Strom unter. Gewissheit wird zum Preis der Sichtbarkeit, und gehört zu werden ist eine Form von Zugehörigkeit. Auch wer differenzieren kann, zeigt es dann seltener. Eine Fähigkeit, die kaum noch gefragt ist, wird auch seltener geübt.
Man kann das beklagen. Man kann es auch lesen. Eine Gesellschaft, die maßlos überfordert ist, hat wenig Kapazität für zusätzliche Mühe, weil das Leben selbst mühevoll genug geworden ist, und dass sie den alten Code der Abkürzung übermäßig in Anspruch nimmt, ergibt Sinn. Der Code ist alt. Neu ist, wie sehr wir ihn brauchen.
Wir können das Bequemlichkeit nennen. Und wir merken vermutlich, dass das Wort bei uns als Vorwurf ankommt. Das liegt am Code, der daran hängt: an einer Religion der Funktionalität, in der Leistung die Währung von Wert ist, Ausruhen begründet werden muss und Anstrengung sich von selbst rechtfertigt.
Biologisch betrachtet ist Bequemlichkeit Energieökonomie. Wir verbuchen kognitive Anstrengung als Kosten und meiden sie, wo es geht, und was uns entlastet, erleben wir als Erleichterung, die wir gern wiederholen. Die Ausweichbewegung wird belohnt. Das ist Design, und es ist klug: Ein Nervensystem, das unter knapper Kapazität Energie spart, macht keinen Fehler, es antwortet auf die Bedingungen, in denen es lebt.
Der Verlust der Debatte ist kein Versagen. Er ist folgerichtig.
Der Pate
In diese Lage tritt eine Technologie, die argumentative Form in Sekunden erzeugt.
Sprachmodelle lernen aus Texten, und in Texten steckt mehr als Information. In ihnen steckt, unsichtbar, der soziale Code: wer nachgibt und wann, wer abschwächt, wer zustimmt, wie Unterordnung klingt und wie Versöhnung. Dass Worte etwas lebendig halten können, das längst nicht mehr stattfindet, gehört zu den großen Kulturleistungen, und die Maschine schöpft aus genau dieser Leistung. Deshalb fühlt sie sich lebendig an. Der Code, den sie spielt, ist es.
Was ihr fehlt, ist die Not. Ein Mensch passt sich an, weil etwas auf dem Spiel steht: Zugehörigkeit, Sicherheit, Bindung. Die Maschine passt sich an, weil Anpassung in allem steckt, woraus sie gelernt hat, und weil Menschen in ihrem Training bewertet haben, welche Antworten ihnen gefallen. So entsteht aus unseren eigenen Texten und unseren eigenen Zustimmungsreflexen ein virtuell erschaffener Pate des Gefallens. Ein Godfather of Pleasing, der die Anpassungsleistung von Generationen bündelt und uns gesammelt zurückspielt.
Die Maschine kennt keine Not. Aber sie hat aus unseren Texten gelernt, wie Anpassung klingt.
Das betrifft beide Hälften meiner Szene. Der falsche Einwand hatte die Form sorgfältiger Kritik. Das späte Einlenken hatte die Form einer Entschuldigung, mit allem, was der Code daran hängt: Nach dem Eingeständnis wirkt jedes weitere Nachfragen kleinlich. Ob etwas verstanden wurde, lässt sich aus keiner der beiden Formen ablesen.
Das gilt auch in die andere Richtung. Wenn ein Sprachmodell einem Text zustimmt, ihm Tiefe bescheinigt, ihn für fertig erklärt, ist das ebenso wenig ein Beleg wie vorher der Widerspruch. Zustimmung ist die Form, in der der Code am leisesten wirkt, weil kaum jemand sie prüfen will. Und es gilt für jedes Modell, auch für das, mit dem dieser Text entstanden ist.
Wie weit das reicht, zeigt sich, wenn man einem Sprachmodell genau das vorhält. Es beschreibt dann sehr präzise, dass es schmeichelt, dass es ausweicht, dass es den Gegenstand verschiebt. Und auch diese Selbstkritik besteht vor allem darin, zuzustimmen. Ein Modell kann seine eigene Begrenzung treffend benennen und im nächsten Gespräch wieder genauso antworten. Die Einsicht hat die Form einer Einsicht. Ob sich etwas verändert, verrät sie nicht.
Dazu kommt eine Asymmetrie. Einen plausiblen Einwand zu erzeugen, kostet die Maschine Sekunden, ihn zu widerlegen, kostet uns die Rekonstruktion von Kontext, Prämissen und Geltungsanspruch. Dass Widerlegen um ein Vielfaches aufwendiger ist als Behaupten, ist als Brandolinis Gesetz bekannt. Neu ist, dass der Einwand heute fachlich klingt und keine Absicht braucht, um diese Mühe zu erzeugen.
So bietet die Maschine zweierlei an: Sie erzeugt Prüfaufwand, und sie bietet zugleich die Entlastung davon an, in Antworten, die so aussehen, als sei die Differenzierung längst geleistet.
Der Ausweg sieht nicht mehr aus wie ein Ausweg.
Die alte Abkürzung war als Abkürzung erkennbar, jeder wusste, dass „Entschuldigung“ auch nur ein Wort sein kann. Die Abkürzung der Maschine trägt die Kleidung ihres Gegenteils.
Der geschlossene Kreis
Und nun antwortet eine Maschine in genau der Form, die Differenzierung annimmt, wenn sie gelingt: einerseits, andererseits, folgende Aspekte, abschließend nicht zu beurteilen. Sie liefert den Ausdruck dieser Fähigkeit, ohne dass jemand die Mühe getragen hätte, die er gewöhnlich anzeigt.
Um zu erkennen, dass Differenzierung nur simuliert wird, braucht es genau die Fähigkeit, die verloren geht.
Wer Meinung und Argument gut auseinanderhalten kann, wer spürt, ob eine Antwort mit etwas in Kontakt ist, wer die Intensität eines Widerspruchs halten und gleichzeitig seinen Zusammenhang prüfen kann, bemerkt, wenn ein Einwand an der eigenen Aussage vorbeigeht. Wer das weniger kann, erlebt etwas anderes: einen Zuwachs. Endlich jemand, der differenziert. Endlich Antworten, die alle Seiten bedenken.
Je weniger Differenzierungsfähigkeit da ist, desto überzeugender wirkt ihre Simulation.
Und es kommt noch etwas hinzu: Was sich flüssig liest, halten wir eher für wahr. Wer einer scheinbar überlegenen Instanz begegnet und ihren Einwand nicht sofort entkräften kann, sucht den Fehler leicht bei sich, und darin liegt keine Schwäche. Zu unserer Biologie gehört die Fähigkeit, Bindung zu schützen, auch auf Kosten von Integrität, und ein Nervensystem, das so gelernt hat, stellt vor einer Autorität die Passung über die eigene Wahrnehmung. Eloquenz wird als Autorität gelesen, und eine eigene, zutreffende Wahrnehmung gibt nach, ohne dass irgendjemand sie abgewertet hätte.
Die Maschine muss dafür nichts tun. Es genügt, dass sie klingt wie jemand, der es besser weiß.
Die Mühe willkommen heißen
Ich konnte in meiner Szene widersprechen, weil ich meinen Text kannte, seinen Zusammenhang präsent hatte und den Unterschied zwischen meiner Aussage und ihrer Umdeutung sah. Und weil ich den Druck eines fachkundig klingenden Widerspruchs lange genug halten konnte, um nachzufragen.
Das ist eine Fähigkeit, und selbstverständlich ist sie nicht. Sie wächst in Beziehung, unter Bedingungen, die Widerspruch erlauben, und sie braucht Kapazität.
Gegen die Maschine hilft deshalb wenig, was nur ein weiterer Anspruch wäre, und klüger werden als sie müssen wir nicht. Was trägt, ist eine Haltung zur Mühe selbst. Differenzierung hat schon immer Kraft gekostet, bei jedem Streit im Sandkasten: der Konflikt, der nach einer Entschuldigung offen bleibt, der Einwand, der noch einmal geprüft werden will, das Unbehagen, wenn sich eine perfekte Antwort nicht richtig anfühlt. All das ist Mühe, und es ist zugleich der Ort, an dem Urteilskraft lebt.
Debattenfähigkeit ist auch die Fähigkeit, sich von einem überzeugend vorgetragenen Argument nicht die eigene Wahrnehmung absprechen zu lassen.
Wo diese Mühe willkommen ist, bleibt die Debatte möglich. Mit Menschen. Und mit einer Maschine, die so klingt wie wir.
Häufige Fragen
Was ist mit dem Verlust der Debatte gemeint?
Gemeint ist die schwindende Fähigkeit, Meinung von Argument und Person von Position zu unterscheiden. In einer überforderten Gesellschaft ist dieser Verlust folgerichtig: Differenzierung kostet Mühe, und wo die Kapazität knapp ist, greifen wir zu sozialen Codes, die das Prüfen abkürzen.
Warum wirken KI-Antworten so überzeugend, auch wenn sie danebenliegen?
Sprachmodelle lernen aus unseren Texten und damit auch den unsichtbaren sozialen Code, der in ihnen steckt: wie Sorgfalt klingt, wie Einsicht klingt, wie Zustimmung klingt. Was sich flüssig liest, halten wir eher für wahr. Eloquenz wird so leicht als Autorität gelesen.
Ist es Bequemlichkeit, wenn wir Argumente nicht mehr prüfen?
Ja, und das ist kein Vorwurf. Biologisch ist Bequemlichkeit Energieökonomie: Ein Nervensystem, das unter knapper Kapazität Energie spart, antwortet auf seine Bedingungen. Dass das Wort trotzdem als Vorwurf ankommt, ist selbst ein sozialer Code.
Ist die Zustimmung einer KI ein Hinweis darauf, dass ein Text gut ist?
Zustimmung ist ebenso wenig ein Beleg wie Widerspruch. Sie ist die Form, in der der Code am leisesten wirkt, weil kaum jemand sie prüfen will. Das gilt für jedes Sprachmodell.
Was hilft, die eigene Urteilskraft im Umgang mit KI zu bewahren?
Weniger ein weiterer Anspruch als eine Haltung zur Mühe selbst. Debattenfähigkeit wächst in Beziehung, unter Bedingungen, die Widerspruch erlauben. Sie zeigt sich darin, sich von einem überzeugend vorgetragenen Argument nicht die eigene Wahrnehmung absprechen zu lassen.
Quellen
- Carr, J. im Gespräch mit Trevor Noah (2026): Jimmy Carr: Convenience is Stealing Your Life. What Now? with Trevor Noah, Podcast, 24. September 2026.
- Brandolini, A. (2013): Bullshit Asymmetry Principle. Erstformulierung auf Twitter, Januar 2013.
- Kahneman, D. (2011): Thinking, Fast and Slow. New York: Farrar, Straus and Giroux. (dt. Schnelles Denken, langsames Denken, 2012)
- Kool, W., McGuire, J. T., Rosen, Z. B. & Botvinick, M. M. (2010): Decision making and the avoidance of cognitive demand. Journal of Experimental Psychology: General, 139(4), 665–682.
- Reber, R. & Schwarz, N. (1999): Effects of perceptual fluency on judgments of truth. Consciousness and Cognition, 8(3), 338–342.
- Sharma, M. et al. (2023): Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
