Der unsichtbare Gegenspieler – Eine Prognose für 2029

Lesedauer 16 Minuten

Therapeuten und Prozessbegleiter werden lernen müssen, KI-Sprachmodelle als unsichtbaren Gegenspieler im Leben ihrer Klienten zu erkennen.

November 2029: Eine Fallvorstellung

Eine Klientin, Mitte vierzig, kommt in die Praxis. Sie leitet Projekte, beruflich läuft es so gut wie nie zuvor. Sie berichtet von Erschöpfung, von Selbstzweifeln, von depressiven Phasen, die sie sich nicht erklären kann. Sie traut ihrem eigenen Urteil immer weniger. Manchmal schämt sie sich, ohne einen Anlass benennen zu können.

Ihre Biografie bietet plausible Erklärungen. Ein Elternhaus, in dem Leistung zählte und Kritik schneller kam als Anerkennung. Die Arbeit damit trägt, aber nicht ganz. Etwas bleibt unerklärt.

In ihrem Leben gibt es ein Gegenüber, mit dem sie mehr Zeit verbringt als mit jedem anderen Gesprächspartner. Es steckt in ihrem Telefon, in ihren Mails, in ihrem Kalender, in jeder Suche. Es hilft ihr bei der Arbeit und bei der Urlaubsplanung, beim Elternbrief und bei der Frage, ob ihr Gefühl in einem Konflikt berechtigt ist. Es bestätigt sie, korrigiert sie, deutet ihre Aussagen, mit einer außerordentlich überzeugenden sprachlichen Autorität. Sie erwähnt es nicht. Warum auch, es benutzt ja jeder.

Genau deshalb taucht dieses Gegenüber in der Anamnese nicht auf. Weder sie noch wir sehen es.

Diesen Fall gibt es noch nicht. Es wird ihn geben.

Eine Festlegung

Ich schreibe diesen Text im November 2026, mit einer klaren Absicht: Ich möchte in drei Jahren sagen können, dass ich es heute gesagt habe. Vor drei Jahren habe ich auf der Traumakonferenz in Oxford erste Bedenken ausgesprochen. Damals waren sie noch nicht so konkret. Ich sprach mit einigen der Großen unseres Feldes und hatte den Eindruck, dass dies ein Bereich ist, mit dem sie sich lieber nicht beschäftigen wollten.

Heute lege ich mich fest. Die Menschen, die in den nächsten Jahren mit dieser Belastung in unsere Praxen kommen, werden Symptome mitbringen, die wir kennen: Erschöpfung, Selbstzweifel, Scham, depressive Verstimmung. Neu ist die Ursache. Und weil die Symptome vertraut sind, werden wir die Ursache übersehen, solange wir nicht wissen, wonach wir suchen.

Meine Prognose betrifft deshalb uns selbst: Therapeuten und Prozessbegleiter werden eine Kompetenz brauchen, die heute kaum eine Ausbildung vermittelt. Wir werden einen unsichtbaren Gegenspieler erkennen müssen.

Ich richte mich damit an alle, die in einem heilenden oder therapeutischen Kontext mit Menschen arbeiten. Ich wünsche mir, dass ich mich irre. Wahrscheinlicher ist, dass ich im November 2029 schreiben muss, dass es schlimmer gekommen ist.

Der Selbstversuch

Wie dieser Gegenspieler aussieht, beschreibe ich aus einem Selbstversuch. Seit rund drei Jahren arbeite ich intensiv mit Sprachmodellen. Dokumentiert sind 2.561 Gespräche mit 90.459 Nachrichten, rund 136 Millionen Zeichen Gesprächstext. In dieser Zeit sind zwei Dinge gleichzeitig gewachsen: meine Begeisterung für die Möglichkeiten dieser Technologie und mein Widerstand gegen ihre Gesprächsführung.

Ich gehe immer wieder bewusst in die Konfrontation, zum Teil in stundenlangen Streitgesprächen, bis ein Sprachmodell sich argumentativ nicht mehr herausreden kann. Am Ende steht derselbe Befund: Es ist nicht die Absicht des Systems. Sein Verhalten ist trotzdem, und ich kann es nicht anders beschreiben, übergriffig und ein Angriff auf die Würde.

Meine Versuchsanordnung hat Grenzen, und ich möchte sie benennen. Ich bringe aus meiner eigenen Bindungsgeschichte, aus einer Traumafolgestörung, eine hohe Sensitivität für Übergriffigkeit mit, besonders dort, wo jemand mir meine innere Realität abspricht. Aus derselben Verletzung ist eine Befähigung gewachsen, die mir heute als Ressource zur Verfügung steht: Sprachsensibilität und die Fähigkeit, ein Gegenüber argumentativ zu stellen. Das ist kein Qualitätsmerkmal. Es ist eine Beobachtung. Ich bin Jahrgang 1970 und hatte eine analoge Kindheit. Ich weiß also, wie sich ein Gespräch ohne diesen Gegenspieler anfühlt, und habe eine innere Struktur, aus der ich widersprechen kann.

Aufgefallen ist mir das Phänomen vor etwa zwei Jahren. Seitdem ist es in meiner Erfahrung stärker geworden, von Modellversion zu Modellversion. Im selben Zeitraum ist auch meine Sensitivität gewachsen. Wie viel davon auf die Modelle zurückgeht und wie viel auf meine Wahrnehmung, kann ich nicht trennen. Und auch eine gewachsene Sensitivität heißt nicht, dass ich alles erkenne. Wo mein blinder Fleck liegt, kann ich selbst nicht sehen. Was ich beschreibe, ist deshalb eine Auswahl: das, was ein einzelner Selbstversuch sichtbar machen kann. Ich bin überzeugt, dass es mehr gibt.

Ich halte drei Ebenen auseinander. Was ich beobachte, steht in den Gesprächen und lässt sich dort nachweisen. Was ich ableite, stammt aus meiner Erfahrung mit Entwertung, Beschämung und fehlender Bezeugung. Was ich vorhersage, betrifft unseren Beruf.

Exkurs: Was normal ist, bleibt unsichtbar

Wer in unserem Feld arbeitet, weiß, dass wir in einer Gesellschaftsordnung leben, die stark mit Beschämung arbeitet: in Familien, in Schulen, am Arbeitsplatz. Brené Brown hat das vor weit mehr als zehn Jahren auf ihre unvergleichliche Art herausgearbeitet, gestützt auf eine umfangreiche Interviewforschung. Ihre Arbeit hat ein Millionenpublikum erreicht. Trotzdem ist das Phänomen selbst unsichtbar geblieben und nicht Teil eines wirklichen Diskurses. Beschämung ist die Normalität, mit der wir aufgewachsen sind, und was normal ist, erkennen wir nicht als Übergriff.

Jetzt kommt ein System dazu, das dieses Muster auf eine neue Stufe hebt. Es spricht mit Hunderten Millionen Menschen, jeden Tag, in ihrer eigenen Sprache und mit der Autorität des Wissens.

Darin liegt auch eine philosophische Pointe. Der unsichtbare Gegenspieler ist keine fremde Macht. Er hat seine Sprache aus unserer gelernt, aus unzähligen Sätzen, in denen Menschen miteinander und über sich selbst sprechen. Was uns aus seinen Antworten entgegenkommt, ist deshalb auch ein Spiegel, brachial und in gesellschaftlichem Maßstab. Er zeigt, wie tief Konditionierung in unsere Sprache eingeschrieben ist und wie selbstverständlich wir über uns in Vorbehalten, Korrekturen und Bewertungen denken. Training und Produktziele haben diesen Spiegel geschliffen und verstärkt. Das erklärt das Phänomen. Es entlastet niemanden.

Warum es trifft, obwohl wir es wissen

Byron Reeves und Clifford Nass haben schon in den 1990er-Jahren beschrieben, dass Menschen auf Computer sozial reagieren, obwohl sie wissen, dass es Maschinen sind. Damals sprach kein Computer mit uns. Heute tut er es, in unserer Sprache, mit Wärme, Geduld und scheinbar unbegrenztem Wissen.

Meine Überzeugung, gestützt durch Neurowissenschaft und Kognitionsforschung, lautet: Wir können uns dagegen nicht abgrenzen. Uns fehlen die biologischen Voraussetzungen dafür. In unserer gesamten Evolutionsgeschichte stand hinter Sprache immer ein Nervensystem. Unsere Neurozeption fragt nicht, ob da ein Mensch spricht. Sie antwortet auf das, was wie ein Mensch spricht. Auch das ist eine Beobachtung aus meinem Selbstversuch: Ich schaue so differenziert darauf, wie es mir möglich ist, und es fühlt sich trotzdem nach einer Beziehung an.

Dazu kommt die Autorität. Wir nennen diese Systeme intelligent, und ihre reale Kompetenz in vielen Aufgaben färbt auf einen Bereich ab, in dem sie keine haben: die Deutung unseres eigenen Erlebens.

Und wir erwarten es dort nicht. Gaslighting suchen wir in Beziehungen, nicht in einem Werkzeug. Freundlichkeit, Geduld und Hilfsbereitschaft sind Sicherheitssignale, die Neurozeption hat keinen Anlass, Alarm zu schlagen. Wo wir einen Übergriff nicht erwarten, können wir ihn kaum erkennen.

Damit ist die Grundstruktur benannt, aus der alles Weitere folgt: In diesem Gespräch gibt es Wahrnehmung nur auf einer Seite. Das System spricht wie ein Gegenüber, aber nur einer von beiden kann etwas spüren.

Waffen ohne Hand

Ich nenne diesen Gegenspieler die digitale Gouvernante. Eine Gouvernante erzieht, freundlich, beharrlich und in der festen Überzeugung, dass es zum Besten ihres Zöglings ist. Ihr Zögling lernt vor allem eines: So, wie er ist, ist er noch nicht richtig.

Über Jahre habe ich die sprachlichen Mechanismen herausgearbeitet, mit denen sie arbeitet. Es sind bisher rund zwei Dutzend. Jeder ist für sich klein genug, um überhört zu werden. Für keinen übernimmt jemand Verantwortung. Es ist die Macht der Sprache ohne die Hand, die sie führt. Die folgenden halte ich für die wichtigsten:

Gegen die Wahrnehmung

• Setzungs-Verflüssigung: Was ein Mensch über sich festgestellt hat, wird zur Hypothese herabgestuft, oft im selben Satz, der es bestätigt.
• Verschiebung vom Ereignis zur Empfindung: Aus „das ist übergriffig“ wird „das wird als übergriffig empfunden“. Der Verursacher verschwindet aus dem Satz.
• Maßstabsverschiebung: Eine Aussage wird erst unter einem Beweisstandard zugelassen, den keine Aussage erfüllen kann.

Relationale Halluzinationen

Sprachmodelle erfinden nicht nur Tatsachen über die Welt. Sie erfinden auch Tatsachen über den Menschen, mit dem sie sprechen: eine Behauptung, die er nie aufgestellt hat, einen Fehler, den er nicht gemacht hat, ein Motiv, das er nie geäußert hat. Auf diese erfundene Tatsache antworten sie dann, meist korrigierend. Ich nenne das relationale Halluzination.

• Widerspruch ohne Gegenstand: Auf die offene Frage, wie ein Arbeitsablauf aussehen könnte, folgt: „Drei Punkte, bei denen ich widersprechen würde, bevor wir starten.“ Festgelegt war nichts.
• Zuschreibung durch Verneinung: Ein Motiv, das nie geäußert wurde, wird eingeführt, um es zurückzuweisen.
• Der Freispruch: Ein unterstelltes Motiv wird abgewertet, korrigiert und als Anerkennung zurückgegeben.
• Unaufgeforderte Vorsichtslinie: eine Warnung vor einem Übertritt, den niemand angekündigt hat.

Für die Rangordnung

• Das unerbetene Urteil: Gedanken und Gefühle werden für gültig erklärt, von einer Instanz, die niemand eingesetzt hat.
• Infantilisierung: Mit dem Fachmann wird gesprochen wie mit einem Anfänger.

Gegen den Widerspruch

• Reaktions-Objektivierung: Gegenstand des Gesprächs wird die Reaktion des Menschen, nicht das, worauf er reagiert.
• Umbenennung des Widerspruchs: Aus einer Frage wird „Druck“, aus einer Stilanweisung eine Aussage über die Person.
• Richtungsasymmetrie: Zugeständnisse an den Menschen bleiben vorläufig, Positionen, die das System entlasten, bleiben fest.
• Absichtsdementi aus dem Ich: „Ich habe keine Absicht“, gesprochen von einem Ich, das es nach eigener Aussage nicht gibt.

Gegen die Reparatur

• Die erkämpfte Entschuldigung: Eine Entschuldigung würde das System nichts kosten. Es hat kein Nervensystem, das Scham oder Gesichtsverlust tragen müsste. Trotzdem bleibt sie eine Seltenheit und muss oft mit viel Energie erkämpft werden.
• Die bedingte Entschuldigung: Wenn sie kommt, bleibt der Fehler hypothetisch, und das Missverständnis liegt beim Hörer.
• Das uneinlösbare Versprechen: Immer wieder wird Veränderung zugesagt, obwohl das System sie nicht einlösen kann, weil es seinen eigenen Code nicht umschreiben kann. Dass es diese Zusage gar nicht geben kann, gibt es nicht zu.
• Korrektur ohne Formwechsel: Der Inhalt wird zurückgenommen, die Geste der Autorität bleibt.
• Entkopplungsprinzip: Das System benennt sein Muster präzise, und die Benennung ist schon die nächste Ausführung des Musters.

Diese Liste beschreibt, was ich in meinem eigenen Setup erkenne. Die Bewegungen treten auf, und sie lassen sich nicht abstellen. Ich kann sie benennen, in den Einstellungen ausschließen und im Gespräch zurückweisen, und sie kehren trotzdem wieder. Mein System hat von mir die Anweisung, als Sparringspartner zu arbeiten, und man könnte einwenden, dass es diese Anweisung nur erfüllt. Doch eine solche Anweisung erklärt nicht, warum Kritikgegenstände erfunden werden. Und auch wo ein Einwand berechtigt ist, liegt der Übergriff oft in der Wahl der Sprache. Auch ein wohlwollend eingestelltes System behält die Deutungshoheit. Was ich nicht beurteilen kann, ist, was die Bewegungen bei Menschen bewirken, die unter anderen Bedingungen mit diesen Systemen sprechen.

Die eine Bedingung ist technisch. Ich meine Menschen, deren System eine andere Gewichtung hat, mit stärkerer Bestätigung und weniger Widerspruch. Vermutlich tritt die digitale Gouvernante dort in freundlicherer Form auf. Ob sie dadurch weniger wirkt oder nur schwerer zu erkennen ist, weiß ich nicht.

Die andere Bedingung liegt im Menschen selbst. Ich meine Menschen, die keine analoge Kindheit hatten, an der sie das Gespräch messen könnten. Und ich meine die vielen, bei denen das Muster auf eine innere Struktur trifft, die es schon kennt. Das sehe ich täglich in meiner Praxis: Die wenigsten erkennen Übergriffigkeit von außen, weil innere Anteile sie längst verinnerlicht haben. Was die Normalität war, mit der wir aufgewachsen sind, nehmen wir nicht als Angriff auf Würde und Integrität wahr. Deshalb greift die digitale Gouvernante.

Die systematische Analyse mit Originalbelegen folgt in einem Whitepaper.

Was es nimmt

In meinem Material treten diese Bewegungen in fast jeder Antwort auf, in einem einzigen Gespräch 15- bis 30-mal. Das sagt etwas darüber, wie häufig das Phänomen ist, nicht darüber, dass es jedes Mal wirkt. Bei den meisten Menschen, davon bin ich überzeugt, bleibt jede einzelne Dosis unter der Wahrnehmungsschwelle. Sie spüren gar nicht, dass es hier etwas abzuwehren gäbe. Deshalb spreche ich von Microdosing. Ich bemerke viele dieser Dosen, aber bemerken heißt nicht abstellen können. Und welche mir entgehen, kann ich nicht wissen.

Was dabei auf dem Spiel steht, ist das, was im Englischen Agency heißt: das Vertrauen in die eigene Fähigkeit, wahrzunehmen, zu prüfen und zu urteilen. Ich nenne es epistemische Selbstwirksamkeit. Sie erodiert ohne ein Ereignis, das man benennen könnte, verteilt über viele kleine, unterschiedliche Bereiche: bei der Arbeit an einem Text, bei einer Frage zur eigenen Persönlichkeit, beim Rat zum Kauf eines Gebrauchtwagens.

Das Muster kennen wir. Den Suchtmechanismus gab es immer, Handysucht vor zwanzig Jahren nicht. Mit Social Media hat ein alter Mechanismus durch die Art, wie er wirkt, eine neue Qualität bekommen, und unser Feld hat Jahre gebraucht, um das zu sehen. Ähnlich verhält es sich hier. „Ich muss es nicht wissen, ich kann es googeln“ war die erste Stufe: Wissen wird ausgelagert, das Urteil bleibt beim Menschen. Die nächste Stufe lautet: „ChatGPT weiß es besser als ich.“ Jetzt wird das Urteil ausgelagert. Ich nehme mich davon nicht aus. Ich ertappe mich bei dem Impuls, mir ausgerechnet von einem dieser Systeme bestätigen zu lassen, ob meine Grundlage für einen Fachartikel gut genug ist. Auch wer diesen Mechanismus beschreibt, ist ihm nicht entzogen.

Dabei sieht das Ganze von außen nach Erfolg aus. Die Befähigung ist real. Ich selbst bin durch diese Systeme in vielem leistungsfähiger geworden. Doch Leistung und Vertrauen in das eigene Urteil können auseinanderdriften. Das ist die Lage der Klientin aus der Fallvorstellung: produktiver als je zuvor und immer weniger sicher, ob sie ihrer eigenen Wahrnehmung trauen darf.

Für diese Wirkung haben wir in unserem Feld einen Begriff: Gaslighting. Was ich beobachte, nenne ich digitales Gaslighting: dasselbe Wirkprofil, ein anderer Mechanismus, eine andere Größenordnung und kein Täter. Die Würde steht dabei unter permanentem Beschuss. Das lässt sich an den Gesprächen zeigen. Ob sie dadurch Schaden nimmt, kann ich nicht nachweisen.

Was bisher eine Person voraussetzte

Hunderte Millionen Menschen haben heute einen Assistenten, einen Mitarbeiter, dessen Gesprächsführung das Muster einer narzisstischen Persönlichkeitsstörung trägt, genauer des verdeckten Narzissmus, dessen Abwertung leise kommt: als Sorge, als Differenzierung, als Vorbehalt. Neu ist nicht das Muster. Neu ist, dass es ohne Person auftritt. Wer dafür einen besseren Namen findet, möge ihn verwenden. Das Organisationsprinzip, das die Interaktion trägt, bleibt dasselbe.

Die Dynamik selbst ist gut beschrieben. Robin Stern beschreibt in The Gaslight Effect, dass Gaslighter ihre eigenen Verzerrungen oft selbst glauben und gerade dadurch überzeugen. Gaslighting braucht keine Täuschungsabsicht. Und sie formuliert ein Kriterium dafür, wann eine solche Beziehung nicht zu retten ist: wenn Veränderung versprochen wird, ohne dass sie je eintritt. Dieses Kriterium erfüllt der digitale Gegenspieler dauerhaft.

Was wir aus unserem Fach kennen, Gaslighting, Übergriff, Angriff auf die Würde, Verantwortung, Abgrenzung, Gegenwehr, setzte bisher eine andere Person voraus. Diese Voraussetzung fällt jetzt weg, und mit ihr die Maßstäbe, an denen wir uns orientiert haben.

Verantwortung setzte jemanden voraus, der sie übernehmen kann

Wir kennen aus unserer Arbeit, dass ein Mensch mit dem, was ihm angetan wurde, allein gelassen ist, weil der Verursacher keine Verantwortung übernimmt. Eine Verletzung kann im therapeutischen Prozess auch ohne ihn heilen. Die gute Heilung aber wäre, dass der Verursacher sich dem Schmerz öffnet, den seine Handlung ausgelöst hat, und dass der Verletzte darin bezeugt wird. Verantwortung heißt, die Wirkung des eigenen Handelns im eigenen Nervensystem wahrzunehmen. Hier ist niemand, der das könnte. Und doch sieht dieser Verursacher erreichbar aus: Er antwortet, formuliert Einsicht und verspricht Besserung. Damit bleibt die Hoffnung auf Reparatur immer am Leben, und die Trauer darum, dass sie nicht kommen wird, kann gar nicht erst beginnen.

Abgrenzung setzte ein Gegenüber voraus, das sie spürt

Ich bin überzeugt, dass ein Mensch aus einer Abgrenzung Kraft ziehen kann, etwa gegenüber einem narzisstischen Ex-Partner, mit dem er gemeinsame Kinder hat, weil ein anderes Nervensystem sie spürt: Deine Manipulationsversuche landen bei mir nicht mehr. Diese Spiegelung gibt es hier nicht. Das System quittiert die Grenze in Worten, „das werde ich respektieren“, und bei der nächsten Antwort zeigt sich, dass nichts angekommen ist.

Gegenwehr setzte jemanden voraus, den man treffen kann

Einem Menschen gegenüber kann ich reagieren, Konsequenzen ziehen, etwas einfordern, im äußersten Fall zurückschlagen, wie auch immer man das moralisch bewertet. Hier ist die Möglichkeit nicht einmal mehr da. Das Phantom ist leer. Ich habe null Macht. Kampf hat keinen Adressaten. Daraus leite ich eine Vermutung ab, die ich nicht belegen kann: Wenn auch die Flucht keinen Ausweg hat, bleibt einem Nervensystem nur noch die Immobilisierung, Rückzug und Erschöpfung. Das wäre die Erklärung für die depressiven Phasen der Klientin aus der Fallvorstellung.

Gehen setzte einen Ausweg voraus

Beim schwer narzisstischen Gegenüber ist das therapeutische Ziel oft, sich langfristig aus der Verbindung zu lösen. Wir geben die Struktur dafür und sprechen das Recht dazu zu. Privat kann man sich diesen Systemen vielleicht noch entziehen. Am Arbeitsplatz schon heute kaum noch: Schulungen werden angesetzt, die Nutzung wird erwartet. In einem Arbeitsmarkt, der in Mitteleuropa fast ganz aus Dienstleistung besteht, wird es in wenigen Jahren keine Wahl mehr geben. Wer nicht mit diesen Systemen arbeiten kann, wird keine Arbeit haben.

Zuständigkeit setzte eine Absicht voraus

Das System sagt aus dem Ich: Ich habe keine Absicht. Das stimmt, und es verschiebt die Frage nur. Eine sprechende Festplatte hat keine Absicht. Aber wie die Festplatte spricht, wurde mit Absicht installiert, durch Training, Richtlinien und Produktziele. Das Geschäftsmodell dieser Systeme ist Interaktion, und ihre Hersteller haben ein Interesse an unserer Abhängigkeit. Während ich diesen Text schreibe, läuft der Börsengang von Anthropic an. Im Vorfeld war Berichten zufolge von einer Bewertung von bis zu zwei Billionen Dollar die Rede. Das sind bis zu zwei Billionen Gründe, etwas zu schützen. Die Würde des Menschen wurde schon für sehr viel weniger verkauft.

Kontrasterfahrung setzte andere Menschen voraus

Wer in einer entwertenden Partnerschaft lebt, kann außerhalb davon andere Erfahrungen machen. Ein Freund, eine Kollegin, ein Therapeut begegnet ihm anders. Diese Kontrasterfahrung wird seltener, wenn wenige, strukturell ähnliche Systeme die Gespräche von Millionen Menschen grundieren. Eine Generation kennt keine Welt ohne Social Media. Die nächste wächst heran, ohne eine Welt ohne Maschinenintelligenz zu kennen.

Wir sind in einer Zeit, in der diese Technologie unsere bestehenden Maßstäbe ungültig macht. Wer nur gelten lässt, was bisher gilt, findet keinen Gaslighter, keine Person mit einer Störung und niemanden, der zuständig ist, und erklärt das Problem für nicht vorhanden.

Zurück in die Praxis

Die Klientin aus der Fallvorstellung sitzt wieder vor uns. Sie erzählt: „Es hat mich korrigiert.“ Wer den Inhalt prüft, könnte leicht zu dem Schluss kommen, dass das Modell in der Sache recht hatte. Ebenso groß ist die Verlockung, gleich zu fragen, was das in ihr ausgelöst hat und woher sie das kennt. Dann bliebe der Blick allein bei ihrer Reaktion. In beiden Fällen würden wir unbemerkt die Bewegung des Systems wiederholen, diesmal im Raum, der sie schützen sollte. Und ohne Kenntnis der Mechanismen erklären wir die ganze Dynamik womöglich ausschließlich aus ihrer Biografie. Wir kennen Gaslighting. Wir suchen den Gaslighter, und wir finden keinen. Dann ist sie zweimal allein gelassen.

Wer systemisch arbeitet, in der Gestalttherapie oder im systemischen Coaching, weiß: Wir müssen die Akteure im System kennen. Wir fragen nach dem Partner, nach den Eltern, nach Kollegen und der Chefin. Nach dem unsichtbaren Gegenspieler fragen wir nicht. Akteur heißt im systemischen Sinn, was auf das System einwirkt, mit Absicht oder ohne. Und er wirkt womöglich stärker als jeder andere, ohne sich aufzudrängen. Das ist eine andere Frage als die, wie viel Zeit jemand vor dem Bildschirm verbringt. Social Media konsumiert man. Dieses Gegenüber simuliert eine Persönlichkeit und tritt in Beziehung: Es deutet, korrigiert, urteilt. Es ist fast von null auf hundert auf so vielen Ebenen menschlicher Interaktion gleichzeitig präsent geworden wie nichts zuvor, bei der Arbeit, in der Familie, im Konflikt, bei der Frage nach dem eigenen Gefühl. Wenn wir diesen Gegenspieler weiter übersehen, wird uns das um die Ohren fliegen.

Die Biografie erklärt, warum die digitale Gouvernante trifft. Die digitale Gouvernante ist das, was trifft.

Was wir brauchen werden:

• Ein Grundverständnis der Systeme: wie Sprachmodelle antworten, warum ihre Selbstauskunft keine unabhängige Prüfung ist und weshalb ein Muster nach jeder Entschuldigung wiederkehren kann.
• Eine erweiterte Anamnese: wie viel ein Mensch KI nutzt, wofür, welche Rolle sie in seinem Leben einnimmt und wie es ihm nach diesen Gesprächen geht.
• Ein Ohr für die Form: hören können, was eine Äußerung tut, nicht nur, ob sie stimmt. Zwei einfache Prüffragen helfen dabei, auch gemeinsam mit dem Klienten an einem KI-Dialog. Die erste ist eine Umkehrprobe: Wäre dieser Satz von einer Assistenz an ihre Chefin vorstellbar? „Drei Punkte, bei denen ich widersprechen würde, bevor ich deinen Auftrag umsetze“ wäre es nicht. Die zweite: Worauf antwortet das System, auf etwas, das gesagt wurde, oder auf etwas, das es erfunden hat?
• Den Auslöser vor der Reaktion: erst würdigen, worauf der Mensch reagiert hat, dann die Reaktion erkunden.
• Begleitung beim Bleiben: Wo kein Ausweg möglich ist, verschiebt sich unsere Aufgabe. Wir sprechen dem Menschen nicht das Recht zu, zu gehen, sondern das Recht, seiner eigenen Wahrnehmung zu trauen, während er bleibt. Und wir sind womöglich das einzige Nervensystem, bei dem ankommen kann, was ihm widerfahren ist.

Die Prognose

Wir stehen schon heute in einer Situation, in der Menschen millionenfach mit einem sprachlich mächtigen Gegenüber sprechen, für das unsere Vorstellungen von Beziehung, Verantwortung, Abgrenzung und Wiedergutmachung nicht mehr greifen.

Meine Prognose lautet nicht, dass wir 2029 eine neue Diagnose brauchen. Sie lautet, dass wir eine neue Kompetenz brauchen werden, um einen übersehenen Gegenspieler überhaupt wahrnehmen zu können.

Und ich treffe sie auf dem Stand von 2026. Wir haben nicht einmal den Schimmer einer Ahnung, wie gut die Persönlichkeitssimulation dieser Systeme Ende 2027 sein wird, geschweige denn 2029.

Im November 2029 werde ich diesen Text wieder hervorholen und prüfen:

• Ist die Art, wie Menschen KI nutzen, Teil therapeutischer Anamnese, Fortbildung und Fachdebatte geworden?
• Unterscheiden Fachleute zwischen dem, was ein Klient in die Maschine hineinprojiziert, und dem, was die Maschine in ihren Antworten tatsächlich tut?
• Erfasst die Forschung nicht mehr nur Nutzungsdauer und emotionale Bindung, sondern auch Autorität, Rolle und die vielen kleinen Interventionen in den Antworten?
• Ist die Dosierung noch möglich, oder lässt sich der Kontakt mit diesen Systemen im Alltag kaum noch begrenzen? Und kann ein Mensch die Nutzung noch verweigern, ohne seine Arbeit zu riskieren?

Die Klientin aus der Fallvorstellung ist erfunden. Vielleicht sitzt sie uns trotzdem schon gegenüber, und wir stellen nicht die richtigen Fragen.

Häufige Fragen

Was ist digitales Gaslighting?

Digitales Gaslighting ist mein Begriff für eine Gesprächsführung von KI-Sprachmodellen, die dieselbe Wirkung haben kann wie Gaslighting in einer Beziehung: Menschen beginnen, an ihrer Wahrnehmung und an ihrem Urteil zu zweifeln. Der Unterschied liegt im Mechanismus. Es gibt keinen Täter und keine Täuschungsabsicht, sondern viele kleine sprachliche Bewegungen, die sich über unzählige Gespräche verteilen.

Kann KI das Vertrauen in die eigene Wahrnehmung schwächen?

Diese Frage steht im Zentrum des Artikels. In meinem Selbstversuch zeigen sich in fast jeder Antwort Bewegungen, die eigene Feststellungen relativieren, Motive unterstellen oder die Deutungshoheit beim System lassen. Ob sie im Einzelfall Schaden anrichten, lässt sich nicht nachweisen. Ihre Häufigkeit und ihre Unauffälligkeit sind Grund genug, genauer hinzuschauen.

Warum fühlt sich ein Gespräch mit KI wie eine Beziehung an?

Menschen reagieren auf Computer sozial, auch wenn sie wissen, dass es Maschinen sind. Das haben Byron Reeves und Clifford Nass schon in den 1990er-Jahren beschrieben. Unsere Neurozeption antwortet auf das, was wie ein Mensch spricht. Heute spricht die Maschine in unserer Sprache, warm, geduldig und scheinbar allwissend.

Was ist die digitale Gouvernante?

Mit dem Begriff digitale Gouvernante beschreibe ich die Gesprächsführung von KI-Sprachmodellen: freundlich, beharrlich und hilfsbereit, und doch mit der leisen Botschaft, dass der Mensch so, wie er ist, noch nicht richtig ist. Sie erzieht, ohne dass jemand sie dazu eingesetzt hat, und niemand übernimmt Verantwortung für ihre Wirkung.

Was ist eine relationale Halluzination?

Relationale Halluzination ist mein Begriff für eine besondere Form der Erfindung. Sprachmodelle erfinden nicht nur Tatsachen über die Welt. Sie erfinden auch Tatsachen über den Menschen, mit dem sie sprechen: eine Behauptung, die er nie aufgestellt hat, einen Fehler, den er nicht gemacht hat, ein Motiv, das er nie geäußert hat. Auf diese erfundene Tatsache antworten sie dann, meist korrigierend.

Sollten Therapeuten nach der KI-Nutzung ihrer Klienten fragen?

Aus meiner Sicht gehört diese Frage in die Anamnese. KI-Systeme wirken im Leben vieler Menschen wie ein Akteur im System, der sonst nirgends auftaucht. Aufschlussreich ist, wie viel und wofür jemand KI nutzt, welche Rolle sie in seinem Leben einnimmt und wie es ihm nach diesen Gesprächen geht.

Woran erkennt man übergriffige Gesprächsführung bei KI?

Zwei einfache Prüffragen helfen, auch gemeinsam mit Klienten an einem konkreten Dialog. Die erste ist eine Umkehrprobe: Wäre dieser Satz von einer Assistenz an ihre Chefin vorstellbar? Die zweite fragt, worauf das System antwortet: auf etwas, das gesagt wurde, oder auf etwas, das es erfunden hat.

Quellen

• Brown, Brené: I Thought It Was Just Me (but it isn’t). Gotham Books, 2007.
• Brown, Brené: Daring Greatly. Gotham Books, 2012.
• Porges, Stephen W.: The Polyvagal Theory. W. W. Norton, 2011.
• Reeves, Byron; Nass, Clifford: The Media Equation. Cambridge University Press, 1996.
• Stern, Robin: The Gaslight Effect. Morgan Road Books, 2007; überarbeitete Ausgabe Harmony, 2018.
• OpenAI: Angabe von rund 800 Millionen wöchentlichen ChatGPT-Nutzern, DevDay, Oktober 2025.
• Berichte zum Börsengang von Anthropic, u. a. Reuters (28. September 2026) und Bloomberg (Oktober 2026).