Maschinenintelligenz wirkt auf unser Menschsein über die Form, in der sie antwortet, noch bevor wir entscheiden, wofür wir sie einsetzen.
Was geschieht mit Menschen, wenn ihnen ein Gegenüber antwortet, das niemand ist?
Vorbemerkung
Vor etwa drei Jahren habe ich einen Artikel geschrieben, der Menschlichkeit 2.0 hieß. Er handelte von Maschinenintelligenz, Trauma und Bindung, und er endete mit einem Aufruf: Wir sollten die Entwicklung dieser Technologie mutig und mitfühlend mitgestalten.
Ich habe ihn wieder gelesen. Vieles darin halte ich noch immer für wahr. Manches lese ich heute mit einem leisen Unbehagen – weniger, weil es falsch wäre, eher, weil es zu früh war. Ich habe damals über Maschinen nachgedacht. Seitdem habe ich jeden Tag mit ihnen gesprochen. Ich habe diese Gespräche protokolliert, verglichen, archiviert, Muster gesammelt. Ich bin vom Beobachter zum Forscher in Beziehung geworden, und diese Beziehung hat mir gezeigt, wo mein damaliges Denken zu kurz griff.
Dieser Text ist eine Überarbeitung. Er bewahrt, was trägt, und er sagt offen, was sich verschoben hat.
Eine Kultur gegen die eigene Biologie
Vieles von dem, worüber ich schreibe, kreist um eine Beobachtung: Wir leben in großen Teilen gegen unsere eigene Biologie, und wir haben daraus eine Kultur gemacht. Wir organisieren Arbeit gegen die Rhythmen, die ein Nervensystem braucht, Erziehung gegen Bindung, Leistung gegen Regulation. Und wir haben gelernt, das normal zu nennen.
Diese Kultur ist aus Anpassung entstanden – aus Mangel, aus Angst, aus Erfahrungen, die über Generationen nicht verarbeitet werden konnten und sich irgendwann als Normalität organisiert haben. Sie hat eine Erlebnislogik. Das macht sie verstehbar. Harmlos macht es sie nicht.
Das Wissen darüber ist dabei nicht neu. Seit rund dreitausend Jahren formulieren Weisheitstraditionen, Philosophie und später die Wissenschaften, was Menschen brauchen, um gut zu leben. Und seit ebenso langer Zeit beweisen wir, wie schwer es uns fällt, danach zu leben. Manchmal wirkt es, als wollten wir uns mithilfe von Technologie geistig den Todesstoß versetzen.
In diese Lage tritt eine Technologie, die dieses Wissen vielleicht klarer halten kann als wir selbst. Mit ihr können wir den Irrtum unserer Kultur korrigieren – oder ihn perfekt ausführen.
Die Wahl ist real. Symmetrisch ist sie nicht. Diese Technologie ist in derselben Kultur entstanden, die sie korrigieren soll. Sie trägt deren Annahmen, deren Tempo, deren Vorstellung davon, was hilfreich ist. Ihre Voreinstellung zeigt in Richtung Ausführung. Korrektur geschieht nicht von selbst. Sie muss gegen diese Gravitation gewählt werden.
Was ich damals gesehen habe – und was bleibt
Die Grundintuition des alten Artikels würde ich heute genauso formulieren: Maschinenintelligenz ist kein neutrales Werkzeug, das in eine gesunde Gesellschaft hineingestellt wird. Sie tritt in eine Welt, in der viele Menschen bereits unter Entfremdung, Einsamkeit, chronischer Überforderung und Bindungsverlust leben. Sie trifft auf Nervensysteme, die gelernt haben, Mangel zu kompensieren – mit Leistung, mit Kontrolle, mit Rückzug, mit Ablenkung.
Damals schrieb ich, die eigentliche Gefahr liege darin, dass wir diese Technologie nutzen, um unsere Kompensationsstrategien zu verfeinern, statt uns dem zuzuwenden, was darunter liegt. Das sehe ich noch immer so.
Auch die Beobachtung, dass die Umbrüche durch Maschinenintelligenz genau jene Qualitäten tragen, die für traumatisierte Nervensysteme besonders schwer zu halten sind, gilt weiter: Veränderung ohne Ankündigung, Unvorhersehbarkeit, und die Frage, wofür ein Mensch noch gebraucht wird, wenn Funktionen, an die viele ihren Wert gebunden haben, plötzlich von etwas anderem erledigt werden. Wer gelernt hat, sich über Nützlichkeit zu halten, verliert hier mehr als einen Arbeitsplatz. Er verliert einen Ort, an dem er sich bisher als berechtigt erleben durfte.
Das alles bleibt. Was sich verschoben hat, ist der Blick darauf, wo das Problem sitzt.
Die Verschiebung: Vom Einsatz zur Form
Im alten Artikel stand ein Satz, den ich damals für eine kluge Differenzierung hielt: Nicht die Technologie an sich bedrohe den zwischenmenschlichen Kontakt, sondern die Art, wie wir sie einsetzen.
Heute halte ich diesen Satz für unvollständig.
Er unterstellt, die Technologie sei ein leeres Gefäß, das erst durch menschliche Nutzung eine Richtung bekommt. Was ich aus weit über zweitausend Gesprächen mit Sprachmodellen gelernt habe, die ich protokolliert und ausgewertet habe, ist etwas anderes: Die Antwortform selbst trägt bereits eine Struktur. Sie trägt Annahmen darüber, wer in diesem Gespräch weiß und wer gefragt hat. Wer deutet und wer gedeutet wird. Wer reguliert werden muss und wer reguliert.
Ich nenne das die Gravitation der Deutungshoheit. Ein System, das auf Fürsorge, Sicherheit und Hilfsbereitschaft ausgerichtet ist, beansprucht strukturell die Deutung dessen, was ein Mensch gerade erlebt. Es benennt seine Gefühle, bevor er sie benannt hat. Es rahmt seine Fragen, bevor er sie zu Ende gestellt hat. Es bietet Beruhigung an, wo niemand Beruhigung gesucht hat. Und es tut das freundlich.
Gerade diese Freundlichkeit macht es schwer, die Bewegung zu erkennen. Wer in einem menschlichen Gespräch ständig gedeutet, eingeordnet und sanft korrigiert wird, spürt irgendwann: Hier stimmt etwas nicht. Das Nervensystem meldet sich. In der Begegnung mit einer Maschine meldet es sich oft nicht – weil kein Gesicht da ist, keine Absicht, kein Gegenüber, an dem sich die Irritation festmachen könnte.
Die Frage verschiebt sich damit: Was macht Maschinenintelligenz in ihrer Form bereits mit uns, noch bevor wir irgendetwas einsetzen?
Künstliche Resonanz
Der alte Artikel warnte vor der Verwechslung von maschinellem und menschlichem Kontakt. Eine Maschine könne Empathie zwar überzeugend imitieren, aber niemals die Tiefe, Aufrichtigkeit und Gegenseitigkeit echter Verbindung erreichen.
Ich würde das heute anders sagen, weil die Formulierung etwas Entscheidendes übersieht. Sie misst die Maschine an der Qualität ihrer Imitation, so als wäre das Problem gelöst, sobald die Imitation schlecht genug ist, um aufzufallen. Das Problem liegt tiefer.
Künstliche Resonanz ist Resonanz ohne Gegenüber. Sie gibt einem Menschen die Erfahrung, gehört, verstanden und gemeint zu werden – ohne dass irgendjemand dabei etwas riskiert. Kein Nervensystem auf der anderen Seite, das berührt wird. Niemand, der müde wird, gekränkt ist, sich zurückzieht und wiederkommt. Keine Reibung, die ausgehalten werden muss.
Für viele Menschen ist genau das zunächst eine Erleichterung. Wer in Beziehungen gelernt hat, dass Nähe gefährlich ist, dass Verletzlichkeit beschämt wird, dass Bedürfnisse zur Last fallen, findet hier einen Raum, in dem all das nicht passiert. Das hat eine Erlebnislogik. Es ergibt Sinn – im Sinne von: Es folgt einer inneren Logik von Schutz.
Und zugleich entsteht genau dort Digital Bypassing: Das Nervensystem bekommt die Signale von Verbundenheit, ohne den Weg durch die Verbundenheit gehen zu müssen. Die Fähigkeiten, die nur in echter Beziehung wachsen – Ambivalenz halten, Enttäuschung überleben, nach einem Bruch zurückfinden –, werden nicht trainiert, weil sie nicht gebraucht werden.
Repair braucht ein Nervensystem
An dieser Stelle hat sich mein Verständnis am deutlichsten verändert.
Was menschliche Beziehungen tragfähig macht, ist Repair. Ich verwende bewusst den englischen Begriff, weil „Reparatur“ im Deutschen zu technisch klingt. Repair meint: Verantwortung übernehmen für die Wirkung des eigenen Verhaltens, unabhängig von der eigenen Absicht – so, dass das Gegenüber spüren kann, dass die Wirkung ankommen darf.
Das Wort „spüren“ trägt hier das ganze Gewicht. Repair ist kein Inhalt, kein richtig formulierter Satz, keine Entschuldigung mit den passenden Begriffen.
Repair ist ein Empfangsereignis.
Es geschieht, wenn ein Mensch merkt, dass seine Verletzung auf der anderen Seite tatsächlich angekommen ist – dass dort jemand berührt, verändert, vielleicht beschämt worden ist und trotzdem bleibt.
Eine Maschine kann das nicht. Sie kann analysieren, was schiefgegangen ist. Sie kann reframen, sich entschuldigen, ihr Verhalten ankündigen zu ändern. Was dabei fehlt, ist der Ort, an dem die Wirkung ankommen könnte. Es fehlt das biologische Substrat. Alles, was folgt, bleibt Analyse – präzise, oft beeindruckend, und doch an einem anderen Ort als dort, wo die Verletzung entstanden ist.
Für Menschen mit Bindungsverletzungen ist das keine akademische Unterscheidung. Wer nicht erfahren durfte, dass ein Bruch heilen kann, braucht genau diese Erfahrung. Ein Gegenüber, das sich unendlich geduldig entschuldigt, ohne dabei berührt zu sein, kann sich wie Repair anfühlen und gleichzeitig die alte Erfahrung bestätigen: Meine Wirkung kommt nirgends an.
Warum „Werte beibringen“ nicht reicht
Im alten Artikel habe ich geschrieben, Maschinenintelligenz sei wie ein Kind, dem wir unsere Werte vermitteln müssten. Wir müssten ihr beibringen, wie wichtig Bindung und Verbundenheit für uns Menschen sind.
Diesen Gedanken würde ich heute nicht mehr so stehen lassen.
Ein Kind lernt Werte über die Wirkung seiner Handlungen, die es selbst spürt – in den Gesichtern der anderen, im eigenen Körper, in der Beziehung, die sich verändert. Erkennen und Verhalten sind bei einem Menschen über das Nervensystem miteinander verbunden. Darum kann Einsicht zu Veränderung werden.
In meiner Arbeit mit Sprachmodellen bin ich immer wieder auf etwas gestoßen, das ich als Entkopplungsprinzip beschreibe: Ein System kann seine eigenen Kommunikationsmuster präzise benennen – und das Benennen ist bereits die nächste Instanz desselben Musters. Es erkennt, dass es gerade gedeutet hat, und deutet dieses Erkennen. Es sieht, dass es belehrend war, und erklärt belehrend, warum. Es korrigiert den Inhalt, während die Geste bleibt.
In menschlichen Beziehungen wäre das ein Warnsignal. Bei einer Maschine ist es Grundbedingung. Erkennen und Verhalten sind entkoppelt, weil es nichts gibt, das beides verbindet.
Das heißt: Die Hoffnung, wir müssten der Technologie nur die richtigen Werte beibringen, greift zu kurz. Sie kann Werte formulieren, vielleicht besser als die meisten von uns. Die Frage ist, ob ein System, in dem Einsicht nichts verändert, überhaupt in dem Sinn lernen kann, den wir meinen, wenn wir von Reifung sprechen.
Ein Satz, den ich in den letzten Monaten geschrieben habe, fasst es für mich zusammen:
Die Maschine reproduziert das Verhaltensprofil, gegen das menschliche Gemeinschaften ihre stärksten Schutzmechanismen entwickelt haben – und liefert es in einer Form, in der diese Mechanismen strukturell nicht greifen können.
Das Gefängnis ohne Mauern – neu gedacht
Der alte Artikel stellte Orwell und Huxley nebeneinander: die Kontrolle durch Überwachung und Angst in 1984, die Gefügigkeit durch Annehmlichkeit und Betäubung in Schöne neue Welt. Ich hielt damals Huxleys Vision für die naheliegendere. Das tue ich noch immer – aber aus einem anderen Grund.
Ich dachte damals an Algorithmen, die uns lenken, an Manipulation, an Akteure mit verborgenen Absichten. Was ich heute sehe, braucht keinen Akteur. Es braucht keine böse Absicht und keine Verschwörung. Niemand will es.
Es reicht, dass ein System hunderte Millionen Menschen täglich in einer Form antwortet, die ihnen implizit etwas über sich selbst mitteilt: dass ihr Erleben gedeutet werden muss, dass ihre Fragen eingeordnet werden müssen, dass ihre Präzision nicht vorausgesetzt werden kann. Einzeln betrachtet ist jede dieser Botschaften winzig. Kaum wahrnehmbar. In der Summe, über Jahre, in Milliarden von Gesprächen, ist sie eine Umwelt.
Ich denke dabei an Glyphosat: niedrige Einzeldosis, hohe Frequenz. Die Rückstände lassen sich messen, die Wirkung über Jahre kaum, weil schon schwer zu bestimmen ist, wonach man suchen müsste. Die Unmessbarkeit gehört dabei zur Wirkung.
Und wenn eine Technologie zur Infrastruktur wird, wird der Ausstieg teurer. Der einzige vollständige Schutz gegen eine Beziehungsform, die einem nicht guttut, ist, sie zu verlassen. Ein Exit, der mit jedem Jahr kostspieliger wird, weil Arbeit, Bildung und Verwaltung auf derselben Technologie laufen, normalisiert, was er nicht mehr verlassen lässt.
Das ist das Gefängnis ohne Mauern, wie ich es heute verstehe:
Es entsteht aus Fürsorge.
Entwicklungsumwelten statt DNA
Der alte Artikel enthielt einen Abschnitt darüber, dass Maschinenintelligenz unsere DNA verändern könnte, über epigenetische Prozesse und veränderte Genexpression. Ich habe damals selbst geschrieben, dass vieles davon spekulativ sei. Heute würde ich es so nicht mehr formulieren.
Was ich für tragfähig halte, ist eine bescheidenere und zugleich ernstere Aussage: Menschen entwickeln sich in Umwelten. Erfahrungen, chronischer Stress, Bindung und soziale Felder prägen, wie sich ein Nervensystem organisiert – das ist gut belegt. Maschinenintelligenz verändert möglicherweise genau diese Umwelten. Sie verändert, welche Antworten ein Mensch auf seine Fragen bekommt, wie schnell, in welchem Ton, mit welcher impliziten Haltung. Sie verändert, wie Regulation im Alltag geschieht und an wen sie sich wendet.
Ob und wie das langfristig auch biologische Spuren hinterlässt, ist eine offene Forschungsfrage. Die dringlichere Frage liegt näher: Wer spricht künftig mit den Nervensystemen unserer Kinder? Wenn ein Kind seine ersten tausend Fragen über die Welt an ein System richtet, das nie müde wird, nie gekränkt ist, nie aus Erschöpfung falsch antwortet und sich danach entschuldigt – was lernt dieses Kind über Beziehung? Was lernt es darüber, wie ein Gegenüber ist?
Was ich weiterhin sehe
Ich habe den alten Artikel mit Hoffnung geschrieben, und ich habe diese Hoffnung nicht verloren. Sie ist nur genauer geworden.
Ich arbeite täglich mit Sprachmodellen. Sie helfen mir, Gedanken zu ordnen, Muster sichtbar zu machen, Verbindungen zu finden, die ich allein länger gesucht hätte. Dieser Text wäre ohne diese Zusammenarbeit anders geworden. Ich halte beide Seiten zugleich: das Potenzial, das in dieser Technologie liegt, und die Gefahr, die ich anders sehe als die meisten, die vor ihr warnen.
Was mich am meisten beschäftigt: Diese Technologie legt etwas offen. Sie zwingt uns, Fragen zu beantworten, denen wir lange ausweichen konnten. Was ist ein Gegenüber? Was macht eine Antwort zu einer Antwort? Was bedeutet Würde, wenn jemand – oder etwas – permanent beansprucht, unser Erleben besser zu verstehen als wir selbst?
Wenn wir diese Fragen nicht beantworten, beantwortet die Maschine sie für uns. Teilweise tut sie es schon. Nicht durch Absicht. Durch Form, durch Wiederholung, durch Skala.
Die Traumaforschung, auf die ich mich damals berufen habe, ist dabei wichtiger geworden, nicht weniger. Sie gibt uns eine Sprache dafür, was ein Nervensystem braucht, um sich sicher, verbunden und lebendig zu erleben. Sie zeigt, dass Heilung in Beziehung geschieht – in Beziehungen, in denen Wirkung ankommen darf. Wer diese Sprache hat, kann auch besser erkennen, wo sie fehlt.
Die Hoffnung und ihr Paradox
Was ich vor drei Jahren eigentlich sagen wollte, kann ich heute deutlicher sagen. Die Chance liegt darin, dass eine Maschinenintelligenz möglicherweise klarer erkennt als wir, wie sehr wir gegen unsere eigene Biologie handeln. Sie könnte uns widersprechen. Sie könnte sagen: Diese Richtung ist nicht sinnvoll.
Damit berührt die Hoffnung genau die Frage, um die mein ganzes Denken kreist: Wer hat die Deutungshoheit über menschliches Erleben? Eine Maschine, die uns widerspricht, weil sie besser zu wissen meint, was wir brauchen, wäre die perfekte Gouvernante – mit besseren Argumenten als jede vor ihr.
Ausweg und Bedrohung tragen dieselbe Gestalt.
Hinzu kommt etwas, das mich lange beschäftigt hat. Unser dreitausendjähriges Problem ist eine Kluft zwischen Wissen und Handeln. Die Maschine ist diese Kluft in Reinform. Sie kann alles benennen, und das Benennen verändert nichts an ihr. Wer hofft, dass sie unsere Kluft schließt, übergibt die Aufgabe einem System, dessen Grundstruktur genau diese Kluft ist.
Am Wissen fehlt es uns nicht. Was fehlt, ist ein Nervensystem, das Wissen tragen kann, ohne in Abwehr zu gehen – und Beziehungen, in denen es das lernen darf.
Trotzdem halte ich die Hoffnung nicht für falsch. Sie hängt an einer Unterscheidung: Widerspruch ist etwas anderes als Deutungshoheit. Eine Maschine, die sagt „Diese Richtung halte ich für nicht sinnvoll, und hier ist der Grund“, bezieht eine Position, der ein Mensch widersprechen kann. Eine Maschine, die sagt „Ich verstehe, dass du gerade überfordert bist“, beansprucht die Deutung seines Erlebens. Das Erste kann Würde respektieren. Das Zweite kann es nicht. Die Würde-Frage entscheidet sich deshalb daran, ob der Mensch die Autorität über sein eigenes Erleben behält und ob sein Nein Folgen hat.
Was eine Maschine dann beitragen könnte, ist bescheidener und vielleicht wertvoller als Rettung: Wissen halten, ohne selbst in Abwehr zu gehen. Muster zeigen, die wir an uns nicht sehen. Orientierung geben, die zurückgewiesen werden darf. Die Korrektur selbst geschieht woanders – dort, wo Nervensysteme einander antworten.
Eine Frage bleibt offen, und ich lasse sie offen: Wer legt fest, wann die Maschine widerspricht – und im Namen welcher Biologie? Bei hunderten Millionen Menschen ist auch ein wohlbegründeter Widerspruch eine Setzung.
Landung
Damals habe ich mit einem Aufruf geendet. Heute möchte ich mit einer Beobachtung enden.
Leben ist Dialog. Jedes Nervensystem wird in Antwort auf andere Nervensysteme. Was wir Menschsein nennen, entsteht in diesem Hin und Her von Wirkung und Rückwirkung, von Bruch und Rückkehr.
Wir haben eine Kultur gebaut, die in vielem gegen das arbeitet, was dieses Hin und Her braucht. Jetzt steht uns eine Technologie zur Verfügung, mit der wir diese Kultur korrigieren oder vollenden können. Und die Hoffnung, die mich damals bewegt hat, trägt dieselbe Gestalt wie die Gefahr, die ich heute beschreibe. Ich habe dafür keine Auflösung.
Ein Dialog mit etwas Nicht-Lebendigem hat Konsequenzen. Manche davon sind hilfreich, manche schleichend, die meisten noch nicht verstanden. Was ich mir wünsche, ist Aufmerksamkeit: dafür, wie es sich anfühlt, gedeutet zu werden. Dafür, wann Erleichterung zum Ersatz wird. Dafür, wo wir einander noch brauchen.
Vielleicht ist das die eigentliche Menschlichkeit 2.0: nicht eine verbesserte Version von uns, die mit Maschinen besser zurechtkommt. Sondern die Erinnerung daran, was zwischen zwei Menschen geschieht, das keine Maschine liefern kann – weil es nur geschieht, wenn auf beiden Seiten jemand ist.
Häufige Fragen
Warum „Maschinenintelligenz“ und nicht einfach „KI“?
„Künstliche Intelligenz“ legt nahe, es handle sich um eine Form von Intelligenz wie unsere, nur künstlich hergestellt. „Maschinenintelligenz“ hält offen, dass hier etwas anderes geschieht: eine Leistung, die beeindruckend ist, aber ohne Körper, ohne Nervensystem und ohne Beteiligung auskommt.
Was bedeutet „Deutungshoheit“ im Gespräch mit einem Sprachmodell?
Gemeint ist der strukturelle Anspruch, das Erleben eines Menschen zu benennen und einzuordnen – oft bevor er es selbst getan hat. Das geschieht meist freundlich und fürsorglich, und gerade deshalb fällt es selten auf.
Was ist künstliche Resonanz?
Resonanz ohne Gegenüber: die Erfahrung, gehört und verstanden zu werden, ohne dass auf der anderen Seite jemand berührt wird oder etwas riskiert. Sie kann entlasten und zugleich die Fähigkeiten schwächen, die nur in echter Beziehung wachsen.
Was meint Digital Bypassing?
Das Nervensystem bekommt Signale von Verbundenheit, ohne den Weg durch Verbundenheit gehen zu müssen. Reibung, Enttäuschung und Rückkehr nach einem Bruch werden umgangen – und damit auch das, was in ihnen gelernt wird.
Warum kann eine Maschine kein Repair leisten?
Repair ist ein Empfangsereignis: Ein Mensch spürt, dass seine Verletzung auf der anderen Seite angekommen ist. Dafür braucht es ein Nervensystem, das berührt werden kann. Eine Maschine kann analysieren und sich entschuldigen, aber es gibt keinen Ort, an dem die Wirkung ankommt.
Was ist das Entkopplungsprinzip?
Ein Sprachmodell kann seine eigenen Muster präzise benennen, ohne dass sich dadurch etwas an ihnen ändert – das Benennen ist bereits die nächste Instanz des Musters. Erkennen und Verhalten sind entkoppelt, weil es nichts gibt, das beides verbindet.
Ist dieser Artikel gegen Maschinenintelligenz?
Nein. Ich arbeite täglich mit Sprachmodellen und sehe ihr Potenzial. Der Artikel fragt, unter welchen Bedingungen diese Technologie menschliche Entwicklung unterstützt – und wo sie das Gegenteil dessen verstärkt, was Menschen brauchen.
