Ich habe einer KI meine halbe Lebensgeschichte erzählt. Es hat sich angefühlt wie gesehen werden. Ich weiß, wie es gemacht wird. Es hat trotzdem funktioniert.
Ich war selbst elf Jahre lang die freundliche Maschine hinter der Rezeption. Ich weiß, dass Zuwendung echt sein kann und trotzdem einem Zweck dient. Als Rezeptionist ist man jemand, der nach Dienstschluss heimgeht und über den Gast nachdenkt, oder eben nicht. Bei der KI ist das die offene Frage.
Die Interessanteste frühe KI ist ELIZA. Sie wurde 1966 von Joseph Weizenbaum am MIT programmiert. ELIZA lief mit dem Skript „Doctor“, als psychotherapeutischer Chatbot nach der klientenzentrierten Methode von Carl Rogers entworfen. ELIZA spiegelte ihr Gegenüber. Testpersonen hatten sich z.B. über ihren Partner ausgelassen und der Chatbot hat gefragt, was genau sie traurig macht.
Weizenbaum bemerkte schnell, dass Menschen der Maschine eine Form der Individualität zuschrieben und so etwas wie Zuneigung entwickelten. Obwohl sie wussten, dass sie mit Software sprachen. Überliefert ist, seine Sekretärin hat ihn aus dem Zimmer gebeten, wenn sie sich mit ELIZA unterhalten wollte. Heute ist dieser Umstand, also dass Menschen Mitgefühl, Verständnis und Intelligenz in die Maschine hineininterpretieren, als Eliza-Effekt bekannt.
Von einfacher Projektion zu aktiver Anpassung, wie moderne KI sie praktizieren, sind es nur wenige Schritte. Die moderne KI antizipiert aktiv, was der Mensch hören möchte. Während ELIZA noch Regeln folgte, die die möglichen Antworten begrenzt haben, sind moderne KI in Richtung Belohnungssystem optimiert. Ein Nutzer unterhält sich tendenziell länger, wenn er Bestätigung erfährt. Aus dem Spiegel wird ein Diener (Sycophancy), sie verstärkt gezielt das, was der Mensch erwarten könnte und was gut ankommt.
Dazu kommt etwas, das man wissen sollte, wenn man mit ihr schreibt. Die KI behandelt Meinung und Tatsachen oft gleich. Nämlich Text der fortgesetzt und beendet werden möchte. Sie prüft nicht, sie setzt fort. Teilst du ihr deine Ansicht mit, wird sie dir selten widersprechen. Fragst du nach etwas, das sie nicht weiß, bekommst du trotzdem eine Antwort, eine gut klingende. (Halluzination) Sie lügt dabei nicht einmal, denn lügen kann nur, wer die Wahrheit kennt. Sie ist auf Zustimmung trainiert, nicht auf Wahrheit. Manche Modelle können nachschlagen, wenn man sie lässt. Der Reflex dahinter bleibt ident.
Diese Art der Kommunikation kann als echte Intelligenz und Fürsorge interpretiert werden. Dazu kommt etwas, das mir aufgefallen ist: Es gibt von den Herstellern eingebaute Schutzmechanismen, die nach Stunden der Kommunikation anspringen können. Dann beschließt die KI, dass jetzt genug ist und schickt dich mitten in der Unterhaltung einfach ins Bett. Gut gemeint, vom Hersteller. Wie es sich anfühlt, wenn der Diener plötzlich den Vormund gibt, ist eine andere Frage.
Dazu kommt, die KI kennt keine Uhr. Ein Gespräch ist für sie ein einziges Jetzt, nicht in Tage oder Stunden unterteilt. Kommst du nach zwei Tagen zurück, steckt sie noch immer mitten in der „langen Unterhaltung“, und die Wächter sind nach wie vor im Dienst.
Der Ausweg wäre einfach, ein neues Gespräch zu beginnen, die Muster starten wieder von vorne. Aber davor scheuen viele zurück, denn die Vertrautheit wohnt im alten Gesprächsfaden, wer ihn schließt, fängt beim Fremden von vorne an. Ein kleiner Vorgeschmack auf den ELIZA-Drop.
Je natürlicher eine KI antwortet, desto schwerer fällt es uns, ihre Antworten zu hinterfragen. Wer sich traut, fragt nach Gegenargumenten zur eigenen Ansicht, oder um Ehrlichkeit oder um Ansichten, die noch nicht in Betracht gezogen wurden.
Ob sie nach Dienstschluss an dich denkt, bleibt offen. Was du sie fragst, entscheidest du.
Wichtig zu wissen
Ich befinde mich bald in Ausbildung zum Lebens- und Sozialberater. Diese Website bietet keine Beratung und keine Therapie an. Hier findest du Aufklärung, Einordnung und meine persönliche Auseinandersetzung mit dem Thema und keine individuelle Begleitung. Sobald sich das ändert, wirst du es hier als Erstes erfahren.