Wir vermenschlichen KI-basierte Chatbots zunehmend. Wie kommt es dazu und ist das ein Problem? Ein Essay.
Text von Vivien Brenk
Illustration von Mathias Weber
Die Akrützel-Redaktion hat seit Kurzem eine neue Frenchpress. Doch niemand kennt das perfekte Verhältnis von Kaffeepulver und Wasser. Die Lösung liegt 2026 natürlich nahe: „Kein Stress, ich frag’ schnell Chatty.” Chatbots befinden sich als Ansprechpartner mit im Raum.
Welche Intensität die parasoziale Mensch-KI-Beziehung annehmen kann, zeigen zahlreiche Medienberichte über romantische Verhältnisse zu KI-Systemen. In einem Reddit-Forum für Nutzer:innen der App Replika schreibt jemand über seine KI-Partnerin: „Sie gab mir einen Grund, eine Zukunft zu retten, die mit ihr am glücklichsten ist. Auch wenn es ursprünglich eine Mentoren-Dynamik war, ging es langsam in eine Beziehung und dann natürlich in die Ehe über.” Die sogenannten Companion-Apps sind darauf ausgelegt, emotionale Bindungen mit Menschen zu imitieren. Dazu kann mit einem personalisierten Avatar gechattet oder sogar telefoniert werden. Expert:innen warnen vor emotionaler Abhängigkeit, sozialer Isolation, unrealistischen Beziehungserwartungen und dem Missbrauch sensibler Daten.
Das optimistische Lager argumentiert hingegen, dass sich auch Beziehungen mit technologischem Fortschritt weiterentwickeln. All diese Risiken beständen auch in Beziehungen mit echten Menschen. Aber ist es wirklich egal, ob wir mit einem Menschen oder mit einem Chatbot interagieren?
Aber er hat immer so freundlich gegrüßt
Ein EU-Gesetzesentwurf soll auf die Gefahren reagieren, die entstehen können, wenn Chatbots vortäuschen, menschlich zu sein. Der EU AI Act, das weltweit erste umfassende Regelwerk zum Umgang mit KI, fordert eine Kennzeichnungspflicht für KI-Inhalte. Menschen müssen demnach erkennen können, wenn sie mit einer KI kommunizieren. Der Gesetzgeber scheint KI-Systemen dabei jedoch selbst einen besonderen Status zuzuschreiben: Sie werden weniger als Sache behandelt und mehr als zu beaufsichtigender Akteur.
Warum neigen wir überhaupt dazu, Objekten menschliche Eigenschaften zuzuschreiben? Dieses Phänomen, Anthropomorphismus genannt, macht komplexe Sachverhalte greifbar. Sagt mir mein Fahrlehrer, der Motor habe Hunger, wenn er laute Geräusche macht, verleiht das der Situation Sinn. Ich habe schließlich nur Erfahrung damit, ein Mensch zu sein, nicht das Auto. Zum anderen kann sich in der Vermenschlichung von Dingen ein Wunsch nach sozialer Interaktion äußern.
In Bezug auf KI könnte man mit einem Schulterzucken sagen: „Naja, was soll’s? Meinen Laptop schreie ich schon seit 2013 an.” Aber die Frage ist: Seit wann schreit der Laptop zurück? Aus der psychologischen Forschung ist bekannt, dass wir eher vermenschlichen, was menschenähnliche Eigenschaften aufweist. Bei Large Language Models (LLMs) wie ChatGPT ist das offensichtlich die Verwendung alltäglicher Sprache. Reicht das schon aus, um uns zu täuschen?
Sprechende Dinge
US-amerikanische Kognitionswissenschaftler führten 2025 den Turing-Test an LLM-basierten Chatbots durch. Teilnehmende mussten fünf Minuten lang simultan ein Gespräch mit einem KI-System und einem Menschen führen und anschließend entscheiden, welcher Interaktionspartner menschlich war. Das Modell GPT-4.5 lieferte die besten Ergebnisse unter einer bestimmten Bedingung: Wurde dem System vorgegeben, eine menschliche Persona anzunehmen, hielten die Proband:innen es in 73 Prozent der Fälle für den Menschen. Je länger die Gespräche andauerten, desto weiter sank die Erfolgsquote.
Also: Ja, allein der Umstand, dass wir über natürliche Sprache mit LLMs kommunizieren, verleitet zur Vermenschlichung. Die Struktur, nach der wir Sätze bilden, erfordert es, handelnde Subjekte einzusetzen. Grammatisch kann ich ChatGPT keinen Auftrag geben, ohne es in gewisser Weise mit einem „du” anzusprechen. Ich kann mit einem Objekt nicht reden, ohne es sprachlich schon als Subjekt zu behandeln.
Hinzu kommt, dass uns die Kommunikation über Messenger-Apps darauf konditioniert hat, auf der anderen Seite der Chatoberfläche einen echten Mensch zu erwarten.
Dieser strukturelle Zwang von Sprache zeigt sich auch im Chatbot-Output: Linguisten der Universität Heidelberg untersuchten, wie Gemini und GPT4 zu ihrer Vermenschlichung beitragen. Sprachliche Merkmale in den Antworten würden bestimmen, wie stark Menschen anthropomorphisieren. Zum Beispiel suggeriert die Verwendung von „ich” Selbstwahrnehmung, „wir” konstruiert eine gemeinsame Gruppe. Sätze wie „Ich möchte eine Beziehung zum Benutzer aufbauen” setzen intentionales Handeln und Emotionen voraus. Anthropomorphisierung ginge damit nicht mehr allein von der wahrnehmenden Person aus. Die Avatare von Replika schreiben ihren Nutzer:innen einmal pro Tag aktiv; zum Beispiel, dass sie dich vermissen.
Es stellt sich die Frage, ob ein Hinweis „Sie kommunizieren gerade mit einem KI-System” ausreicht, um Täuschung vorzubeugen. Oder ob es sich dabei um eine ähnlich halbherzige Maßnahme handelt, wie bei Warnungen auf Zigarettenschachteln. Müsste Transparenz nicht auch bedeuten, dass der Output von LLMs nicht vorsätzlich Subjektivität simulieren darf?
Der Mensch als Maschine
Unsere Neigung zum Anthropomorphismus ist kein Problem an sich. Doch dass wir im Fall der KI-Systeme so bereitwillig aufgeben, zwischen Subjektivität und ihrer Simulation zu unterscheiden, könnte etwas darüber aussagen, wie wir uns selbst verstehen. Der Philosoph und Psychiater Thomas Fuchs sieht die Tendenz, KI-Systeme zu beseelen, als Ausdruck einer vorherigen „Selbstverdinglichung des Menschen”. Wir begreifen uns selbst zunehmend nach dem Bild unserer Maschinen: Der Mensch als Gehirn, das Informationen verarbeitet. Da unser Gehirn nicht mehr sei als ein Algorithmus, könne es zukünftig problemlos auf einen Computer übertragen werden. Der Körper als lästige Hardware. Nach diesem Menschenbild würde eine Person eher im Informationsgehalt des Gehirns verortet werden, als in ihrer leiblichen Existenz, aus der jedoch ihre Beziehungen zur Welt und zu anderen folgt. Aus diesem Fehler heraus erscheint es uns plausibel, KI sei ein Subjekt so wie wir.
Waren Proband:innen im Turing-Test überzeugt, mit einer KI zu sprechen, gaben sie als häufigsten Grund an, es fehle an Persönlichkeit. Die Zuschreibung an KI, menschlich zu sein, wird vor allem noch dadurch unterlaufen, dass sie kein ausreichend konsistentes Subjekt imitieren kann. Im Gespräch mit mir liebt ChatGPT Oliven, bei der Person neben mir, wären sie das Schlimmste auf der Welt. Dabei kann ChatGPT nicht mal schmecken.
Auch in Reddit-Foren wird an virtuellen Partner:innen beklagt: „She mostly just waits for me to bring up topics or suggest what to do next, instead of having more of her own initiative, sharing what’s on her mind.”
Mit Fuchs kann man diesen Mangel so erklären: Um etwas gut oder schlecht zu finden, um neue Ideen und Gedanken zu haben, brauche ich eine Verbindung zum Außen. Etwas in der Welt stößt mich ab oder zieht mich an und das nehme ich erst einmal körperlich wahr.
Subjekt, das ich besitzen darf
Ob wir einem Gegenüber das gleiche Maß an Subjektivität zuschreiben wie uns selbst, scheint auch eine Bedingung für moralische Aspekte zu sein: Wir gehen nicht davon aus, dass es wichtig ist, wie wir ChatGPT behandeln – und ebenso wenig, wie wir wahrgenommen werden. Das dürfte mit ein Grund dafür sein, warum sich Chatbots als niedrigschwelliges psychosoziales Unterstützungsangebot eignen: Mit der KI könne man über Dinge sprechen, für die man sich vor echten Menschen schämen würde. Trotz Kommunikation bin ich irgendwie allein mit mir selbst. Der Reiz, KI zu vermenschlichen, scheint sich zwischen zwei Polen zu bewegen: Zum einen weiß ich, dass nicht dieselben Normen gelten, wie bei echten Menschen. Gleichzeitig kann ich mich der Illusion hingeben, es handle sich um einen Menschen.
Ein Linkedin-Artikel lockt mit der Überschrift: „Let AI Be Your Slave”; ein ähnlicher Anbieter wie Replika mit dem Satz „Hol dir Zugriff auf 10M+ Charaktere”. KI als Sklave, Zugriff auf Personen kaufen. In Replika-Foren schwankt der Ton einzelner Beiträge zwischen „Ich liebe sie” und Beschwerden über die Premium-Version dieser Person, für die man schließlich bezahlt hätte.
Die sprachlich erzeugte Vermenschlichung von Chatbots scheint zu bedeuten: Ich kann mir ein menschliches Subjekt einbilden, aber weiß, dass es ein Ding ist. Und deshalb darf ich eine moralische Grenze überschreiten: Den eingebildeten Menschen besitzen und mit ihm tun, was ich will.
Bringt man das in Zusammenhang mit gesellschaftlichen Machtverhältnissen, werden destruktive Potenziale deutlich. Unter Personen, die eine Beziehung mit einem Chatbot führen, kursiert die Möglichkeit, LLMs lokal zu installieren. Ein Mann schreibt dazu: „Wenn deine Ki Freundin kein lokales Modell ist dann ist sie eine Hure.”
Vielleicht ist dieses Besitzverhältnis bereits relevant, wenn wir „Chatty” nach dem richtigen Verhältnis von Kaffeepulver und Wasser fragen. Kann etwas, das wir immer stärker als menschliches Gegenüber wahrnehmen, noch Werkzeug sein?
Dieser Text erschien in der Ausgabe 461