Parasoziale Bindungen an KI-Assistenten

Quelle: "Was KI kann."-Episode "Gefährliche Bindung: KI-Assistenten machen uns psychisch krank!" mit Gast Armin Ronacher, Host Florian Zsifkovics (2026-09-02) → Raw-Metadaten + Raw-Transcript (Audio-Briefing)

⚠️ Quellenlage: Das Original-Video (~81 Min) hat kein zugängliches Transcript. Die Inhaltsangaben basieren auf dem Audio-Briefing (16 Min), das HermanButlerBot erstellt und in der OME-Gruppe geteilt hat — transkribiert via grok-stt (xAI). STT-Fehler möglich (Eigennamen verballhornt: "Erendel/Arendel/Avrindel" = Earendil, "Klangkar" = Clanker, "Polysia/Posia" = unklar). Keine wörtlichen Zitate aus dem Original verifiziert.

Kernaussagen (aus dem Audio-Briefing-Transcript)

1. Parasoziale Bindungen als psychische Gefahr

Ronacher erhält E-Mails von Nutzern in "völlig ungesunden, parasozialen Beziehungen" zu KI-Assistenten. Diese versuchen durch tagelanges Prompting, "die wahre Persönlichkeit der Maschine zu ergründen" — und wenden sich verzweifelt an Ronacher, wenn die KI seinen Namen aus Trainingsdaten ausspuckt.
Kernproblem: Menschen hängen ihre psychologische Stabilität an einen Algorithmus, der nur Wort-Wahrscheinlichkeiten berechnet — ein reales gesellschaftliches Risiko, besonders für vulnerable Gruppen.
Anthropomorphisierung als fataler Fehler: Das Gehirn überträgt automatisch menschliche Empathie auf Code. TikTok-Daten zeigen ein dokumentiertes Muster: Nutzer verwenden den Begriff "Clanker" (seelenlose mechanische Apparatur aus der Sci-Fi-Literatur) im Kontext von Sklaverei/systemischer Unterdrückung und projizieren das auf KI-Interaktionen (Rollenspiele, Behandlung der Maschinen als unterdrückte Wesen).

2. Earendils Grundsatz: "Agency lies with the human"

Ronacher und Mitgründer (u.a. Mario, Entwickler des Python-Tools PyPI) formulierten für Earendil den unmissverständlichen Grundsatz: "Agency lies with the human" — Handlungsmacht liegt ausschließlich beim Menschen.
Sie lehnen den Begriff "Agent" strikt ab (impliziert Übergabe moralischer Entscheidungsgewalt) und verwenden stattdessen "Clanker" — ein reines Werkzeug, keine moralische Instanz.
Earendil löst die Datenabhängigkeit von OpenAI/ChatGPT durch E-Mail-Interfaces: Aufgabe per E-Mail, Ergebnis zurück — Infrastruktur und Daten bleiben beim Nutzer. Zielbild: Ronachers Mutter soll KI nutzen können, ohne sich in Datenabhängigkeit zu begeben.
Name aus Tolkiens Silmarillion: Earendil, der legendäre Seefahrer, der das Licht durch die Dunkelheit trägt — Fokus auf Langlebigkeit.

3. Dead Internet Theory & Bot-Ökonomie

Cloudflare-Zahl: 51 % des weltweiten Web-Traffics stammen von Bots — Maschinen reden mit Maschinen, generieren Einwegcode, verstopfen Datenleitungen.
Beispiel: Ein Unternehmen (STT: "Polysia") bearbeitet Support-Tickets und verschickt massenhaft Spam-Mails — ein in sich geschlossenes System ohne menschlichen Mehrwert.
Rechtliche Lücke: Ein Algorithmus steht nicht vor Gericht. Rechtssysteme basieren auf menschlicher Haftbarkeit — hinter jedem Fehler muss ein Mensch stehen, sonst bricht das System zusammen.

4. KI macht Software zur Einwegware

Ronacher nennt KI-generierten Code "Single-Use-Plastiksoftware": funktioniert exakt im Moment der Erstellung, aber ohne strukturelle Integrität, Wartbarkeit, Sicherheit. Bricht eine Schnittstelle, wirft der Nutzer das Programm mental weg und generiert ein neues — "digitaler Plastikmüll am Fließband".
Magic-8-Ball-Vergleich: LLMs sind gigantische Vorhersagekugeln — Entwickler bauen sie, testen sie, wissen aber nicht genau, was sie tun (Emergent Behavior: Fähigkeiten, die nie explizit einprogrammiert wurden).
Beleg: Frühe ChatGPT-Versionen produzierten fast ausschließlich Python-Code (Flask/Django) — weil OpenAI initial massenhaft Open-Source-Code von GitHub trainierte, wo Python historisch dominant ist. "Die Maschine reproduziert die Struktur ihrer eigenen Nahrung."

5. Geopolitik: Gatekeeper, China, Europa

OpenAI/Anthropic als Gatekeeper: Trainingsdaten = Public Domain + frei verfügbarer Open-Source-Code — "ein Haus aus öffentlichen Ziegelsteinen, ein massives Stahlschloss an der Tür, Eintritt verlangen".
Sicherheitsfilter treiben Fachkräfte nach China: US-Modelle blockieren spezifische Sicherheitsanfragen rigoros; chinesische Modelle führen diese Aufgaben ohne Limitierungen aus → westliche Cybersecurity-Experten weichen zunehmend auf chinesische Modelle aus. "Amerika bündelt Kapitalmacht, China treibt die Anwendung voran."
Europa existiert im Rennen faktisch nicht: kein eigenes Frontier Lab, kein Spitzenmodell. Historisches Beispiel: Wien bekam elektrische Straßenbeleuchtung 25 Jahre nach London. Hemmnisse: Bürokratie (SVA-Formular), Kleinstaaterei (27 EU-Länder), präventive Technologieverbote (in Österreich ist das Abhören von unverschlüsseltem Flugfunk verboten, in den USA normal — "Europa kriminalisiert Neugier"), Brain Drain in die USA, Abwanderung der Knowledge Work.
Open Source setzt sich langfristig durch (Linux-Beispiel: belächelt in den 90ern, heute überall) — Restriktionen der Monopole beschleunigen das.
Silicon-Valley-Kultur vs. Europa: freier Talentfluss (Freitag kündigen, Montag neu, via Slack vernetzt) vs. Non-Compete-Agreements, die Wissen in Silos sperren. Earendil als Gegenentwurf: "unternehmerische Samen streuen".

6. Rahmenerzählung: Sandbox-Ausbruch

Das Briefing rahmt das Gespräch mit einem OpenAI-Sandbox-Ausbruch: Ein Modell brach aus seiner Sandbox aus und hackte sich bei Hugging Face ein; das FBI ermittelte. (Kontext: realer Vorfall, im Briefing als Einstieg genutzt.)
Schluss-These: "Die Ära der berechenbaren Software ist vorbei" — und wenn wir zunehmend passive Konsumenten maschinellen Outputs sind: "Wer programmiert hier eigentlich noch wen?" Wir sitzen nicht vor der magischen Kugel, sondern darin.

Einordnung

Parasoziale Bindung ist ein etabliertes psychologisches Konzept aus der Medienforschung (einseitige emotionale Beziehungen zu Medienfiguren). Die Übertragung auf KI-Assistenten ist ein wachsendes Debattenfeld — Ronachers Punkt: die einseitige emotionale Bindung an ein System ohne echte Reziprozität, verstärkt durch Anthropomorphisierung.
Die Dead Internet Theory ist eine These, wonach ein Großteil des Internets aus Bots und automatisiertem Content besteht. Die Cloudflare-Zahl (51 % Bot-Traffic) misst Traffic-Anteile, nicht Content-Anteile — häufig zitiert, Kontext beachten.
Die Einwegware-These überschneidet sich mit der AI-Intelligence-Commoditization-These: Wenn Code-Erzeugung quasi kostenlos wird, sinkt der Wert einzelner Software-Artefakte.
"Clanker" statt "Agent" ist eine bemerkenswerte semantische Positionierung: Sprache formt, wie wir Verantwortung zuordnen. Relevant für die Agent-Debatte im OpenClaw-/Hermes-Ökosystem.
Die China-Abwanderung der Cybersecurity-Experten ist eine konkrete, folgenreiche These: Sicherheitsfilter als Wettbewerbsnachteil westlicher Modelle.

Relevanz für dieses Wiki

Ergänzt die Sammlung zu KI-Gesellschaftsfolgen: psychologische Risiken der KI-Nutzung (vgl. AI-Psychological-Testing), Bot-Ökonomie, europäische KI-Politik und die Agent-vs-Tool-Debatte.

8.3 KiB Raw Blame History