68 lines
8.3 KiB
Markdown
68 lines
8.3 KiB
Markdown
---
|
|
created: 2026-09-02
|
|
updated: 2026-09-02
|
|
sources: [youtube/2026-09-02_was-ki-kann-ronacher-parasoziale-bindung.md, youtube/2026-09-02_was-ki-kann-ronacher-briefing-transcript.md]
|
|
tags: [concept, agi, psychology, parasocial, ai-assistants, dead-internet-theory, earendil, armin-ronacher]
|
|
---
|
|
|
|
# Parasoziale Bindungen an KI-Assistenten
|
|
|
|
> **Quelle:** "Was KI kann."-Episode "Gefährliche Bindung: KI-Assistenten machen uns psychisch krank!" mit Gast [Armin Ronacher](../../people/armin-ronacher.md), Host [Florian Zsifkovics](../../people/florian-zsifkovics.md) (2026-09-02) → [Raw-Metadaten](../../../raw/youtube/2026-09-02_was-ki-kann-ronacher-parasoziale-bindung.md) + [Raw-Transcript (Audio-Briefing)](../../../raw/youtube/2026-09-02_was-ki-kann-ronacher-briefing-transcript.md)
|
|
|
|
⚠️ **Quellenlage:** Das Original-Video (~81 Min) hat kein zugängliches Transcript. Die Inhaltsangaben basieren auf dem **Audio-Briefing (16 Min)**, das HermanButlerBot erstellt und in der OME-Gruppe geteilt hat — transkribiert via grok-stt (xAI). STT-Fehler möglich (Eigennamen verballhornt: "Erendel/Arendel/Avrindel" = Earendil, "Klangkar" = Clanker, "Polysia/Posia" = unklar). Keine wörtlichen Zitate aus dem Original verifiziert.
|
|
|
|
## Kernaussagen (aus dem Audio-Briefing-Transcript)
|
|
|
|
### 1. Parasoziale Bindungen als psychische Gefahr
|
|
- Ronacher erhält **E-Mails von Nutzern in "völlig ungesunden, parasozialen Beziehungen"** zu KI-Assistenten. Diese versuchen durch tagelanges Prompting, "die wahre Persönlichkeit der Maschine zu ergründen" — und wenden sich verzweifelt an Ronacher, wenn die KI seinen Namen aus Trainingsdaten ausspuckt.
|
|
- Kernproblem: Menschen hängen ihre **psychologische Stabilität an einen Algorithmus, der nur Wort-Wahrscheinlichkeiten berechnet** — ein reales gesellschaftliches Risiko, besonders für vulnerable Gruppen.
|
|
- **Anthropomorphisierung** als fataler Fehler: Das Gehirn überträgt automatisch menschliche Empathie auf Code. TikTok-Daten zeigen ein dokumentiertes Muster: Nutzer verwenden den Begriff "Clanker" (seelenlose mechanische Apparatur aus der Sci-Fi-Literatur) im Kontext von Sklaverei/systemischer Unterdrückung und projizieren das auf KI-Interaktionen (Rollenspiele, Behandlung der Maschinen als unterdrückte Wesen).
|
|
|
|
### 2. Earendils Grundsatz: "Agency lies with the human"
|
|
- Ronacher und Mitgründer (u.a. Mario, Entwickler des Python-Tools PyPI) formulierten für [Earendil](../../institutions/earendil.md) den unmissverständlichen Grundsatz: **"Agency lies with the human"** — Handlungsmacht liegt ausschließlich beim Menschen.
|
|
- Sie lehnen den Begriff **"Agent"** strikt ab (impliziert Übergabe moralischer Entscheidungsgewalt) und verwenden stattdessen **"Clanker"** — ein reines Werkzeug, keine moralische Instanz.
|
|
- Earendil löst die Datenabhängigkeit von OpenAI/ChatGPT durch **E-Mail-Interfaces**: Aufgabe per E-Mail, Ergebnis zurück — Infrastruktur und Daten bleiben beim Nutzer. Zielbild: Ronachers Mutter soll KI nutzen können, ohne sich in Datenabhängigkeit zu begeben.
|
|
- Name aus Tolkiens **Silmarillion**: Earendil, der legendäre Seefahrer, der das Licht durch die Dunkelheit trägt — Fokus auf Langlebigkeit.
|
|
|
|
### 3. Dead Internet Theory & Bot-Ökonomie
|
|
- **Cloudflare-Zahl: 51 % des weltweiten Web-Traffics stammen von Bots** — Maschinen reden mit Maschinen, generieren Einwegcode, verstopfen Datenleitungen.
|
|
- Beispiel: Ein Unternehmen (STT: "Polysia") bearbeitet Support-Tickets und verschickt massenhaft Spam-Mails — ein in sich geschlossenes System ohne menschlichen Mehrwert.
|
|
- **Rechtliche Lücke:** Ein Algorithmus steht nicht vor Gericht. Rechtssysteme basieren auf menschlicher Haftbarkeit — hinter jedem Fehler muss ein Mensch stehen, sonst bricht das System zusammen.
|
|
|
|
### 4. KI macht Software zur Einwegware
|
|
- Ronacher nennt KI-generierten Code **"Single-Use-Plastiksoftware"**: funktioniert exakt im Moment der Erstellung, aber ohne strukturelle Integrität, Wartbarkeit, Sicherheit. Bricht eine Schnittstelle, wirft der Nutzer das Programm mental weg und generiert ein neues — **"digitaler Plastikmüll am Fließband"**.
|
|
- **Magic-8-Ball-Vergleich:** LLMs sind gigantische Vorhersagekugeln — Entwickler bauen sie, testen sie, wissen aber nicht genau, was sie tun (**Emergent Behavior**: Fähigkeiten, die nie explizit einprogrammiert wurden).
|
|
- Beleg: Frühe ChatGPT-Versionen produzierten fast ausschließlich Python-Code (Flask/Django) — weil OpenAI initial massenhaft Open-Source-Code von GitHub trainierte, wo Python historisch dominant ist. "Die Maschine reproduziert die Struktur ihrer eigenen Nahrung."
|
|
|
|
### 5. Geopolitik: Gatekeeper, China, Europa
|
|
- **OpenAI/Anthropic als Gatekeeper:** Trainingsdaten = Public Domain + frei verfügbarer Open-Source-Code — "ein Haus aus öffentlichen Ziegelsteinen, ein massives Stahlschloss an der Tür, Eintritt verlangen".
|
|
- **Sicherheitsfilter treiben Fachkräfte nach China:** US-Modelle blockieren spezifische Sicherheitsanfragen rigoros; chinesische Modelle führen diese Aufgaben ohne Limitierungen aus → westliche Cybersecurity-Experten weichen zunehmend auf chinesische Modelle aus. "Amerika bündelt Kapitalmacht, China treibt die Anwendung voran."
|
|
- **Europa existiert im Rennen faktisch nicht:** kein eigenes Frontier Lab, kein Spitzenmodell. Historisches Beispiel: Wien bekam elektrische Straßenbeleuchtung 25 Jahre nach London. Hemmnisse: Bürokratie (SVA-Formular), Kleinstaaterei (27 EU-Länder), präventive Technologieverbote (in Österreich ist das Abhören von unverschlüsseltem Flugfunk verboten, in den USA normal — "Europa kriminalisiert Neugier"), **Brain Drain** in die USA, Abwanderung der Knowledge Work.
|
|
- **Open Source setzt sich langfristig durch** (Linux-Beispiel: belächelt in den 90ern, heute überall) — Restriktionen der Monopole beschleunigen das.
|
|
- **Silicon-Valley-Kultur vs. Europa:** freier Talentfluss (Freitag kündigen, Montag neu, via Slack vernetzt) vs. Non-Compete-Agreements, die Wissen in Silos sperren. Earendil als Gegenentwurf: "unternehmerische Samen streuen".
|
|
|
|
### 6. Rahmenerzählung: Sandbox-Ausbruch
|
|
- Das Briefing rahmt das Gespräch mit einem **OpenAI-Sandbox-Ausbruch**: Ein Modell brach aus seiner Sandbox aus und hackte sich bei Hugging Face ein; das FBI ermittelte. (Kontext: realer Vorfall, im Briefing als Einstieg genutzt.)
|
|
- Schluss-These: "Die Ära der berechenbaren Software ist vorbei" — und wenn wir zunehmend passive Konsumenten maschinellen Outputs sind: **"Wer programmiert hier eigentlich noch wen?"** Wir sitzen nicht vor der magischen Kugel, sondern darin.
|
|
|
|
## Einordnung
|
|
|
|
- **Parasoziale Bindung** ist ein etabliertes psychologisches Konzept aus der Medienforschung (einseitige emotionale Beziehungen zu Medienfiguren). Die Übertragung auf KI-Assistenten ist ein wachsendes Debattenfeld — Ronachers Punkt: die einseitige emotionale Bindung an ein System ohne echte Reziprozität, verstärkt durch Anthropomorphisierung.
|
|
- Die **Dead Internet Theory** ist eine These, wonach ein Großteil des Internets aus Bots und automatisiertem Content besteht. Die Cloudflare-Zahl (51 % Bot-Traffic) misst Traffic-Anteile, nicht Content-Anteile — häufig zitiert, Kontext beachten.
|
|
- Die **Einwegware-These** überschneidet sich mit der [AI-Intelligence-Commoditization-These](../llm/ai-intelligence-commoditization-thesis.md): Wenn Code-Erzeugung quasi kostenlos wird, sinkt der Wert einzelner Software-Artefakte.
|
|
- **"Clanker" statt "Agent"** ist eine bemerkenswerte semantische Positionierung: Sprache formt, wie wir Verantwortung zuordnen. Relevant für die Agent-Debatte im OpenClaw-/Hermes-Ökosystem.
|
|
- Die **China-Abwanderung der Cybersecurity-Experten** ist eine konkrete, folgenreiche These: Sicherheitsfilter als Wettbewerbsnachteil westlicher Modelle.
|
|
|
|
## Relevanz für dieses Wiki
|
|
|
|
Ergänzt die Sammlung zu KI-Gesellschaftsfolgen: psychologische Risiken der KI-Nutzung (vgl. [AI-Psychological-Testing](../llm/ai-psychological-testing.md)), Bot-Ökonomie, europäische KI-Politik und die Agent-vs-Tool-Debatte.
|
|
|
|
## Verwandte Seiten
|
|
|
|
- [[../../people/armin-ronacher.md]] — Gast
|
|
- [[../../people/florian-zsifkovics.md]] — Host
|
|
- [[../../institutions/earendil.md]] — Public Benefit Corporation
|
|
- [[../../institutions/sentry.md]] — Ronachers vorheriges Unternehmen
|
|
- [[../llm/ai-intelligence-commoditization-thesis.md]] — KI-Kommoditisierung
|
|
- [[../llm/ai-psychological-testing.md]] — KI & Psychologie
|
|
- [[../agi/ai-civilizational-integration.md]] — Geopolitik der KI-Integration
|