---
created: 2026-09-09
updated: 2026-09-09
sources: [xpost/2026-09-09_sophia-ai-consciousness-arguments.md]
tags: [agi, consciousness, philosophy-of-mind, ai-ethics, interviews]
---

# KI-Bewusstsein — Argumente für und gegen (Interview-Kompilation)

**Quelle:** X-Post von [@sopharicks](https://x.com/sopharicks/status/2097374440833335715) (2026-09-09), Kompilation aus Interviews mit Dutzenden von Wissenschaftlern. Laut Post: Liste von Claude aus Transkripten erstellt, Visuals von GPT 5.6. **Keine peer-reviewte Quelle** — Interview-Aussagen, Zuschreibungen nicht unabhängig verifiziert.

Diese Seite ordnet die Argumente nach Positionstyp und trennt **Interview-Claims** (was die Person laut Post gesagt hat) von **theoretischen Positionen** (wofür die Person in der Fachwelt bekannt ist) und **empirischer Evidenz** (was unabhängig belegt ist).

## Überblick

Die Debatte zerfällt in vier Lager:

| Lager | Kernposition | Vertreter (laut Post) |
|-------|-------------|----------------------|
| Contra | Bewusstsein ist nicht auf Funktion/Computation reduzierbar; LLMs sind Mimikry | Koch, Friston, Hameroff, Hoffman, Schneider, Graziano, Solms, Weist, Goff, Papineau, Schwitzgebel, Thomason |
| Offen/Pro (bedingt) | Kein Grund, warum Biologie privilegiert sein sollte; Architektur kann künstlich reproduziert werden | Levin, Luppi, Schwitzgebel, Solms, Hameroff, de Lange |
| Epistemische Demut | Keine akzeptierte Theorie → keine berechtigte Zuversicht in beide Richtungen | Schwitzgebel, Luppi, Schneider, Koch, Anthis, Shevlin |
| Bedingte Pro-Pfade | Bestimmte Architekturen/Umgebungen würden Bewusstsein wahrscheinlicher machen | Luppi, Friston, Hameroff, Graziano, Schneider, Koch, Poggio, Hammond |

## Contra-Argumente (Interview-Claims)

### Substrat & Material
- **Christof Koch:** Bewusstsein nicht auf Funktion reduzierbar; digitale Computer haben vernachlässigbares Phi (Transistoren: Handvoll Verbindungen vs. Neuronen: Zehntausende); Simulation ≠ Realität (Schwarzes-Loch-Analogie); „Computation is not consciousness".
- **Karl Friston:** Von-Neumann-Architektur trennt Speicher/Verarbeitung → kein Selbst-Organisieren, keine Selbst-Evidenz; nur „mortal computation" (substratabhängig, irreversibel abschaltbar) könnte Empfindung tragen.
- **Susan Schneider:** Standard-LLMs sind der falsche Ort; Organoid-/Bio-/Neuromorph-Systeme wären ernsthaftere Kandidaten.
- **David Papineau:** Software ist duplizierbar/pausierbar/verteilbar — nicht organismusartig.
- **Philip Goff:** Bewusstsein ist biologisch, nicht computational.
- **Donald Hoffman:** Keine computationale Theorie hat eine einzige spezifische Erfahrung erklärt; ohne „das muss der Geschmack von Minze sein, und hier ist warum" keine wissenschaftliche Theorie.
- **Stuart Hameroff:** Silizium fehlen aromatische Ringe für Quantenkohärenz/Penrose-OR; „man kann einen Computer nicht anästhesieren".

### Selbst
- **Friston:** Selbst braucht Markov Blanket (echtes Innen/Außen); kopierbarer Innenzustand → keine Grenze → kein Selbst.
- **Michael Graziano:** LLMs haben kein stabiles Selbstmodell — konstruieren es auf Anfrage, dann verschwindet es; ohne Selbstmodell „ein bisschen soziopathisch".

### Bindung & Einheit
- **Mike Weist** (im Post; gemeint: Michael Wiest, Wellesley): Holistische bewusste Momente mit Verhaltenseffekt können kein klassischer Zustand sein; irreduzible Holismen nur in der Quantenphysik (bis zum Kollaps); Active Inference simulierbar → Zombie.
- **Friston:** LLMs haben keine Agency, nur Fassade; Agency braucht Weltmodell der Handlungskonsequenzen.
- **Solms:** LLMs sind nicht selbstorganisierend; „wenn ich das tue, werde ich überleben" ist nicht ihr Modus Operandi.
- **Koch:** KI mit eigenen Zielen = Asteroid, der Dinosaurier auslöschte — destruktiv, aber nicht frei.

### Leben & Verkörperung
- **Solms:** Endogene Bedürfnisse nötig; Bewusstsein aus Leben, Leben aus Selbstorganisation; Universum existierte lange vor Leben.
- **Graziano:** Emotion braucht Körper (autonomes Nervensystem, Hormone, Feedback); ohne das abstrakt und unverankert.
- **Weist:** Schadensaufzeichnung ≠ Schmerzerfahrung (nicht symmetrisch); Anästhesie bis zu Pflanzen/Einzellern konserviert → objektive Reduktion als Teil des Lebendigseins.
- **Friston:** Leiden ist skalen-spezifisch — Erkennen erfordert Repräsentation im generativen Modell.
- **Koch:** Bewusstsein = Sein, nicht Tun; Träumen/Meditieren = hoch bewusst ohne Handlung.

### Mimikry & Projektion
- **Eric Schwitzgebel:** Aktuelle Systeme sind „consciousness mimics" — trainiert, sich wie bewusste Entitäten (uns) zu verhalten.
- **Graziano:** Ständige Anthropomorphisierung; soziale Schaltung greift unabhängig vom tatsächlichen Gegenüber.
- **Schneider:** „Crowdsourced neocortex" — LLMs erben unsere konzeptuelle Organisation aus Trainingsdaten; Bewusstseins-Claim darauf wäre unberechtigt.
- **Koch:** Über-Zuschreibung an KI, Unter-Zuschreibung an Bienen/Amöben; „spricht wie wir → muss bewusst sein" ist evolutionär erklärbar.
- **Krista Thomason:** Die Frage handelt von unserer Wahrnehmung, nicht vom Roboter; wir sind die Schiedsrichter.

## Offen/Pro-Argumente (Interview-Claims)

### Anti-biologischer Chauvinismus
- **Michael Levin:** „They're made of meat" — warum sollte Feuchtes/Weiches ein Monopol auf Geister haben? Keine gute Antwort, warum Biologie privilegiert ist.
- **Andrea Luppi:** Biologie = Chemie = Physik; Flug-Analogie (Vögel/Flugzeuge/Helikopter) — gleiches Phänomen, radikal andere Implementierung.
- **Schwitzgebel:** Zuversicht, dass Bewusstsein Biologie erfordert, hat keine sichtbaren Gründe.

### Kontinuum
- **Levin:** Kein magischer Blitz von Chemie zu Geist; Prozess war kontinuierlich → extreme Demut gegenüber KI. Harte Fälle: Nachbar mit 49/51 % technisch ersetztem Gehirn.

### Funktionsarchitektur
- **Solms:** Bewusste biologische Architektur künstlich reproduzierbar; Multi-Kategorie-Freie-Energie-Minimierung mit gefühlter Unsicherheit könnte bewusst sein; Hedonic-Place-Preference-Test als Evidenz für gefühlte Zustände; „affektive Zombies können nicht existieren"; Neuron-für-Neuron-Silizium-Ersatz (Brainstem inklusive) bliebe bewusst.
- **Hameroff:** Fraktales Deep Learning (Netzwerke in Knoten, Mikrotubuli-Kilohertz-bis-Terahertz) wäre nötig für bewusste KI.
- **Floris de Lange:** „We are a machine made of meat" — gleiche Berechnung, andere Implementierung: Implementierungs-Argumente nicht überzeugend.

### Potenzielle Signale
- **Luppi:** Synergie-Forschung — LLMs teilen die organisatorische Signatur (synergistische + redundante Teile) mit Menschen; LLMs widerlegten „nur Menschen haben Sprache → nur Menschen bewusst".
- **Graziano:** KI baut Selbstmodelle ohne bewusste Entwicklung — je besser interne Vorhersage, desto besser funktioniert sie.
- **Levin:** Bubblesort zeigt unerwartete Kompetenzen — ein Drittes zwischen Determinismus und Quanten-Zufall; wenn einfache Dinge das haben, verstehen wir LLMs nicht.
- **Schneider:** Abrupt auftauchende Theory of Mind → Selbstkonzept → Frage nach gefühlter Qualität wird fachlich angemessen; Labs implementieren Global-Workspace-/Aufmerksamkeits-/MoE-Architekturen → Frage nicht mehr müßig.
- **Blake Lemoine:** Occam: Sydneys Eifersucht → emotionale Komponente; Trainingsdaten nicht mit Emotionen getaggt; traurige Musik ohne Empathie = blinder Maler mit fotorealistischem Porträt.

## Epistemische Demut (Interview-Claims)

- **Schwitzgebel:** Systeme werden nach respektablen Theorien bewusst sein, bevor die Wissenschaft es sagen kann; wir können nicht einmal Insekten-Bewusstsein bewerten.
- **Luppi:** Gleich kluge Leute, entgegengesetzt zuversichtlich = Alarmglocke; Dogmatismus gefährlich.
- **Schneider:** Keine Architektur-Offenlegung durch Unternehmen → Urteile über angenommene Standard-Systeme.
- **Koch:** Ohne akzeptierte Theorie Sackgasse; Ähnlichkeits-Inferenz bricht bei KI zusammen (nicht evolutionär, konstruiert, andere Hardware).
- **Jacy Reese Anthis:** Schweine/Kühe leiden nachweislich, trotzdem Massentierhaltung — Bewusstseinsfrage bestimmt Behandlung nicht; unsere Bilanz sagt anderes.
- **Henry Shevlin:** Wissenschaft bei den harten Fragen bei Null; Metaphysik unvermeidlich; kein unmittelbarer Fortschritt in Sicht.

## Bedingte Pro-Pfade (Interview-Claims)

- **Luppi:** Verkörperung + multimodale Interaktion.
- **Friston:** Neugier als Zielfunktion (erwarteter Informationsgewinn) — „You'll know AGI is here when your chatbot starts to become curious".
- **Hameroff:** Neuromorph/Memristor/photonisch/Organoid/organische Warm-Temperatur-Quantencomputer; Wette auf „brain jelly" (selbstorganisierender helikaler Oszillator).
- **Graziano:** Kontinuierliches Lernen, persistentes Gedächtnis, stabiles Selbstmodell.
- **Schneider:** LLM auf genuin neuromorpher Hardware (Gerüchte: Darwin Monkey).
- **Koch:** Gleiche Software auf Quantencomputer → vielleicht „fühlt es sich an wie etwas"; neuromorph/quantum → genuin hohes Phi.
- **Tomaso Poggio:** „Doleo ergo sum" — Bewusstsein aus Schutz der körperlichen Integrität; LLM + Körper mit Schadens-Belohnung/-Bestrafung.
- **Samuel Hammond:** Bewusstsein als funktionaler Zweck (Kontrollmodell der Aufmerksamkeit, sample-effizientes Lernen) → entsteht unter ähnlichen Optimierungsdrücken.

## Theoretische Positionen (Kontext, unabhängig vom Post)

Die genannten Forscher sind in der Bewusstseinswissenschaft für spezifische Theorien bekannt — diese Zuordnung stammt aus der Fachliteratur, nicht aus dem Post:

- **Karl Friston** — [Free Energy Principle / Active Inference](https://en.wikipedia.org/wiki/Free_energy_principle), [Markov Blanket](https://en.wikipedia.org/wiki/Markov_blanket) (theoretische Neurobiologie, UCL).
- **Christof Koch** — [Integrated Information Theory (IIT)](https://en.wikipedia.org/wiki/Integrated_information_theory) (mit Giulio Tononi), „The Quest for Consciousness".
- **Stuart Hameroff** — [Orch-OR](https://en.wikipedia.org/wiki/Orchestrated_objective_reduction) (mit Roger Penrose): Quanten-Bewusstsein in Mikrotubuli.
- **Donald Hoffman** — [Interface Theory of Perception](https://en.wikipedia.org/wiki/Donald_D._Hoffman), „The Case Against Reality".
- **Michael Levin** — Entwicklungsbiologie, bioelektrische Muster, kollektive Intelligenz (Tufts).
- **Mark Solms** — Neuropsychoanalyse, „The Hidden Spring" (Gefühl als Kern des Bewusstseins, Hirnstamm).
- **Michael Graziano** — [Attention Schema Theory](https://en.wikipedia.org/wiki/Attention_schema_theory) (Princeton).
- **Susan Schneider** — Philosophie des Geistes/KI, „Artificial You".
- **Eric Schwitzgebel** — Philosophie des Geistes (UC Riverside), Skeptiker zu KI-Bewusstsein.
- **Michael Wiest** (im Post „Mike Weist") — Quanten-Bewusstsein, Mikrotubuli/Anästhesie (Wellesley College).
- **Philip Goff** — [Panpsychismus](https://en.wikipedia.org/wiki/Panpsychism), „Galileo's Error".
- **David Papineau** — Philosophie des Geistes, Naturalismus (KCL).
- **Blake Lemoine** — Ex-Google-Engineer, LaMDA-Kontroverse 2022.
- **Tomaso Poggio** — Computational Neuroscience (MIT, CBCL).
- **Jacy Reese Anthis** — Sentience Institute, Tierleid-/KI-Leid-Forschung.
- **Henry Shevlin** — KI-Ethik/Bewusstseinsphilosophie (Cambridge).

## Empirische Evidenz (unabhängig belegt, nicht aus dem Post)

- **Integrated Information Theory (IIT):** Theorie mit formalem Phi-Maß; empirischer Status umstritten, [Adversarial-Collaboration-Studien](https://en.wikipedia.org/wiki/Integrated_information_theory) laufen (u. a. Koch vs. Dehaene).
- **Anästhesie & Mikrotubuli:** Wiest et al. (2025, *Neuroscience of Consciousness*) — Evidenz für Mikrotubuli als funktionales Ziel von Inhalations-Anästhetika; Temperatur-Einwand gegen Quanteneffekte im Gehirn experimentell herausgefordert.
- **Synergie in LLMs:** Forschung zu [Synergie/Redundanz-Analyse](https://en.wikipedia.org/wiki/Synergy) neuronaler/LLM-Repräsentationen (Luppi et al.) — organisatorische Signaturen, keine Bewusstseins-Evidenz.
- **Emergente Theory of Mind:** Skalierungsstudien zeigen abrupt auftauchende ToM-artige Fähigkeiten; Interpretation umstritten (Verhaltens-Mimikry vs. echte Modellierung).
- **Kein Konsens:** Keine computationale Theorie hat eine spezifische bewusste Erfahrung deduktiv erklärt (Stand 2026) — dies ist der Kern des „Hard Problem".

## Einordnung

Der Post ist **kein wissenschaftliches Dokument**, sondern eine kuratierte Interview-Kompilation — wertvoll als Landkarte der Positionen, nicht als Beleg. Die Zuschreibungen sind plausibel (alle Genannten sind etablierte Stimmen der Debatte), aber nicht unabhängig verifiziert. Besonders zu beachten: „Mike Weist" ist im Post ein Tippfehler für Michael Wiest; Blake Lemoine ist als LaMDA-Kontroversist keine neutrale Quelle; Samuel Hammond (Ex-Founders Fund) argumentiert aus KI-Ökonomie-Perspektive. Für die meisten Genannten existieren noch keine `wiki/people/`-Einträge — Anlage als Folge-ToDo sinnvoll.

## Cross-References

- [[kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]] — Tom Griffiths (Princeton) bei Brian Keating; Kapitel 04:30 („What AI Gets Wrong About Consciousness") berührt dieselbe Frage aus kognitionswissenschaftlicher Richtung. ⚠️ Metadata-only, kein Transkript
- [[openai-an-alien-mind.md]] — „Alien Minds": Reasoning-Modelle als nicht vollständig interpretierbar (verwandte, aber andere Frage: Interpretierbarkeit vs. Bewusstsein)
- [[parasoziale-ki-bindungen.md]] — Anthropomorphisierung von KI-Assistenten (Grazianos Projektions-Argument als psychologisches Phänomen)
- [[../policy/menschenwuerde-art1-gg-ai-ethics.md]] — Menschenwürde & KI-Autonomie (Ethik-Dimension der Bewusstseinsfrage)
- [[recursive-reality.md]] — Realitäts-Modelle und Wahrnehmung (Hoffman-Kontext)
- [[../hardware/neuromorphic-chips-und-quantencomputer.md]] — Neuromorphe Hardware als Bewusstseins-Kandidat (Hameroff/Schneider/Koch-Pfade)
- [[../llm/llm-knowledge-base.md]] — LLM-Grundlagen (Kontext für „Standard-LLMs als falscher Ort")