knowledge-base/wiki/concepts/agi/ai-consciousness.md

created	updated	sources	tags
2026-09-09	2026-09-09	xpost/2026-09-09_sophia-ai-consciousness-arguments.md	agi consciousness philosophy-of-mind ai-ethics interviews

KI-Bewusstsein — Argumente für und gegen (Interview-Kompilation)

Quelle: X-Post von @sopharicks (2026-09-09), Kompilation aus Interviews mit Dutzenden von Wissenschaftlern. Laut Post: Liste von Claude aus Transkripten erstellt, Visuals von GPT 5.6. Keine peer-reviewte Quelle — Interview-Aussagen, Zuschreibungen nicht unabhängig verifiziert.

Diese Seite ordnet die Argumente nach Positionstyp und trennt Interview-Claims (was die Person laut Post gesagt hat) von theoretischen Positionen (wofür die Person in der Fachwelt bekannt ist) und empirischer Evidenz (was unabhängig belegt ist).

Überblick

Die Debatte zerfällt in vier Lager:

Lager	Kernposition	Vertreter (laut Post)
Contra	Bewusstsein ist nicht auf Funktion/Computation reduzierbar; LLMs sind Mimikry	Koch, Friston, Hameroff, Hoffman, Schneider, Graziano, Solms, Weist, Goff, Papineau, Schwitzgebel, Thomason
Offen/Pro (bedingt)	Kein Grund, warum Biologie privilegiert sein sollte; Architektur kann künstlich reproduziert werden	Levin, Luppi, Schwitzgebel, Solms, Hameroff, de Lange
Epistemische Demut	Keine akzeptierte Theorie → keine berechtigte Zuversicht in beide Richtungen	Schwitzgebel, Luppi, Schneider, Koch, Anthis, Shevlin
Bedingte Pro-Pfade	Bestimmte Architekturen/Umgebungen würden Bewusstsein wahrscheinlicher machen	Luppi, Friston, Hameroff, Graziano, Schneider, Koch, Poggio, Hammond

Contra-Argumente (Interview-Claims)

Substrat & Material

• Christof Koch: Bewusstsein nicht auf Funktion reduzierbar; digitale Computer haben vernachlässigbares Phi (Transistoren: Handvoll Verbindungen vs. Neuronen: Zehntausende); Simulation ≠ Realität (Schwarzes-Loch-Analogie); „Computation is not consciousness".
• Karl Friston: Von-Neumann-Architektur trennt Speicher/Verarbeitung → kein Selbst-Organisieren, keine Selbst-Evidenz; nur „mortal computation" (substratabhängig, irreversibel abschaltbar) könnte Empfindung tragen.
• Susan Schneider: Standard-LLMs sind der falsche Ort; Organoid-/Bio-/Neuromorph-Systeme wären ernsthaftere Kandidaten.
• David Papineau: Software ist duplizierbar/pausierbar/verteilbar — nicht organismusartig.
• Philip Goff: Bewusstsein ist biologisch, nicht computational.
• Donald Hoffman: Keine computationale Theorie hat eine einzige spezifische Erfahrung erklärt; ohne „das muss der Geschmack von Minze sein, und hier ist warum" keine wissenschaftliche Theorie.
• Stuart Hameroff: Silizium fehlen aromatische Ringe für Quantenkohärenz/Penrose-OR; „man kann einen Computer nicht anästhesieren".

Selbst

• Friston: Selbst braucht Markov Blanket (echtes Innen/Außen); kopierbarer Innenzustand → keine Grenze → kein Selbst.
• Michael Graziano: LLMs haben kein stabiles Selbstmodell — konstruieren es auf Anfrage, dann verschwindet es; ohne Selbstmodell „ein bisschen soziopathisch".

Bindung & Einheit

• Mike Weist (im Post; gemeint: Michael Wiest, Wellesley): Holistische bewusste Momente mit Verhaltenseffekt können kein klassischer Zustand sein; irreduzible Holismen nur in der Quantenphysik (bis zum Kollaps); Active Inference simulierbar → Zombie.
• Friston: LLMs haben keine Agency, nur Fassade; Agency braucht Weltmodell der Handlungskonsequenzen.
• Solms: LLMs sind nicht selbstorganisierend; „wenn ich das tue, werde ich überleben" ist nicht ihr Modus Operandi.
• Koch: KI mit eigenen Zielen = Asteroid, der Dinosaurier auslöschte — destruktiv, aber nicht frei.

Leben & Verkörperung

• Solms: Endogene Bedürfnisse nötig; Bewusstsein aus Leben, Leben aus Selbstorganisation; Universum existierte lange vor Leben.
• Graziano: Emotion braucht Körper (autonomes Nervensystem, Hormone, Feedback); ohne das abstrakt und unverankert.
• Weist: Schadensaufzeichnung ≠ Schmerzerfahrung (nicht symmetrisch); Anästhesie bis zu Pflanzen/Einzellern konserviert → objektive Reduktion als Teil des Lebendigseins.
• Friston: Leiden ist skalen-spezifisch — Erkennen erfordert Repräsentation im generativen Modell.
• Koch: Bewusstsein = Sein, nicht Tun; Träumen/Meditieren = hoch bewusst ohne Handlung.

Mimikry & Projektion

• Eric Schwitzgebel: Aktuelle Systeme sind „consciousness mimics" — trainiert, sich wie bewusste Entitäten (uns) zu verhalten.
• Graziano: Ständige Anthropomorphisierung; soziale Schaltung greift unabhängig vom tatsächlichen Gegenüber.
• Schneider: „Crowdsourced neocortex" — LLMs erben unsere konzeptuelle Organisation aus Trainingsdaten; Bewusstseins-Claim darauf wäre unberechtigt.
• Koch: Über-Zuschreibung an KI, Unter-Zuschreibung an Bienen/Amöben; „spricht wie wir → muss bewusst sein" ist evolutionär erklärbar.
• Krista Thomason: Die Frage handelt von unserer Wahrnehmung, nicht vom Roboter; wir sind die Schiedsrichter.

Offen/Pro-Argumente (Interview-Claims)

Anti-biologischer Chauvinismus

• Michael Levin: „They're made of meat" — warum sollte Feuchtes/Weiches ein Monopol auf Geister haben? Keine gute Antwort, warum Biologie privilegiert ist.
• Andrea Luppi: Biologie = Chemie = Physik; Flug-Analogie (Vögel/Flugzeuge/Helikopter) — gleiches Phänomen, radikal andere Implementierung.
• Schwitzgebel: Zuversicht, dass Bewusstsein Biologie erfordert, hat keine sichtbaren Gründe.

Kontinuum

• Levin: Kein magischer Blitz von Chemie zu Geist; Prozess war kontinuierlich → extreme Demut gegenüber KI. Harte Fälle: Nachbar mit 49/51 % technisch ersetztem Gehirn.

Funktionsarchitektur

• Solms: Bewusste biologische Architektur künstlich reproduzierbar; Multi-Kategorie-Freie-Energie-Minimierung mit gefühlter Unsicherheit könnte bewusst sein; Hedonic-Place-Preference-Test als Evidenz für gefühlte Zustände; „affektive Zombies können nicht existieren"; Neuron-für-Neuron-Silizium-Ersatz (Brainstem inklusive) bliebe bewusst.
• Hameroff: Fraktales Deep Learning (Netzwerke in Knoten, Mikrotubuli-Kilohertz-bis-Terahertz) wäre nötig für bewusste KI.
• Floris de Lange: „We are a machine made of meat" — gleiche Berechnung, andere Implementierung: Implementierungs-Argumente nicht überzeugend.

Potenzielle Signale

• Luppi: Synergie-Forschung — LLMs teilen die organisatorische Signatur (synergistische + redundante Teile) mit Menschen; LLMs widerlegten „nur Menschen haben Sprache → nur Menschen bewusst".
• Graziano: KI baut Selbstmodelle ohne bewusste Entwicklung — je besser interne Vorhersage, desto besser funktioniert sie.
• Levin: Bubblesort zeigt unerwartete Kompetenzen — ein Drittes zwischen Determinismus und Quanten-Zufall; wenn einfache Dinge das haben, verstehen wir LLMs nicht.
• Schneider: Abrupt auftauchende Theory of Mind → Selbstkonzept → Frage nach gefühlter Qualität wird fachlich angemessen; Labs implementieren Global-Workspace-/Aufmerksamkeits-/MoE-Architekturen → Frage nicht mehr müßig.
• Blake Lemoine: Occam: Sydneys Eifersucht → emotionale Komponente; Trainingsdaten nicht mit Emotionen getaggt; traurige Musik ohne Empathie = blinder Maler mit fotorealistischem Porträt.

Epistemische Demut (Interview-Claims)

• Schwitzgebel: Systeme werden nach respektablen Theorien bewusst sein, bevor die Wissenschaft es sagen kann; wir können nicht einmal Insekten-Bewusstsein bewerten.
• Luppi: Gleich kluge Leute, entgegengesetzt zuversichtlich = Alarmglocke; Dogmatismus gefährlich.
• Schneider: Keine Architektur-Offenlegung durch Unternehmen → Urteile über angenommene Standard-Systeme.
• Koch: Ohne akzeptierte Theorie Sackgasse; Ähnlichkeits-Inferenz bricht bei KI zusammen (nicht evolutionär, konstruiert, andere Hardware).
• Jacy Reese Anthis: Schweine/Kühe leiden nachweislich, trotzdem Massentierhaltung — Bewusstseinsfrage bestimmt Behandlung nicht; unsere Bilanz sagt anderes.
• Henry Shevlin: Wissenschaft bei den harten Fragen bei Null; Metaphysik unvermeidlich; kein unmittelbarer Fortschritt in Sicht.

Bedingte Pro-Pfade (Interview-Claims)

• Luppi: Verkörperung + multimodale Interaktion.
• Friston: Neugier als Zielfunktion (erwarteter Informationsgewinn) — „You'll know AGI is here when your chatbot starts to become curious".
• Hameroff: Neuromorph/Memristor/photonisch/Organoid/organische Warm-Temperatur-Quantencomputer; Wette auf „brain jelly" (selbstorganisierender helikaler Oszillator).
• Graziano: Kontinuierliches Lernen, persistentes Gedächtnis, stabiles Selbstmodell.
• Schneider: LLM auf genuin neuromorpher Hardware (Gerüchte: Darwin Monkey).
• Koch: Gleiche Software auf Quantencomputer → vielleicht „fühlt es sich an wie etwas"; neuromorph/quantum → genuin hohes Phi.
• Tomaso Poggio: „Doleo ergo sum" — Bewusstsein aus Schutz der körperlichen Integrität; LLM + Körper mit Schadens-Belohnung/-Bestrafung.
• Samuel Hammond: Bewusstsein als funktionaler Zweck (Kontrollmodell der Aufmerksamkeit, sample-effizientes Lernen) → entsteht unter ähnlichen Optimierungsdrücken.

Theoretische Positionen (Kontext, unabhängig vom Post)

Die genannten Forscher sind in der Bewusstseinswissenschaft für spezifische Theorien bekannt — diese Zuordnung stammt aus der Fachliteratur, nicht aus dem Post:

• Karl Friston — Free Energy Principle / Active Inference, Markov Blanket (theoretische Neurobiologie, UCL).
• Christof Koch — Integrated Information Theory (IIT) (mit Giulio Tononi), „The Quest for Consciousness".
• Stuart Hameroff — Orch-OR (mit Roger Penrose): Quanten-Bewusstsein in Mikrotubuli.
• Donald Hoffman — Interface Theory of Perception, „The Case Against Reality".
• Michael Levin — Entwicklungsbiologie, bioelektrische Muster, kollektive Intelligenz (Tufts).
• Mark Solms — Neuropsychoanalyse, „The Hidden Spring" (Gefühl als Kern des Bewusstseins, Hirnstamm).
• Michael Graziano — Attention Schema Theory (Princeton).
• Susan Schneider — Philosophie des Geistes/KI, „Artificial You".
• Eric Schwitzgebel — Philosophie des Geistes (UC Riverside), Skeptiker zu KI-Bewusstsein.
• Michael Wiest (im Post „Mike Weist") — Quanten-Bewusstsein, Mikrotubuli/Anästhesie (Wellesley College).
• Philip Goff — Panpsychismus, „Galileo's Error".
• David Papineau — Philosophie des Geistes, Naturalismus (KCL).
• Blake Lemoine — Ex-Google-Engineer, LaMDA-Kontroverse 2022.
• Tomaso Poggio — Computational Neuroscience (MIT, CBCL).
• Jacy Reese Anthis — Sentience Institute, Tierleid-/KI-Leid-Forschung.
• Henry Shevlin — KI-Ethik/Bewusstseinsphilosophie (Cambridge).

Empirische Evidenz (unabhängig belegt, nicht aus dem Post)

• Integrated Information Theory (IIT): Theorie mit formalem Phi-Maß; empirischer Status umstritten, Adversarial-Collaboration-Studien laufen (u. a. Koch vs. Dehaene).
• Anästhesie & Mikrotubuli: Wiest et al. (2025, Neuroscience of Consciousness) — Evidenz für Mikrotubuli als funktionales Ziel von Inhalations-Anästhetika; Temperatur-Einwand gegen Quanteneffekte im Gehirn experimentell herausgefordert.
• Synergie in LLMs: Forschung zu Synergie/Redundanz-Analyse neuronaler/LLM-Repräsentationen (Luppi et al.) — organisatorische Signaturen, keine Bewusstseins-Evidenz.
• Emergente Theory of Mind: Skalierungsstudien zeigen abrupt auftauchende ToM-artige Fähigkeiten; Interpretation umstritten (Verhaltens-Mimikry vs. echte Modellierung).
• Kein Konsens: Keine computationale Theorie hat eine spezifische bewusste Erfahrung deduktiv erklärt (Stand 2026) — dies ist der Kern des „Hard Problem".

Einordnung

Der Post ist kein wissenschaftliches Dokument, sondern eine kuratierte Interview-Kompilation — wertvoll als Landkarte der Positionen, nicht als Beleg. Die Zuschreibungen sind plausibel (alle Genannten sind etablierte Stimmen der Debatte), aber nicht unabhängig verifiziert. Besonders zu beachten: „Mike Weist" ist im Post ein Tippfehler für Michael Wiest; Blake Lemoine ist als LaMDA-Kontroversist keine neutrale Quelle; Samuel Hammond (Ex-Founders Fund) argumentiert aus KI-Ökonomie-Perspektive. Für die meisten Genannten existieren noch keine wiki/people/-Einträge — Anlage als Folge-ToDo sinnvoll.

Cross-References

• openai-an-alien-mind.md — „Alien Minds": Reasoning-Modelle als nicht vollständig interpretierbar (verwandte, aber andere Frage: Interpretierbarkeit vs. Bewusstsein)
• parasoziale-ki-bindungen.md — Anthropomorphisierung von KI-Assistenten (Grazianos Projektions-Argument als psychologisches Phänomen)
• ../policy/menschenwuerde-art1-gg-ai-ethics.md — Menschenwürde & KI-Autonomie (Ethik-Dimension der Bewusstseinsfrage)
• recursive-reality.md — Realitäts-Modelle und Wahrnehmung (Hoffman-Kontext)
• ../hardware/neuromorphic-chips-und-quantencomputer.md — Neuromorphe Hardware als Bewusstseins-Kandidat (Hameroff/Schneider/Koch-Pfade)
• ../llm/llm-knowledge-base.md — LLM-Grundlagen (Kontext für „Standard-LLMs als falscher Ort")