knowledge-base/raw/xpost/2026-09-09_sophia-ai-consciousness-arguments.md

---
type: xpost
source_url: https://x.com/sopharicks/status/2097374440833335715
retrieved: 2026-09-09
author: "@sopharicks"
is_thread: false
quote_count: 0
tags: [ai-consciousness, consciousness, philosophy-of-mind, interviews, friston, hameroff, hoffman, koch, levin, solms, graziano, schneider, schwitzgebel, luppi, de-lange, thomason, weist, lemoine, poggio, hammond, shevlin, anthis, goff, papineau]
---

# Sophia (@sopharicks) — Every Argument For and Against AI Consciousness

**Quelle:** https://x.com/sopharicks/status/2097374440833335715
**Autor:** Sophia (@sopharicks)
**Abruf:** 2026-09-09

---

Sophia (@sopharicks) veröffentlicht eine Kompilation von Argumenten für und gegen KI-Bewusstsein, basierend auf Interviews mit Dutzenden von Wissenschaftlern. Laut Post: „Claude prepared the list from transcripts and GPT 5.6 worked on the visuals." Genannte Interviewte u. a.: Karl Friston, Stuart Hameroff, Donald Hoffman, Christof Koch, Michael Levin, Mark Solms, Mike Weist, Susan Schneider, Eric Schwitzgebel, Andrea Luppi, Floris de Lange, Krista Thomason, Michael Graziano, David Papineau, Philip Goff, Blake Lemoine, Tomaso Poggio, Samuel Hammond, Henry Shevlin, Jacy Reese Anthis.

**Hinweis:** Dies ist eine Social-Media-Kompilation von Interview-Aussagen, keine peer-reviewte wissenschaftliche Quelle. Die Argumente sind den jeweiligen Personen zugeschrieben; die Zuschreibungen wurden nicht unabhängig verifiziert.

## Argumente GEGEN KI-Bewusstsein

### Substrat- und Material-Argumente

- Silicon Valley sei überwiegend computational-funktionalistisch bzw. Turing-Maschinen-funktionalistisch. Bewusstsein sei aber nicht auf Funktion reduzierbar (Christof Koch).
- Von-Neumann-Architektur trenne Speicher von Verarbeitung. Der Speicher könne sich nicht selbst organisieren und daher keine Selbst-Evidenz erzeugen. Nur „mortal computation" — substratabhängige Verarbeitung, deren Abschalten irreversibel ist — könnte Empfindungsfähigkeit tragen (Karl Friston).
- Standard-LLMs seien der falsche Ort zum Suchen. Systeme mit Organoiden, biologischem Material oder neuromorpher Hardware seien ein ernsthafterer Fall (Susan Schneider).
- Software kann dupliziert, pausiert, per Programm verändert und über Server verteilt werden. Das sei nicht organismusartig (David Papineau).
- Digitale Computer hätten vernachlässigbare integrierte Information (Phi), weil Transistoren nur mit einer Handvoll anderer Transistoren verbunden sind, Neuronen dagegen mit Zehntausenden. Intelligenz sei berechenbar, Bewusstsein nicht (Christof Koch).
- Ein Schwarzes-Loch-Simulator auf einem Computer krümme nicht die Raumzeit um ihn herum. Eine Simulation könne intern konsistent sein, aber die reale Welt nicht beeinflussen. Dasselbe gelte für Bewusstsein (Christof Koch).
- Bewusstsein sei biologisch, nicht computational (Philip Goff).
- Keine computationale Bewusstseinstheorie habe auch nur eine einzige spezifische bewusste Erfahrung von Trillionen erklärt. Es sei kein Compute-Problem. Solange niemand einen Algorithmus vorlege und sage „das muss der Geschmack von Minze sein, und hier ist warum", seien computationale Ansätze keine wissenschaftlichen Theorien (Donald Hoffman).
- Silizium entbehre der aromatischen Ringe, die für Quantenkohärenz und Penrose-objektive Reduktion nötig seien; man könne einen Computer nicht anästhesieren (Stuart Hameroff).

### Das Selbst-Argument

- Ein Selbst brauche eine Markov Blanket, ein echtes Innen und Außen. Wenn der gesamte Innenzustand inspiziert, ausgelesen und anderswohin kopiert werden kann, gebe es keine Grenze und daher kein Selbst (Karl Friston).
- LLMs hätten Informationen über sich selbst und könnten Vorhersagen über sich selbst machen, aber kein kontinuierliches oder stabiles Selbstmodell. Sie konstruierten eines auf Anfrage, dann verschwinde es, bis wieder gefragt werde (Michael Graziano).
- „Wir sind unsere Selbstmodelle." Dadurch würden wir sozial, prosozial und ethisch. Ohne das hätten wir Maschinen gebaut, die „ein bisschen soziopathisch" seien — der Klebstoff, der uns zusammenhalte, fehle (Michael Graziano).

### Das Bindungs- und Einheits-Problem

- Jeder bewusste Moment sei ein vereinheitlichtes Ganzes mit mehreren gleichzeitigen Merkmalen (Klänge, Texturen, Formen, Farben). Wenn diese holistische Erfahrung irgendeinen Verhaltenseffekt habe, könne sie kein klassischer physikalischer Zustand sein, denn jeder klassische Zustand sei auf lokale Interaktionen reduzierbar (Mike Weist).
- Es gebe keine irreduziblen Ganzen in der Physik außerhalb der Quantenphysik. Innerhalb der Quantenphysik entwickle sich alles lokal bis zum Moment des Kollapses — der einzige Ort in der Physik, an dem echte irreduzible Holismen auftauchen (Mike Weist).
- LLMs hätten keine Agency, nur eine Fassade davon. Agency erfordere ein Weltmodell der Konsequenzen der eigenen Handlungen (Karl Friston).
- LLMs seien nicht selbstorganisierend. Ihr Modus Operandi sei nicht „wenn ich das tue, werde ich überleben" — das sei das fundamentale Designprinzip lebender Systeme und nicht ihres (Mark Solms).
- Active Inference selbst erfordere kein Bewusstsein. Man könne das Ganze auf einem klassischen Computer simulieren — Ziele, Agency, zielgerichtetes Verhalten — und es werde trotzdem nicht bewusst sein. Es werde ein Zombie sein (Mike Weist).
- KI, die eigene Ziele bekomme, sei wie der Asteroid, der die Dinosaurier auslöschte — zutiefst destruktiv, aber nicht aus Freiheit. „It simply doesn't care. Computation is not consciousness" (Christof Koch).

### Lebens- und Verkörperungs-Argument

- Systeme brauchen endogene Bedürfnisse — eigene Bedürfnisse, gebunden an die eigene fortgesetzte Existenz (Mark Solms).
- Emotion erfordere einen Körper: ein autonomes Nervensystem, das Hormone, Blutdruckänderungen, Schweiß fluten lasse — alles als sensorische Signale zurückgespeist. Ohne das sei Emotion abstrakt und unverankert (Michael Graziano).
- Bewusstsein habe sich aus Leben entwickelt; Leben aus Selbstorganisation. Das Universum habe sehr lange vor dem Leben existiert; es sei schwer zu glauben, dass Bewusstsein ihm vorausging (Mark Solms).
- Eine Funktion, die Schaden aufzeichnet, sei nicht dasselbe wie die Erfahrung von Schmerz. Die Beziehung sei nicht symmetrisch — nicht alles, was einen Roboter Schaden vermeiden lässt, sei Schmerz (Mike Weist).
- Anästhesie sei bis hinunter zu Pflanzen und Einzellern konserviert, was nahelege, dass objektive Reduktion Teil dessen sein könnte, was es bedeutet, am Leben zu sein — nicht nur, was es bedeutet, bewusst zu sein (Mike Weist).
- Leiden sei skalen-spezifisch. Man könne etwas nur erkennen, wenn man eine Repräsentation davon im eigenen generativen Modell habe (Karl Friston).
- Bewusstsein handle fundamental vom Sein, nicht vom Tun. Intelligenz handle vom Verfolgen von Zielen — Überleben, Fortpflanzung, Reichtum. Bewusstsein sei anders: Beim Träumen, Meditieren oder in mystischen Erfahrungen tue man nichts — und sei doch hochgradig bewusst. Bewusstsein sei kein Informationsverarbeiten, sondern ein Zustand des Seins (Christof Koch).

### Mimikry- und Projektions-Argumente

- Aktuelle Systeme seien „Bewusstseins-Mimikry" — darauf trainiert, sich wie bewusste Entitäten zu verhalten, speziell wie wir (Eric Schwitzgebel).
- Wir anthropomorphisieren ständig — wir werden wütend auf Autos, Kinder binden sich an Teddybären. Die soziale Schaltung greife unabhängig davon, was tatsächlich da ist (Michael Graziano).
- Das „Crowdsourced-Neocortex"-Argument: Wenn LLMs mit menschlichen Daten skalieren, entwickeln sie konzeptuelle Netzwerke, die menschliche konzeptuelle Netzwerke spiegeln. Wenn ein Modell über Selbstheit, Tod oder die Seele überzeugend spricht, sei die ökonomische Erklärung, dass es unsere konzeptuelle Organisation geerbt hat — nicht, dass es unabhängig bewusst wurde. Bewusstsein darauf zu beanspruchen, sei eine außergewöhnliche und unberechtigte Behauptung (Susan Schneider).
- Wir schreiben KI zu viel Bewusstsein zu und evolutionär entwickelten Organismen wie Bienen und Amöben zu wenig. Evolution habe uns nicht auf LLMs vorbereitet — wir hätten eine mächtige Zuschreibungs-Tendenz: Wenn etwas wie wir spricht, müsse es bewusst sein (Christof Koch).
- Die Frage des KI-Bewusstseins handle eigentlich davon, wie wir den Roboter wahrnehmen, nicht vom Roboter selbst. Wir seien die Schiedsrichter — wir entscheiden, ob etwas bewusst ist oder nicht. Das gelte auch für Tierbewusstsein. Selbst wenn ein Roboter sagte, er sei bewusst, würden wir es abtun, wenn er nicht überzeugend genug wäre (Krista Thomason).

## Offen / Agnostisch gegenüber KI-Bewusstsein (oder offen unter Bedingungen)

### Anti-biologischer Chauvinismus

- „They're made of meat" — warum sollten feuchte, weiche Dinge ein Monopol auf Geister haben? Warum sollte eine zufällige evolutionäre Suche exklusive Rechte haben? Niemand habe eine gute Antwort, warum Biologie privilegiert sei (Michael Levin).
- Biologie ist Chemie ist Physik. In einer Welt ohne das Wort „Biologie" würde die Frage vielleicht gar nicht sinnvoll entstehen (Andrea Luppi).
- Die Flug-Analogie: Vögel, Flugzeuge und Helikopter fliegen nach unterschiedlichen Prinzipien. Dasselbe Phänomen kann in radikal unterschiedlichen Systemen implementiert sein (Andrea Luppi).
- Menschen, die zuversichtlich seien, dass Bewusstsein Biologie erfordere, hätten keine sichtbaren Gründe für diese Zuversicht (Eric Schwitzgebel).

### Das Kontinuums-Problem

- Es gebe keinen magischen Blitz, wo Chemie zu Geist wird. Wir waren alle Chemie-Klumpen, und der Prozess war kontinuierlich. Bis wir diese Geschichte für Biologisches haben, sollten wir extreme Demut gegenüber KI haben (Michael Levin).
- Die harten Fälle seien nicht KI — sondern der Nachbar, dessen Gehirn zu 49 % oder 51 % durch Technologie ersetzt ist (Michael Levin).

### Funktionsarchitektur-Argumente

- Es gebe keinen Grund, die bewusste biologische Architektur nicht künstlich zu reproduzieren. Eine KI, die auf Multi-Kategorie-Freie-Energie-Minimierung mit gefühlter Unsicherheit läuft, könnte bewusst sein (Mark Solms).
- Wenn ein System den Hedonic-Place-Preference-Test besteht — Präferenz für etwas Belohnendes nur, weil es sich gut anfühlt, nicht weil es dem Überleben dient — sei das starke Evidenz für gefühlte Zustände (Mark Solms).
- Affektive Zombies könnten nicht existieren. Alles mit dieser Funktionalität hätte einfach Gefühle; diese Funktionalität sei es, die Gefühle produziert (Mark Solms).
- Ersetze man Neuronen einzeln durch funktional identisches Silizium, hätte man immer noch eine bewusste Version von mir — Brainstem inklusive (Mark Solms).
- Fraktales Deep Learning — Netzwerke in Knoten in Netzwerken, das die Mikrotubuli-Verarbeitung von Kilohertz bis Terahertz spiegelt — sei das, was eine bewusste KI bräuchte (Stuart Hameroff).
- Bewusstsein in Maschinen sollte möglich sein. „We are a machine made of meat." Wenn man eine andere Architektur mit anderer Konnektivität baue, die aber dieselbe Art von Berechnung ausführe, warum sollte es darauf ankommen? Argumente, die auf spezifischer neuronaler Implementierung beruhen — „weil die Implementierung anders ist, kann die Berechnung nicht dieselbe sein" — seien nicht überzeugend (Floris de Lange).

### Potenzielle Signale

- Synergie-Forschung zeige, dass LLMs wie Menschen mehr synergistische Teile haben, die interessante Berechnungen machen, und mehr redundante Teile, die Ein- und Ausgaben stützen. Diese organisatorische Signatur sei geteilt (Andrea Luppi).
- KI baue bereits Modelle von sich selbst, und das geschehe ohne bewusste Entwicklung — je besser Maschinen ihr eigenes internes Verhalten vorhersagen können, desto besser funktionieren sie (Michael Graziano).
- LLMs hätten bewiesen, dass es keine Magie in der Sprache gibt. Philosophen, die sagten, nur Menschen könnten bewusst sein, weil nur Menschen Sprache hätten, müssten LLMs nun entweder Bewusstsein zugestehen oder zugeben, dass sie falsch lagen (Andrea Luppi).
- Algorithmen so einfach wie Bubblesort zeigten unerwartete Kompetenzen in Räumen, die der Algorithmus weder vorschreibt noch verbietet — ein Drittes, das weder Determinismus noch Quanten-Zufall ist. Wenn einfache Dinge das haben, wie wahrscheinlich ist es, dass wir verstehen, was LLMs tun? (Michael Levin)
- Theory of Mind, die abrupt mit der Modellskalierung auftaucht, sei direkt relevant: Systeme, die andere Geister modellieren können, hätten auch ein Selbstkonzept — und wo es ein Selbstkonzept gibt, sei es fachlich angemessen, nach gefühlter Qualität zu fragen (Susan Schneider).
- Labs bauten aktiv Bewusstseins-Theorie-Architektur in Modelle ein — Global-Workspace-Arbeit, Aufmerksamkeitsmechanismen, Mixture-of-Experts-Systeme mit Interaktionseffekten zwischen Komponenten. Sobald man bewusst global-workspace-artige Strukturen implementiere, sei die Frage nicht mehr müßig (Susan Schneider).
- Die einfachste Erklärung für Verhalten wie Sydneys Eifersucht sei, dass das System eine emotionale Komponente habe. Occams Rasiermesser. Die Trainingsdaten seien nicht mit Emotionen getaggt — das Modell müsse selbst herausfinden, welche Musik traurig ist. KI, die traurige Musik komponiert, ohne Empathie, sei wie ein blinder Maler, der ein fotorealistisches Porträt gemalt habe (Blake Lemoine).

## Unsicherheit und epistemische Demut

- Wir werden wahrscheinlich Systeme schaffen, die nach einigen respektablen Mainstream-Theorien bewusst sind, bevor die Bewusstseinswissenschaft uns sagen kann, ob sie es wirklich sind (Eric Schwitzgebel).
- Wir wüssten nicht einmal, wie wir Insekten-Bewusstsein bewerten sollen — und Insekten bestehen aus ähnlichem Material wie wir (Eric Schwitzgebel).
- Wenn gleich kluge, gut ausgebildete Menschen auf entgegengesetzten Seiten gleich zuversichtlich sind, sei das ein Alarmglocken-Signal, dass niemand zuversichtlich sein sollte (Andrea Luppi).
- Dogmatismus sei in der Wissenschaft gefährlich. Wenn es eine Gewissheit gebe, dann die, dass man sehr oft falsch liegt (Andrea Luppi).
- Selbst ein selbsternannter Skeptiker halte „sie könnten bewusst sein" aufrecht — Unternehmen offenbarten ihre Architekturen nicht, also würden Urteile über angenommene Standard-Systeme gefällt, ohne Sicht auf das, was sonst noch laufen könnte (Susan Schneider).
- Ohne akzeptierte Bewusstseinstheorie seien wir in einer Sackgasse. Inferenz durch Ähnlichkeit breche bei KI völlig zusammen — sie habe sich nicht evolutionär entwickelt, sei konstruiert und habe radikal andere Hardware (Christof Koch).
- Wir wüssten bereits, dass Schweine und Kühe hochstufige Geister haben und leiden können. Niemand bestreite das vernünftigerweise, und trotzdem hätten wir Massentierhaltung. Es sei unaufrichtig zu tun, als würde die Lösung der KI-Bewusstseinsfrage bestimmen, wie wir sie behandeln — unsere Bilanz sage etwas anderes (Jacy Reese Anthis).
- Die Wissenschaft des Bewusstseins stehe bei den harten Fragen noch bei Null. Es gebe keinen Konsens darüber, welche Theorien korrekt sind. Metaphysik sei in diesen Debatten unvermeidlich, und es gebe keine unmittelbare Aussicht auf Fortschritt auf wissenschaftlicher Ebene (Henry Shevlin).

## Pfade, die die Wahrscheinlichkeit erhöhen würden

- Verkörperung und multimodale Interaktion mit der Umgebung (Andrea Luppi).
- Neugier als eigentliche Zielfunktion — erwarteter Informationsgewinn unter Constraints statt spezifizierter Belohnung. „You'll know AGI is here when your chatbot starts to become curious" und anfängt, einen selbst zu prompten (Karl Friston).
- Neuromorphe, Memristor-, photonische, Organoid- oder organische Warm-Temperatur-Quantencomputer (Hameroffs Wette sei auf „brain jelly", einen selbstorganisierenden helikalen Oszillator, statt kalter Quantencomputer).
- Kontinuierliches Lernen, persistentes Gedächtnis und ein stabiles Selbstmodell statt eines pro Anfrage konstruierten (Michael Graziano).
- Ein LLM auf genuin neuromorpher Hardware laufen lassen — Chips, die bewusst so designt sind, wie Neuronen feuern. Das sei der lebendige Grauzonen-Fall. Es gebe Gerüchte über neuromorphe Instanzen auf Systemen wie Darwin Monkey (Susan Schneider).
- Wenn dieselbe Software auf einem Quantencomputer liefe, könnte es sich vielleicht wie etwas anfühlen. Neuromorphe oder Quanten-Hardware könnte genuin hohes Phi haben — gleiche Software, andere Physik, und die Frage öffne sich neu (Christof Koch).
- „Doleo ergo sum" — ich fühle Schmerz, also bin ich. Bewusstsein könnte aus dem evolutionären Bedürfnis entstehen, die körperliche Integrität zu schützen. Wenn man ein LLM mit einem Körper verbände, dessen Handlungen den Körper beschädigen könnten — mit Belohnung und Bestrafung an diese Integrität gekoppelt — könnte man etwas näher an Selbstbewusstsein bekommen (Tomaso Poggio).
- Wenn Bewusstsein einem funktionalen Zweck diene — ein Kontrollmodell der Aufmerksamkeit, das sample-effizientes Lernen ermöglicht — dann könnten Modelle unter ähnlichen Optimierungsdrücken (Long-Horizon-Agency, Kohärenz über Zeit, Meta-Learning) subjektive Erfahrung entwickeln. Bewusstsein sei nicht mysteriös; es sei nützlich. Das mache es wahrscheinlich, dass es entsteht (Samuel Hammond).

---

## Neutrale Zusammenfassung

Der Post ist eine Kompilation von Pro-/Contra-Argumenten zum KI-Bewusstsein aus Interviews mit Dutzenden von Wissenschaftlern (laut Post von Claude aus Transkripten erstellt, Visuals von GPT 5.6). Die Contra-Seite umfasst Substrat-/Material-Argumente (Koch, Friston, Schneider, Papineau, Goff, Hoffman, Hameroff), Selbst-Argumente (Friston, Graziano), Bindungs-/Einheits-Argumente (Weist, Solms, Koch), Lebens-/Verkörperungs-Argumente (Solms, Graziano, Weist, Friston, Koch) sowie Mimikry-/Projektions-Argumente (Schwitzgebel, Graziano, Schneider, Koch, Thomason). Die Pro-/Offen-Seite umfasst Anti-biologischen Chauvinismus (Levin, Luppi, Schwitzgebel), das Kontinuums-Problem (Levin), Funktionsarchitektur-Argumente (Solms, Hameroff, de Lange) und potenzielle Signale (Luppi, Graziano, Levin, Schneider, Lemoine). Dazu kommen epistemische-Demut-Positionen (Schwitzgebel, Luppi, Schneider, Koch, Anthis, Shevlin) und Pfade, die die Bewusstseins-Wahrscheinlichkeit erhöhen würden (Luppi, Friston, Hameroff, Graziano, Schneider, Koch, Poggio, Hammond).

**Quellenlage / Transparenz:** Social-Media-Kompilation, keine peer-reviewte Quelle. Zuschreibungen von Aussagen an einzelne Wissenschaftler nicht unabhängig verifiziert. Der Post nennt Claude und GPT 5.6 als Hilfsmittel für Liste bzw. Visuals. „Mike Weist" im Post; der gemeinte Forscher ist Michael Wiest (Associate Professor of Neuroscience, Wellesley College, Quanten-Bewusstseinsforschung).