knowledge-base/wiki/concepts/agi/aschenbrenner-situational-awareness.md

created	updated	sources	related_raw	tags
2026-06-16	2026-06-19	raw/blog/2026-06-16_aschenbrenner-situational-awareness.md	raw/blog/2026-06-16_aschenbrenner-situational-awareness.md	concept agi superintelligence aschenbrenner intelligence-explosion the-project decoupling china agi-realism forecasting openai-superalignment

Aschenbrenner — Situational Awareness: The Decade Ahead

Quelle: Leopold Aschenbrenner, „Situational Awareness: The Decade Ahead", 6 Kapitel, ~165 Seiten, Juni 2024, https://situational-awareness.ai/. Vollständige Mitschrift, Originalzitate und Kapitel-Zusammenfassungen siehe [[raw/blog/2026-06-16_aschenbrenner-situational-awareness]].

Kernthese (3 Aussagen)

1. AGI bis 2027 ist „strikingly plausible". Eine ~100.000x Skalierung der „effective compute" über 4 Jahre (2023→2027) sollte einen weiteren GPT-2-zu-GPT-4-Sprung bringen. Treiber: Compute (~0.5 OOMs/Jahr) + Algorithmische Effizienzen (~0.5 OOMs/Jahr) + „Unhobbling"-Gewinne.
2. Superintelligenz in unter einem Jahr nach AGI — durch AI-Forschung-Automation. 100 Millionen „human-equivalents" parallel, 10x-100x Human-Speed. „Imagine 100 million automated Alec Radfords."
3. „The Project" — Manhattan-Projekt-Skalierung. US-Industrie-Mobilisierung, Trillionen-Compute, nationale Sicherheit. Vier Risiken: China, Decoupling, Elections, Misalignment.

Biografisches

Leopold Aschenbrenner war 2023-2024 im OpenAI Superalignment Team (Ilya Sutskever, Jan Leike) und Mitautor von „Solving alignment by default" (Apr 2024). Er wurde im Juni 2024 — im Kontext der Superalignment-Team-Auflösung und Sutskevers/Jan Leikes Abgang — von OpenAI entlassen. Der Essay wurde vor/während der Entlassung publiziert und gilt als ungeschminkte Insider-Sicht.

Brücke zu OpenClaw/Claude-Context: Aschenbrenner arbeitete im Superalignment-Subteam, das mit Opus-Modellen (Anthropic) kooperierte. Das ist eine direkte konzeptuelle Verbindung zwischen seinem Forecasting und unserem Setup (Claude als Workhorse, Hector als orchestrierender Agent).

Drei Treiber (Counting the OOMs)

Treiber	Trend	Quelle
Compute	~0.5 OOMs/Jahr	Cluster-Größen: $10B → $100B → $1T
Algorithmic efficiencies	~0.5 OOMs/Jahr	LayerNorm, residuals, Chinchilla, Flash-Attention
Unhobbling	step-changes	Chatbot → Agent, Tool-Use, Latent-Space-Access

Total: ~1 OOM/Jahr „effective compute". Über 4 Jahre: ~10.000x. Mit „Unhobbling"-Sprüngen: ~100.000x.

Die vier Risiken (Forecasting, nicht Policy)

Aschenbrenners Risiko-Rahmen ist deskriptiv — er beschreibt, was passieren wird, nicht was passieren sollte:

1. China/CCP — Konkurrenz um AGI-Vorherrschaft, „if we're unlucky, an all-out war"
2. Decoupling — Tech-Embargo gegen China als US-Strategie, „Bifurcation" der Tech-Welten
3. Elections — 2024+ US-Wahlen als Stabilitätsrisiko, „Demokratie-Stress" durch AGI-Narrative
4. Misalignment — Superintelligenz-Kontrollverlust, The-Bomb-zu-The-Super-Vergleich (Atombombe → Wasserstoffbombe: 7 Jahre, 1000x Sprengkraft)

Pit-Lektion (2026-06-16): Aschenbrenners geopolitische Positionierung (China-Risiko-Bewertung, Decoupling-These, Manhattan-Projekt-Parallele) ist Teil seiner Analyse, nicht „persönliche Meinung". Die Trennlinie ist: analytisch aus dem Argument abgeleitet, oder separat aufgesetzt? Hier: analytisch.

AGI-Realismus

Aschenbrenners normativer Schluss: „Situational Awareness" als Pflicht für alle, die in der KI-Branche Verantwortung tragen. Weder Hysterie noch Verleugnung — nüchterner Realismus.

"Everyone is now talking about AI, but few have the faintest glimmer of what is about to hit them."

"Before long, the world will wake up. But right now, there are perhaps a few hundred people, most of them in San Francisco and the AI labs, that have situational awareness."

Cross-References

Algorithmische Frontier

• [[wiki/concepts/llm/post-transformer-llm-architectures]] — DeepMinds Vier-Säulen-Strategie als komplementäre algorithmische Antwort auf Aschenbrenners „Weiter-so-mit-Skalierung"
• [[wiki/concepts/llm/llm-model-fusion-ensembles]] — OpenRouter Fusion / DRACO als gegenwärtige Praxis, bevor AGI-Werkzeuge verfügbar sind

Hardware-Frontier

• [[wiki/concepts/hardware/neuromorphic-chips-und-quantencomputer]] — Mainzer-Linie: Hardware-Diversität als Antwort auf Aschenbrenners Compute-Skalierung. Spannungsfeld: Aschenbrenner sagt „mehr Compute, schneller", Mainzer sagt „Hardware-Diversität ist nachhaltiger". Beide Argumente sind kompatibel — Aschenbrenners „The Project" fokussiert auf klassische GPU-Skalierung, Mainzer ergänzt um neuromorphe/photonische/Quanten-Pfade.
• [[wiki/concepts/llm/ai-value-migration-orchestration]] — Aravinds „Token Value per Watt per User"-Metrik validiert Aschenbrenners Strom-Mobilisierung

Politik/Regulierung

• Nicht in wiki/concepts/policy/ — Aschenbrenners „Decoupling"-These und China-Risiko sind Forecasting, nicht Policy-Argument. Die Policy-Frage (Exportkontrollen, Anthropic Mythos-Streit) ist eine andere Diskussion.

Architektur/Memory

• [[wiki/architecture/memory-system]] — Memory-Architektur als AGI-Realismus-Anwendung: in einer Welt, in der AI-Systeme „human-equivalent" werden, ist Memory-Disziplin (Schicht 1/2/3) der Unterschied zwischen System und Workhorse.

Kritische Einordnung

Wo Aschenbrenner recht hat (methodisch haltbar):

• Die „OOMs zählen"-Methode ist transparent und reproduzierbar
• Die Insider-Sicht (OpenAI Superalignment) liefert konkrete Cluster-Größen, Stromverträge, GPU-Prognosen
• Die Manhattan-Projekt-Parallele ist eine valide historische Analogie für Industrialisierungs-Tempo

Wo Aschenbrenner überspitzt (very aggressive):

• AGI-Timeline 2025/26 ist selbst für KI-Lab-Insider extrem. 2026 ist da, und die AGI-Behauptung lässt sich nicht halten. Aschenbrenners These „by 2025/26, these machines will outpace many college graduates" ist faktisch überholt — GPT-4 hat das 2023 in einigen Benchmarks erreicht, aber „AGI" als Generalisten-Ersatz ist 2026 nicht Realität.
• Superintelligenz-These in <1 Jahr setzt voraus, dass AGI vollständig AI-Forschung automatisieren kann — das ist eine starke Annahme über AI-Capabilities jenseits existierender Benchmarks.
• Mainzers Energie-Argument (20W Gehirn vs. Megawatt) ist eine fundamentale physische Grenze, die Aschenbrenners Compute-Skalierung nicht adressiert. Aschenbrenners GPU-Skalierung wird durch Strom- und Wärme-Constraints gebremst.

Mainzer-Validierung: Mainzers „Hardware-Trias" (klassisch + neuromorph + Quanten) ist die einzige Antwort, die Aschenbrenners Bottleneck-These entkommen könnte. Reine GPU-Skalierung wird das Bottleneck nicht lösen — Hardware-Diversität schon.

Substanz vs. Distributions-Format

• Substanzvoll: Aschenbrenners Essay ist methodisch transparent, datengestützt, und seine Insider-Sicht ist einzigartig. Seine geopolitischen Positionen sind analytisch aus dem Argument abgeleitet.
• Distributions-Format: Der Essay ist als Substack/Github-Pages publiziert, nicht peer-reviewed. Das ist ein Faktum über das Format, kein Caveat zu den Inhalten.

Quellen (für Wiki-Verweise)

• Primärtext: https://situational-awareness.ai/
• „Solving alignment by default": https://arxiv.org/abs/2404.07362
• Substack / Github-Pages-Version
• Wikipedia-Artikel „Leopold Aschenbrenner" (Sekundär)
• I. J. Good (1965) — „Speculations Concerning the First Ultraintelligent Machine" (Aschenbrenners Epigraph zu Kapitel 2)

Yegge-Cross-Reference (Juni 2026)

Steve Yegge's "The Flat Curve Society" bestätigt Aschenbrenners Lockdown-Vorhersage aus praktischer Richtung: "I am now in the camp who believe that we are only at most two or three model generations away from AI finally being controlled like nuclear weapons." Aschenbrenner sagt AGI bis 2027 + Trillionen-Dollar-Mobilisierung; Yegge sagt: die Folge ist Model-Lockdown, und die Kurve flacht für die breite Öffentlichkeit ab. Yegge liefert außerdem das Discernment Horizon-Konzept als Erklärung, warum Lockdown kommt: "superhuman means unverifiable" — niemand kann ein Modell beaufsichtigen, das klüger ist als er. Siehe ../llm/flat-curve-society.md.