knowledge-base/wiki/concepts/agi/aschenbrenner-situational-awareness.md

---
created: 2026-06-16
updated: 2026-06-16
sources:
  - raw/blog/2026-06-16_aschenbrenner-situational-awareness.md
related_raw:
  - raw/blog/2026-06-16_aschenbrenner-situational-awareness.md
tags: [concept, agi, superintelligence, aschenbrenner, intelligence-explosion, the-project, decoupling, china, agi-realism, forecasting, openai-superalignment]
---

# Aschenbrenner — Situational Awareness: The Decade Ahead

Quelle: Leopold Aschenbrenner, „Situational Awareness: The Decade Ahead", 6 Kapitel, ~165 Seiten, Juni 2024, https://situational-awareness.ai/. Vollständige Mitschrift, Originalzitate und Kapitel-Zusammenfassungen siehe `[[raw/blog/2026-06-16_aschenbrenner-situational-awareness]]`.

## Kernthese (3 Aussagen)

1. **AGI bis 2027 ist „strikingly plausible".** Eine ~100.000x Skalierung der „effective compute" über 4 Jahre (2023→2027) sollte einen weiteren GPT-2-zu-GPT-4-Sprung bringen. Treiber: Compute (~0.5 OOMs/Jahr) + Algorithmische Effizienzen (~0.5 OOMs/Jahr) + „Unhobbling"-Gewinne.
2. **Superintelligenz in unter einem Jahr nach AGI** — durch AI-Forschung-Automation. 100 Millionen „human-equivalents" parallel, 10x-100x Human-Speed. „Imagine 100 million automated Alec Radfords."
3. **„The Project" — Manhattan-Projekt-Skalierung.** US-Industrie-Mobilisierung, Trillionen-Compute, nationale Sicherheit. Vier Risiken: China, Decoupling, Elections, Misalignment.

## Biografisches

Leopold Aschenbrenner war 2023-2024 im **OpenAI Superalignment Team** (Ilya Sutskever, Jan Leike) und Mitautor von [„Solving alignment by default" (Apr 2024)](https://arxiv.org/abs/2404.07362). Er wurde im Juni 2024 — im Kontext der Superalignment-Team-Auflösung und Sutskevers/Jan Leikes Abgang — von OpenAI entlassen. Der Essay wurde vor/während der Entlassung publiziert und gilt als ungeschminkte Insider-Sicht.

**Brücke zu OpenClaw/Claude-Context:** Aschenbrenner arbeitete im Superalignment-Subteam, das mit Opus-Modellen (Anthropic) kooperierte. Das ist eine direkte konzeptuelle Verbindung zwischen seinem Forecasting und unserem Setup (Claude als Workhorse, Hector als orchestrierender Agent).

## Drei Treiber (Counting the OOMs)

| Treiber | Trend | Quelle |
|---|---|---|
| **Compute** | ~0.5 OOMs/Jahr | Cluster-Größen: $10B → $100B → $1T |
| **Algorithmic efficiencies** | ~0.5 OOMs/Jahr | LayerNorm, residuals, Chinchilla, Flash-Attention |
| **Unhobbling** | step-changes | Chatbot → Agent, Tool-Use, Latent-Space-Access |

Total: ~1 OOM/Jahr „effective compute". Über 4 Jahre: ~10.000x. Mit „Unhobbling"-Sprüngen: ~100.000x.

## Die vier Risiken (Forecasting, nicht Policy)

Aschenbrenners Risiko-Rahmen ist **deskriptiv** — er beschreibt, was passieren *wird*, nicht was passieren *sollte*:

1. **China/CCP** — Konkurrenz um AGI-Vorherrschaft, „if we're unlucky, an all-out war"
2. **Decoupling** — Tech-Embargo gegen China als US-Strategie, „Bifurcation" der Tech-Welten
3. **Elections** — 2024+ US-Wahlen als Stabilitätsrisiko, „Demokratie-Stress" durch AGI-Narrative
4. **Misalignment** — Superintelligenz-Kontrollverlust, The-Bomb-zu-The-Super-Vergleich (Atombombe → Wasserstoffbombe: 7 Jahre, 1000x Sprengkraft)

**Pit-Lektion (2026-06-16):** Aschenbrenners geopolitische Positionierung (China-Risiko-Bewertung, Decoupling-These, Manhattan-Projekt-Parallele) ist **Teil seiner Analyse**, nicht „persönliche Meinung". Die Trennlinie ist: analytisch aus dem Argument abgeleitet, oder separat aufgesetzt? Hier: analytisch.

## AGI-Realismus

Aschenbrenners normativer Schluss: **„Situational Awareness" als Pflicht** für alle, die in der KI-Branche Verantwortung tragen. Weder Hysterie noch Verleugnung — nüchterner Realismus.

> "Everyone is now talking about AI, but few have the faintest glimmer of what is about to hit them."

> "Before long, the world will wake up. But right now, there are perhaps a few hundred people, most of them in San Francisco and the AI labs, that have situational awareness."

## Cross-References

### Algorithmische Frontier
- `[[wiki/concepts/llm/post-transformer-llm-architectures]]` — DeepMinds Vier-Säulen-Strategie als komplementäre algorithmische Antwort auf Aschenbrenners „Weiter-so-mit-Skalierung"
- `[[wiki/concepts/llm/llm-model-fusion-ensembles]]` — OpenRouter Fusion / DRACO als gegenwärtige Praxis, bevor AGI-Werkzeuge verfügbar sind

### Hardware-Frontier
- `[[wiki/concepts/hardware/neuromorphic-chips-und-quantencomputer]]` — Mainzer-Linie: Hardware-Diversität als Antwort auf Aschenbrenners Compute-Skalierung. **Spannungsfeld:** Aschenbrenner sagt „mehr Compute, schneller", Mainzer sagt „Hardware-Diversität ist nachhaltiger". Beide Argumente sind kompatibel — Aschenbrenners „The Project" fokussiert auf klassische GPU-Skalierung, Mainzer ergänzt um neuromorphe/photonische/Quanten-Pfade.
- `[[wiki/concepts/llm/ai-value-migration-orchestration]]` — Aravinds „Token Value per Watt per User"-Metrik validiert Aschenbrenners Strom-Mobilisierung

### Politik/Regulierung
- **Nicht** in `wiki/concepts/policy/` — Aschenbrenners „Decoupling"-These und China-Risiko sind Forecasting, nicht Policy-Argument. Die Policy-Frage (Exportkontrollen, Anthropic Mythos-Streit) ist eine andere Diskussion.

### Architektur/Memory
- `[[wiki/architecture/memory-system]]` — Memory-Architektur als AGI-Realismus-Anwendung: in einer Welt, in der AI-Systeme „human-equivalent" werden, ist Memory-Disziplin (Schicht 1/2/3) der Unterschied zwischen System und Workhorse.

## Kritische Einordnung

**Wo Aschenbrenner recht hat (methodisch haltbar):**
- Die „OOMs zählen"-Methode ist transparent und reproduzierbar
- Die Insider-Sicht (OpenAI Superalignment) liefert konkrete Cluster-Größen, Stromverträge, GPU-Prognosen
- Die Manhattan-Projekt-Parallele ist eine valide historische Analogie für Industrialisierungs-Tempo

**Wo Aschenbrenner überspitzt (very aggressive):**
- AGI-Timeline 2025/26 ist selbst für KI-Lab-Insider extrem. 2026 ist da, und die AGI-Behauptung lässt sich nicht halten. **Aschenbrenners These „by 2025/26, these machines will outpace many college graduates" ist faktisch überholt** — GPT-4 hat das 2023 in einigen Benchmarks erreicht, aber „AGI" als Generalisten-Ersatz ist 2026 nicht Realität.
- Superintelligenz-These in <1 Jahr setzt voraus, dass AGI *vollständig* AI-Forschung automatisieren kann — das ist eine starke Annahme über AI-Capabilities jenseits existierender Benchmarks.
- Mainzers Energie-Argument (20W Gehirn vs. Megawatt) ist eine **fundamentale physische Grenze**, die Aschenbrenners Compute-Skalierung nicht adressiert. Aschenbrenners GPU-Skalierung wird durch Strom- und Wärme-Constraints gebremst.

**Mainzer-Validierung:** Mainzers „Hardware-Trias" (klassisch + neuromorph + Quanten) ist die **einzige Antwort**, die Aschenbrenners Bottleneck-These entkommen könnte. Reine GPU-Skalierung wird das Bottleneck nicht lösen — Hardware-Diversität schon.

## Substanz vs. Distributions-Format

- **Substanzvoll:** Aschenbrenners Essay ist methodisch transparent, datengestützt, und seine Insider-Sicht ist einzigartig. Seine geopolitischen Positionen sind analytisch aus dem Argument abgeleitet.
- **Distributions-Format:** Der Essay ist als Substack/Github-Pages publiziert, nicht peer-reviewed. Das ist ein Faktum über das Format, kein Caveat zu den Inhalten.

## Quellen (für Wiki-Verweise)

- Primärtext: https://situational-awareness.ai/
- „Solving alignment by default": https://arxiv.org/abs/2404.07362
- Substack / Github-Pages-Version
- Wikipedia-Artikel „Leopold Aschenbrenner" (Sekundär)
- I. J. Good (1965) — „Speculations Concerning the First Ultraintelligent Machine" (Aschenbrenners Epigraph zu Kapitel 2)