knowledge-base/wiki/concepts/agi/aschenbrenner-situational-awareness.md

104 lines
9.3 KiB
Markdown
Raw Permalink Normal View History

---
created: 2026-06-16
updated: 2026-06-19
sources:
- raw/blog/2026-06-16_aschenbrenner-situational-awareness.md
related_raw:
- raw/blog/2026-06-16_aschenbrenner-situational-awareness.md
tags: [concept, agi, superintelligence, aschenbrenner, intelligence-explosion, the-project, decoupling, china, agi-realism, forecasting, openai-superalignment]
---
# Aschenbrenner — Situational Awareness: The Decade Ahead
Quelle: [[../../people/leopold-aschenbrenner.md|Leopold Aschenbrenner]], „Situational Awareness: The Decade Ahead", 6 Kapitel, ~165 Seiten, Juni 2024, https://situational-awareness.ai/. Vollständige Mitschrift, Originalzitate und Kapitel-Zusammenfassungen siehe `[[../../../raw/blog/2026-06-16_aschenbrenner-situational-awareness.md]]`.
## Kernthese (3 Aussagen)
1. **AGI bis 2027 ist „strikingly plausible".** Eine ~100.000x Skalierung der „effective compute" über 4 Jahre (2023→2027) sollte einen weiteren GPT-2-zu-GPT-4-Sprung bringen. Treiber: Compute (~0.5 OOMs/Jahr) + Algorithmische Effizienzen (~0.5 OOMs/Jahr) + „Unhobbling"-Gewinne.
2. **Superintelligenz in unter einem Jahr nach AGI** — durch AI-Forschung-Automation. 100 Millionen „human-equivalents" parallel, 10x-100x Human-Speed. „Imagine 100 million automated Alec Radfords."
3. **„The Project" — Manhattan-Projekt-Skalierung.** US-Industrie-Mobilisierung, Trillionen-Compute, nationale Sicherheit. Vier Risiken: China, Decoupling, Elections, Misalignment.
## Biografisches
Leopold Aschenbrenner war 2023-2024 im **OpenAI Superalignment Team** (Ilya Sutskever, Jan Leike) und Mitautor von [„Solving alignment by default" (Apr 2024)](https://arxiv.org/abs/2404.07362). Er wurde im Juni 2024 — im Kontext der Superalignment-Team-Auflösung und Sutskevers/Jan Leikes Abgang — von [[../../people/leopold-aschenbrenner.md|OpenAI entlassen]]. Der Essay wurde vor/während der Entlassung publiziert und gilt als ungeschminkte Insider-Sicht.
**Brücke zu OpenClaw/Claude-Context:** [[../../people/leopold-aschenbrenner.md|Aschenbrenner]] arbeitete im Superalignment-Subteam, das mit Opus-Modellen (Anthropic) kooperierte. Das ist eine direkte konzeptuelle Verbindung zwischen seinem Forecasting und unserem Setup (Claude als Workhorse, Hector als orchestrierender Agent).
## Drei Treiber (Counting the OOMs)
| Treiber | Trend | Quelle |
|---|---|---|
| **Compute** | ~0.5 OOMs/Jahr | Cluster-Größen: $10B → $100B → $1T |
| **Algorithmic efficiencies** | ~0.5 OOMs/Jahr | LayerNorm, residuals, Chinchilla, Flash-Attention |
| **Unhobbling** | step-changes | Chatbot → Agent, Tool-Use, Latent-Space-Access |
Total: ~1 OOM/Jahr „effective compute". Über 4 Jahre: ~10.000x. Mit „Unhobbling"-Sprüngen: ~100.000x.
## Die vier Risiken (Forecasting, nicht Policy)
Aschenbrenners Risiko-Rahmen ist **deskriptiv** — er beschreibt, was passieren *wird*, nicht was passieren *sollte*:
1. **China/CCP** — Konkurrenz um AGI-Vorherrschaft, „if we're unlucky, an all-out war"
2. **Decoupling** — Tech-Embargo gegen China als US-Strategie, „Bifurcation" der Tech-Welten
3. **Elections** — 2024+ US-Wahlen als Stabilitätsrisiko, „Demokratie-Stress" durch AGI-Narrative
4. **Misalignment** — Superintelligenz-Kontrollverlust, The-Bomb-zu-The-Super-Vergleich (Atombombe → Wasserstoffbombe: 7 Jahre, 1000x Sprengkraft)
**Pit-Lektion (2026-06-16):** Aschenbrenners geopolitische Positionierung (China-Risiko-Bewertung, Decoupling-These, Manhattan-Projekt-Parallele) ist **Teil seiner Analyse**, nicht „persönliche Meinung". Die Trennlinie ist: analytisch aus dem Argument abgeleitet, oder separat aufgesetzt? Hier: analytisch.
## AGI-Realismus
Aschenbrenners normativer Schluss: **„Situational Awareness" als Pflicht** für alle, die in der KI-Branche Verantwortung tragen. Weder Hysterie noch Verleugnung — nüchterner Realismus.
> "Everyone is now talking about AI, but few have the faintest glimmer of what is about to hit them."
> "Before long, the world will wake up. But right now, there are perhaps a few hundred people, most of them in San Francisco and the AI labs, that have situational awareness."
## Cross-References
### Algorithmische Frontier
- `[[../llm/post-transformer-llm-architectures.md]]` — DeepMinds Vier-Säulen-Strategie als komplementäre algorithmische Antwort auf Aschenbrenners „Weiter-so-mit-Skalierung"
- `[[../llm/llm-model-fusion-ensembles.md]]` — OpenRouter Fusion / DRACO als gegenwärtige Praxis, bevor AGI-Werkzeuge verfügbar sind
### Hardware-Frontier
- `[[../hardware/neuromorphic-chips-und-quantencomputer.md]]` — [[../../people/klaus-mainzer.md|Mainzer]]-Linie: Hardware-Diversität als Antwort auf [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] Compute-Skalierung. **Spannungsfeld:** [[../../people/leopold-aschenbrenner.md|Aschenbrenner]] sagt „mehr Compute, schneller", [[../../people/klaus-mainzer.md|Mainzer]] sagt „Hardware-Diversität ist nachhaltiger". Beide Argumente sind kompatibel — [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] „The Project" fokussiert auf klassische GPU-Skalierung, [[../../people/klaus-mainzer.md|Mainzer]] ergänzt um neuromorphe/photonische/Quanten-Pfade.
- `[[../llm/ai-value-migration-orchestration.md]]` — [[../../people/aravind-srinivas.md|Aravinds]] „Token Value per Watt per User"-Metrik validiert [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] Strom-Mobilisierung
### Politik/Regulierung
- **Nicht** in `wiki/concepts/policy/` — Aschenbrenners „Decoupling"-These und China-Risiko sind Forecasting, nicht Policy-Argument. Die Policy-Frage (Exportkontrollen, Anthropic Mythos-Streit) ist eine andere Diskussion.
### Architektur/Memory
- `[[../../architecture/memory-system.md]]` — Memory-Architektur als AGI-Realismus-Anwendung: in einer Welt, in der AI-Systeme „human-equivalent" werden, ist Memory-Disziplin (Schicht 1/2/3) der Unterschied zwischen System und Workhorse.
## Kritische Einordnung
**Wo Aschenbrenner recht hat (methodisch haltbar):**
- Die „OOMs zählen"-Methode ist transparent und reproduzierbar
- Die Insider-Sicht (OpenAI Superalignment) liefert konkrete Cluster-Größen, Stromverträge, GPU-Prognosen
- Die Manhattan-Projekt-Parallele ist eine valide historische Analogie für Industrialisierungs-Tempo
**Wo Aschenbrenner überspitzt (very aggressive):**
- AGI-Timeline 2025/26 ist selbst für KI-Lab-Insider extrem. 2026 ist da, und die AGI-Behauptung lässt sich nicht halten. **Aschenbrenners These „by 2025/26, these machines will outpace many college graduates" ist faktisch überholt** — GPT-4 hat das 2023 in einigen Benchmarks erreicht, aber „AGI" als Generalisten-Ersatz ist 2026 nicht Realität.
- Superintelligenz-These in <1 Jahr setzt voraus, dass AGI *vollständig* AI-Forschung automatisieren kann das ist eine starke Annahme über AI-Capabilities jenseits existierender Benchmarks.
- [[../../people/klaus-mainzer.md|Mainzers]] Energie-Argument (20W Gehirn vs. Megawatt) ist eine **fundamentale physische Grenze**, die [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] Compute-Skalierung nicht adressiert. [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] GPU-Skalierung wird durch Strom- und Wärme-Constraints gebremst.
**Mainzer-Validierung:** [[../../people/klaus-mainzer.md|Mainzers]] „Hardware-Trias" (klassisch + neuromorph + Quanten) ist die **einzige Antwort**, die [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] Bottleneck-These entkommen könnte. Reine GPU-Skalierung wird das Bottleneck nicht lösen — Hardware-Diversität schon.
## Substanz vs. Distributions-Format
- **Substanzvoll:** Aschenbrenners Essay ist methodisch transparent, datengestützt, und seine Insider-Sicht ist einzigartig. Seine geopolitischen Positionen sind analytisch aus dem Argument abgeleitet.
- **Distributions-Format:** Der Essay ist als Substack/Github-Pages publiziert, nicht peer-reviewed. Das ist ein Faktum über das Format, kein Caveat zu den Inhalten.
## Quellen (für Wiki-Verweise)
- Primärtext: https://situational-awareness.ai/
- „Solving alignment by default": https://arxiv.org/abs/2404.07362
- Substack / Github-Pages-Version
- Wikipedia-Artikel „Leopold Aschenbrenner" (Sekundär)
- I. J. Good (1965) — „Speculations Concerning the First Ultraintelligent Machine" (Aschenbrenners Epigraph zu Kapitel 2)
## Yegge-Cross-Reference (Juni 2026)
[[../../people/steve-yegge.md|Steve Yegge]]'s ["The Flat Curve Society"](https://steve-yegge.medium.com/the-flat-curve-society-36c8b01eb33b) bestätigt [[../../people/leopold-aschenbrenner.md|Aschenbrenners]] Lockdown-Vorhersage aus **praktischer Richtung**: "I am now in the camp who believe that we are only at most two or three model generations away from AI finally being controlled like nuclear weapons." [[../../people/leopold-aschenbrenner.md|Aschenbrenner]] sagt AGI bis 2027 + Trillionen-Dollar-Mobilisierung; [[../../people/steve-yegge.md|Yegge]] sagt: die Folge ist Model-Lockdown, und die Kurve flacht für die breite Öffentlichkeit ab. [[../../people/steve-yegge.md|Yegge]] liefert außerdem das **Discernment Horizon**-Konzept als Erklärung, *warum* Lockdown kommt: "superhuman means unverifiable" — niemand kann ein Modell beaufsichtigen, das klüger ist als er. Siehe [[../llm/flat-curve-society.md]].
Siehe auch [[universal-high-income.md]] für die makroökonomischen Implikationen (Deflation und Universal High Income) einer solch rasanten AGI-Entwicklung und den daraus resultierenden gesellschaftlichen Verwerfungen.