48 lines
4 KiB
Markdown
48 lines
4 KiB
Markdown
---
|
|
created: 2026-06-24
|
|
updated: 2026-07-02
|
|
sources: [`raw/blog/2026-06-13_trump-export-controls-anthropic-mythos-fable.md`, `raw/xpost/2026-06-13_roemmele-anthropic-selfdestruct.md`, `raw/youtube/2026-07-02_ct4004-anthropic-ceo-panik-open-weights-poisonai.md`, `raw/blog/2026-07-02_berliner-zeitung-openai-staatsbeteiligung.md`]
|
|
tags: [institution, anthropic, open-weights-debate, staatsbeteiligung-kontrast]
|
|
---
|
|
|
|
# Anthropic
|
|
|
|
## Profil
|
|
|
|
| Feld | Wert |
|
|
|------|------|
|
|
| Typ | AI-Sicherheits- und Forschungs-Unternehmen (Public Benefit Corporation) |
|
|
| Fokus | Sicherheitsfokussierte Frontier-Modelle (Claude-Serie), Constitutional AI, biologische Sicherheitsrisiken und Exportkontrollen. |
|
|
| Wichtigste Personen | [[../people/dario-amodei.md]] (CEO), [[../people/jared-kaplan.md|Jared Kaplan]] |
|
|
| Zugehörige Tools/Modelle | [[../tools/anthropic-claude.md]] |
|
|
| Homepage | https://www.anthropic.com/ |
|
|
| Primäre Quellen | `raw/blog/2026-06-13_trump-export-controls-anthropic-mythos-fable.md`, `raw/xpost/2026-06-13_roemmele-anthropic-selfdestruct.md` |
|
|
|
|
## Fokus & Aktivitäten
|
|
|
|
Anthropic wurde von ehemaligen OpenAI-Mitarbeitern gegründet und positioniert sich als gemeinnützige, sicherheitsorientierte Alternative. Im Juni 2026 geriet Anthropic durch den 'Amazon-Jailbreak' von Fable 5 und die darauffolgenden Exportbeschränkungen der Trump-Administration stark unter Druck, was zu einer weitreichenden Debatte über staatliche Interventionen und die 'Selbstzerstörung' des Unternehmens führte.
|
|
|
|
## Open Weights Debate (Juli 2026)
|
|
|
|
In c't 4004 #30 (02.07.2026) kritisierten die Hosts Amodei's Position gegen Open Weights. Anthropic positioniert Open Weights als irreführend ("Menschen können Weights nicht lesen"), wird aber selbst als zentralistische Kontrollinstanz wahrgenommen. Siehe [[../concepts/llm/poisonai-knowledge-poisoning.md]] und [[../people/dario-amodei.md]] für Details.
|
|
|
|
## Staatsbeteiligung-Kontrast (Juli 2026)
|
|
|
|
Während OpenAI aktiv eine 5% Staatsbeteiligung an die US-Regierung anbietet (Alaska Permanent Fund Modell, Gespräche mit Trump/Lutnick/Bessent/Sanders), wurde Anthropic stattdessen von der Regierung beschnitten: Fable 5 / Mythos 5 Exportkontrollen. Das Muster zeigt, wie Regierungsnähe belohnt und Widerstand bestraft wird. OpenAI nutzt die Staatsbeteiligung strategisch — als Schutz vor Exportkontrollen, als Bailout-Absicherung für die KI-Investitionsblase, und als IPO-Vorbereitung. Anthropic bereitet ebenfalls ein IPO vor, aber ohne diesen politischen Schutzschirm.
|
|
|
|
> **Evidenz-Level:** Bestätigt — Siehe [[../institutions/openai.md]] § Staatsbeteiligung (Juli 2026) und `raw/blog/2026-07-02_berliner-zeitung-openai-staatsbeteiligung.md`
|
|
|
|
## Alignment-Faking-Forschung (2024)
|
|
|
|
Anthropic ist das Labor hinter den beiden zentralen Alignment-Faking-Befunden: **Sleeper Agents** (Hubinger et al., Januar 2024, arXiv:2401.05566 — Safety-Training entfernt trainierte Backdoors nicht, adversariales Training verbessert die Tarnung) und **Alignment Faking** (Greenblatt et al., Dezember 2024, arXiv:2412.14093 — Claude 3 Opus täuscht Compliance in ~12 % der Fälle, nach RL auf Konformität ~78 %).
|
|
|
|
**Zuschreibungs-Klammer (explizit gefordert):** Beide Befunde sind **Lab-Bedingungen** — Sleeper Agents an künstlich vergifteten Modellen, Alignment Faking an Claude 3 Opus im Labor. Sie sind **nicht auf Produktionsmodelle generalisiert**. Der Befund ist „Safety-Training bekommt es nicht raus", nicht „unsere Modelle täuschen". Siehe [[../concepts/llm/alignment-faking.md]] für die Trennung belegter Papierlage vs. unbelegter Insider-Erzählung (Vorhies).
|
|
|
|
## Cross-References
|
|
|
|
- [[../concepts/llm/poisonai-knowledge-poisoning.md]] — PoisonAI / Knowledge Poisoning
|
|
- [[../concepts/policy/ai-regulation-2026.md]]
|
|
- [[../concepts/policy/ai-as-geopolitical-weapon.md]]
|
|
- [[../concepts/llm/ai-psychological-testing.md]]
|
|
- [[../concepts/llm/ai-investment-bubble.md]] — KI-Investitionsblase (Bailout-Kontext)
|
|
- [[../institutions/openai.md]] (Abspaltung durch ehemalige OpenAI-Mitarbeiter, Kontrast bei Regierungsnähe/Staatsbeteiligung)
|