knowledge-base/raw/youtube/2026-07-02_ct4004-anthropic-ceo-panik-open-weights-poisonai.md

---
type: youtube
source_url: https://www.youtube.com/watch?v=Q6QkzJwcrEc
retrieved: 2026-07-02
channel: "c't 3003"
title: "Anthropic-CEO in Panik | c't 4004 #30"
duration_sec: 4318
views: 2707
published: 2026-07-02
tags: [open-weights, chinese-models, glm-5.2, qwen, dario-amodei, anthropic, poisonai, knowledge-poisoning, ai-regulation, europe-sovereignty, cost-routing, cloud-exit]
hosts: ["Jan-Keno Janssen", "Christian Lutz-Weicken"]
---

# Anthropic-CEO in Panik | c't 4004 #30

## Metadata

| Feld | Wert |
|------|------|
| Kanal | c't 3003 (Heise) |
| Folge | c't 4004 #30 |
| Datum | 2026-07-02 |
| Länge | 1:11:58 |
| Aufrufe | 2707 (zum Zeitpunkt des Abrufs) |
| Likes | 235 |
| Hosts | Jan-Keno Janssen, Christian Lutz-Weicken |
| Kategorie | Science & Technology |
| URL | https://www.youtube.com/watch?v=Q6QkzJwcrEc |

## Kapitelmarker

| Zeit | Thema |
|------|-------|
| 0:00 | Intro & Feedback |
| 16:55 | Take der Woche: Chinas Open Weights killen die KI-Blase |
| 27:20 | Dario Amodei hated on Open Weights |
| 35:35 | Microslops Quantencomputer: Python-Bug? |
| 38:39 | Würdest du lieber: Cloud Gaming oder alte Spiele? |
| 47:20 | KI-Erkennungsvideo & Söder-Wurst-Debatte |
| 53:00 | Music AI Dataset Trouble: Suno klaut Millionen Songs |
| 1:00:00 | Musiktipp: Der Assistent |
| 1:02:20 | Trump an Tollwut? r/PoisonAI |
| 1:04:40 | Kojimas OD Knock & Death Stranding-Film |
| 1:07:20 | Resident Evil 2: Boyfriend-Mystery gelöst |
| 1:09:47 | Shoutout: Jahrgangstreffen |
| 1:11:20 | Outro |

## Erwähnte URLs (aus Videobeschreibung)

- Microsoft Quantencomputing-Doubt: https://www.theregister.com/research/2026/06/24/boffin-claims-microsofts-supposed-quantum-leap-does-not-compute-due-to-basic-python-errors/5260489
- Atlantic-Artikel AI-Musik & Datasets: https://www.theatlantic.com/technology/2026/06/ai-music-generators-suno-google-udio/687485/
- Sloptracker (AI-Artist-Datenbank): https://sloptracker.org/
- Musiktipp Der Assistent: https://derassistent.bandcamp.com/ und https://youtu.be/XPazJAdNVWM

## Key Takeaways

### 1. Open Weights & chinesische Modelle — "Killen die KI-Blase" (16:55)

Chinesische Open-Weight-Modelle (GLM-5.2, Qwen/Dance-Modelle) verringern den Rückstand zu US-Frontier-Modellen dramatisch bei extrem geringeren Kosten. Große Unternehmen wechseln weg von US-Cloud-Anbietern zu selbst gehosteten Modellen.

**Für Europa:** Chance zur Emanzipation von US-Hyperscalern. US-Sanktionspolitik als kurzsichtig kritisiert — statt China aufzuhalten, beschleunigt sie die Entwicklung unabhängiger KI-Kapazitäten im Rest der Welt.

### 2. Dario Amodei vs. Open Weights (27:20)

Amodei warnt vor offenen Gewichten und nennt "Open Weights" irreführend, weil Menschen Weights nicht "lesen" können. Die Hosts kontern:

- **Closed-Cloud-Modelle sind noch weniger nachvollziehbar** — bei Open Weights kann zumindest die Forschung-Community inspizieren, was im Modell passiert
- **Open-Weight-Veröffentlichungen haben Sicherheits- und Robustheitsforschung erst möglich gemacht** — LLaMA und Mistral als Beispiele
- **Gefahr der Gatekeeping-Macht:** Wenn einzelne Firmen entscheiden, wer Zugang zu "risikoreichen" Modellen bekommt, entsteht eine zentralisierte Kontrollinstanz — genau was Amodei für Anthropic anstrebt
- Die Hosts positionieren Amodei's Argument als strategisches Lobbying, nicht als genuine Sicherheitsbedenke

### 3. PoisonAI und Wissensvergiftung (1:02:20)

Der Subreddit r/PoisonAI zielt darauf ab, LLMs systematisch mit Falschinformationen zu füttern. Beispiele: Erfundener Tollwut-Tod von Donald Trump, der in LLM-Antworten auftauchen könnte.

**Kernproblem:** LLM-Antworten dürfen nicht wie Suchmaschinen-Fakten behandelt werden. Die Vorstellung, KI-Modelle als "Wissensquellen" zu trusten, ist gefährlich — sie sind stochastische Systeme, die durch gezielte Vergiftung manipulierbar sind.

**Relevanz für Open Weights:** Open-Weight-Modelle sind besonders anfällig für Knowledge Poisoning, da das Training-Daten-Pipeline offen ist. Aber auch Closed-Modelle sind nicht immun — die PoisonAI-Bewegung zeigt, dass die Schwachstelle nicht im Modell-Deployment liegt, sondern in der Trainingsdaten-Supply-Chain.

### Weitere Themen (nicht primär für Wiki-Ingest)

- **Microsoft Quantencomputing:** Python-Bug zweifelt Microsofts Durchbruch an (TheRegister-Artikel)
- **Suno AI-Musik:** Atlantic-Artikel enthüllt Millionensong-Dataset-Klau
- **Kojima OD Knock:** Death Stranding-Film angekündigt

## Context for RamaDama Wiki

Dieses Video bestätigt und erweitert mehrere bestehende Wiki-Themen:

1. **Chinese Model Cost Routing** — Die c't-Folge validiert die DeRonin-Kostenanalyse aus Makro-Perspektive (87% cost-cut, 4% quality drop). Die Hosts betonen: Der Wechsel ist bereits im Gange, nicht hypothetisch.
2. **ReDS / Dezentrale KI** — Amodei's Anti-Open-Weights-Haltung ist genau das, was Roemmele als "Intelligenz-Feudalismus" kritisiert. Die c't-Hosts liefern eine unabhängige (nicht-Roemmele) Bestätigung dieser Kritik.
3. **GLM 5.2** — Explizit als Beispiel für chinesische Open-Weight-Modelle genannt, die den Rückstand zu US-Frontier schließen.
4. **AI Regulation** — Die US-Sanktionspolitik gegen China als kurzsichtig kritisiert — beschleunigt statt bremst die chinesische KI-Entwicklung.
5. **NEU: PoisonAI / Knowledge Poisoning** — Neues Konzept, das im Wiki noch nicht existiert. Verbindet LLM-Sicherheit mit Trainingsdaten-Integrität.

## Cross-Refs

- [[../../wiki/concepts/llm/chinese-model-cost-routing.md]] — DeRonin's 87% cost-cut field report
- [[../../wiki/concepts/llm/glm-5.2-zai-coding-model.md]] — GLM 5.2 deep-dive
- [[../../wiki/concepts/llm/reds-resilient-decentralized-swarm.md]] — ReDS als Gegenmodell zu Amodei
- [[../../wiki/concepts/policy/ai-regulation-2026.md]] — AI-Regulatory Landscape
- [[../../wiki/people/dario-amodei.md]] — Amodei-Personenseite
- [[../../wiki/institutions/anthropic.md]] — Anthropic-Institutionenseite