79 lines
3.7 KiB
Markdown
79 lines
3.7 KiB
Markdown
|
---
|
|||
|
|
type: xpost
|
|||
|
|
source_url: https://x.com/0xJokker/status/6785
|
|||
|
|
retrieved: 2026-06-16
|
|||
|
|
author: "@0xJokker"
|
|||
|
|
is_thread: false
|
|||
|
|
tags: [amd, ryzen-ai, edge-inference, lisa-su, strix-halo, local-ai, unified-memory, hardware, cloud-exit, qwen3-235b]
|
|||
|
|
distribution_context: "OME-Gruppe (RamaDama), geteilt von @0xJokker als X-Post. AMD-CEO Lisa Su präsentiert auf der Bühne einen lunchbox-format PC, der 235B-Parameter-Modell lokal ausführt."
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
# AMD Ryzen AI Edge-Inferenz — Lisa Su's Lunchbox-PC
|
|||
|
|
|
|||
|
|
## Post
|
|||
|
|
|
|||
|
|
**Autor:** @0xJokker
|
|||
|
|
**Datum:** 2026-06-16
|
|||
|
|
**Trigger:** X-Post #6785
|
|||
|
|
|
|||
|
|
Zusammenfassung des Posts:
|
|||
|
|
- AMD CEO **Lisa Su** betritt die Bühne mit einem **lunchbox-format PC**
|
|||
|
|
- Führt ein **235-Milliarden-Parameter AI-Modell** lokal aus (Qwen3 235B)
|
|||
|
|
- **128 GB unified memory** — CPU und GPU teilen denselben Speicher-Pool
|
|||
|
|
- **3× schneller als RTX 5080** bei DeepSeek R1 Inference-Workloads
|
|||
|
|
- Preis: **$1.499** (Mini-PC Konfiguration)
|
|||
|
|
|
|||
|
|
## Technische Details (verifiziert via AMD-Blog + AIM Network YouTube)
|
|||
|
|
|
|||
|
|
### Prozessor: AMD Ryzen AI Max+ 395 (Strix Halo)
|
|||
|
|
- 16 "Zen 5" CPU-Kerne
|
|||
|
|
- 50+ peak AI TOPS (XDNA 2 NPU)
|
|||
|
|
- 40 AMD RDNA 3.5 CUs (integrierte GPU)
|
|||
|
|
- Bis zu **128 GB unified memory** (davon bis zu 96 GB als VRAM via Variable Graphics Memory)
|
|||
|
|
- 256 GB/s Speicherbandbreite
|
|||
|
|
|
|||
|
|
### Architektur-Bruch: Unified Memory
|
|||
|
|
- Erstmals in einer mainstream x86-Plattform teilen CPU und GPU **denselben Memory-Pool**
|
|||
|
|
- Kein Data-Shuffling zwischen separaten VRAM/System-RAM
|
|||
|
|
- RTX 4090: 24 GB VRAM | RTX 5090: 32 GB VRAM → AMD: 128 GB unified
|
|||
|
|
- Modelle die bisher teure Server-Infrastruktur brauchten, laufen lokal
|
|||
|
|
|
|||
|
|
### Performance-Vergleich (laut AMD)
|
|||
|
|
- Up to **2.2×** Token-Throughput vs. Intel Arc 140V (16GB-Modelle)
|
|||
|
|
- Up to **9.1×** schneller Time-to-First-Token bei 7B/8B-Modellen
|
|||
|
|
- Up to **12.2×** schneller bei 14B-Modellen (Intel Core Ultra 258V Vergleich)
|
|||
|
|
- **3× schneller als RTX 5080** bei DeepSeek R1 235B Inference
|
|||
|
|
|
|||
|
|
### Preis-Positionierung
|
|||
|
|
- Mini-PC ab **$1.499** (laut Pillitteri-Report)
|
|||
|
|
- Laptop (Our Axis) ab **$2.799** mit 128 GB unified
|
|||
|
|
- HP ZBook Ultra G1a als PRO-Variante verfügbar
|
|||
|
|
- Einmaliger Hardware-Kauf vs. wiederkehrende Cloud/API-Kosten
|
|||
|
|
|
|||
|
|
## Kontext für Wiki
|
|||
|
|
|
|||
|
|
### Verbindung zu bestehenden Wiki-Themen
|
|||
|
|
|
|||
|
|
1. **Cloud-Exit & Lokale Überlegenheit** (`concepts/hardware/cloud-exit-and-local-superiority.md`):
|
|||
|
|
- AMDs Lunchbox-PC ist die Hardware-Inkarnation der Cloud-Exit-These
|
|||
|
|
- 128 GB unified memory = das "RAM als neue Währung"-Konzept in Aktion
|
|||
|
|
- Erweitert die Mac-only-Tabelle (M-Series) um eine x86-Alternative
|
|||
|
|
|
|||
|
|
2. **Mainzer Energie-Argument** (`concepts/hardware/neuromorphic-chips-und-quantencomputer.md`):
|
|||
|
|
- Mainzer: "Gehirn 20W vs. LLM-Megawatt" — AMDs Lunchbox-PC schließt die Lücke teilweise: 235B lokal bei ~Watt-Klassen, nicht Megawatt
|
|||
|
|
- Edge-Inferenz als Zwischenschritt zur neuromorphen Hardware
|
|||
|
|
|
|||
|
|
3. **Aravind Srinivas: Token Value per Watt per User** (`concepts/llm/ai-value-migration-orchestration.md`):
|
|||
|
|
- AMDs unified-memory-Ansatz maximiert Token/Watt — lokale Inferenz ohne Cloud-Overhead
|
|||
|
|
- 235B-Modell lokal = maximale Token-Density pro Watt (keine Netzwerk-Latenz, keine Server-Kühlung)
|
|||
|
|
|
|||
|
|
4. **Aschenbrenner: Compute-Skalierung** (`concepts/agi/aschenbrenner-situational-awareness.md`):
|
|||
|
|
- Aschenbrenner's "Compute ist die Währung" — AMD zeigt dass Edge-Inferenz die Skalierungs-Annahme ergänzt, nicht ersetzt
|
|||
|
|
- 235B lokal war 2024 undenkbar; 2026 Lunchbox-Format
|
|||
|
|
|
|||
|
|
## Quellen
|
|||
|
|
|
|||
|
|
- Original X-Post: @0xJokker, Post #6785 (2026-06-16)
|
|||
|
|
- AMD Blog: https://www.amd.com/en/blogs/2025/amd-ryzen-ai-max-395-processor-breakthrough-ai-.html
|
|||
|
|
- AIM Network YouTube: https://www.youtube.com/watch?v=MeMc3WgmFJQ (05:09, 23K views, 2026-06-15)
|
|||
|
|
- Pillitteri Analysis: https://pasqualepillitteri.it/en/news/5058/ryzen-ai-max-395-235b-model-local-mini-pc
|