b27bb9dae1
- raw: Everlast AI Video 2026-06-03 (1:48:40), Transkript + 41 Timestamps - wiki: concepts/hardware/neuromorphic-chips-und-quatencomputer.md (NEUE Subkategorie) - cross-refs: model-routing.md + ai-value-migration-orchestration.md - index: neue Hardware-Subkategorie, neuer Raw-Sources-Eintrag - log: 2026-06-16 Ingest-Eintrag mit Subagent-Crashed-Notice (zai billing) Pit-Post OME Topic 502 (Theorie-Bildung), 2026-06-16 11:37 UTC. Hardware-Trias: klassische KI + Neuromorphic + Quanten. 20W-Gehirn vs. LLM-Megawatt. Dekohärenz als Quanten-Bottleneck. Verbindet zu post-transformer (Algorithmen) und ai-value-migration (Token-per-Watt).
98 lines
5.4 KiB
Markdown
98 lines
5.4 KiB
Markdown
---
|
||
created: 2026-06-16
|
||
updated: 2026-06-16
|
||
sources: []
|
||
tags: [architecture, model-routing, llm, openclaw]
|
||
---
|
||
|
||
# Model Routing
|
||
|
||
> Migriert aus ByteRover context-tree (April 2026)
|
||
|
||
## Two-Model-Pipeline
|
||
|
||
Für mehrstufige Aufgaben: **Grok 4.20 → Gemini 2.5 Flash**
|
||
|
||
| Phase | Modell | Stärke |
|
||
|-------|--------|--------|
|
||
| Ideation | Grok 4.20 | Kreative Exploration, Brainstorming, divergentes Denken |
|
||
| Synthesis | Gemini 2.5 Flash | Strukturierte Ausgabe, schnelle Synthese, konvergent |
|
||
|
||
Dieses Pattern wird sowohl im allgemeinen Routing als auch im Subconscious Agent (Hard Synthesis) verwendet, aber nie als Shared Primitive formalisiert.
|
||
|
||
## GPT-5.4 Konfiguration
|
||
|
||
- **Alias:** `GPT-5.4`
|
||
- **Route:** `openrouter/openai/gpt-5.4`
|
||
- **Context:** 200k Tokens
|
||
- **Output:** 32k Tokens
|
||
- **Reasoning/Thinking:** ❌ Deaktiviert (per Claire Vo-Empfehlung)
|
||
|
||
## Fallback-Chain (Hector Primary)
|
||
|
||
```
|
||
openrouter/auto
|
||
→ zai/glm-5-turbo
|
||
→ moonshot/moonshot-v1-auto
|
||
→ moonshot/kimi-k2.5
|
||
→ ollama/minimax-m2.7
|
||
```
|
||
|
||
## Verwandt: Parallele Ensembles (Fusion)
|
||
|
||
Sequentielles Routing (Fallback) ist nicht das einzige Pattern. OpenRouter bietet **Fusion** — parallele Model-Panels mit Judge-Synthese. Siehe [[llm-model-fusion-ensembles.md]] für Details und DRACO-Benchmark-Ergebnisse.
|
||
|
||
**Aktuell offene Frage:** Soll OpenClaws Quality-kritische Pfade (z.B. Subconscious Hard Synthesis) um eine parallele Pre-Routing-Schicht erweitert werden? Trade-off: höhere Latenz + Kosten vs. bessere Qualität durch Modell-Heterogenität.
|
||
|
||
## Coding-Modelle: Kimi K2.7 & GLM-5.2
|
||
|
||
Im Juni 2026 haben sich zwei starke Open-Source-Coding-Modelle aus China etabliert:
|
||
|
||
- **Kimi K2.7** (Moonshot AI) — siehe [[kimi-k2.7-code.md]]. MoE 1T/32B, 256K Kontext, schnell im Real-Coding-Showdown.
|
||
- **GLM-5.2** (Zhipu AI / Z.ai) — 744B Dense, 1M Kontext, MIT-Lizenz, stark bei kreativer Generation und Animation.
|
||
|
||
Head-to-Head-Vergleich in Hermes Agent: siehe [[real-world-coding-showdown.md]].
|
||
|
||
**Implikation für Routing:** In Sub-Task-Spezialisierung (Coding vs. Creative vs. Long-Context) sind beide als Sub-Routing-Knoten sinnvoll — nicht als Ersatz der Primary-Fallback-Chain, sondern als **spezialisierte Side-Branches** für Coding-Tasks.
|
||
|
||
### GLM 5.2 (Z.ai) — 1M Kontext, MIT-Lizenz, 10x günstiger
|
||
|
||
Zusätzlich zu Kimi K2.7 ist **GLM 5.2** (Release 13.06.2026) ein zweiter chinesischer Frontier-Coding-Kandidat. Siehe [[glm-5.2-zai-coding-model.md]] für Details.
|
||
|
||
**Empfohlene Routing-Position:**
|
||
|
||
```
|
||
OpenClaw Primary Routing
|
||
├─ Creative / Long-Context (1M) → GLM 5.2
|
||
├─ Speed / Innovation Coding → Kimi K2.7 Code
|
||
├─ Standard Tasks → openrouter/auto → ...
|
||
└─ Frontier Quality → Claude Opus 4.8 / Fable
|
||
```
|
||
|
||
**Drei Setup-Optionen** (Stand 14.06.2026):
|
||
1. **Z.ai Coding Plan** (sofort, ab 18 USD/Monat) — via `npx @z_ai/coding-helper`. **Achtung:** Light-Plan hat in Stoßzeiten 2-3× Kontingent-Verbrauch und lange Wartezeiten.
|
||
2. **Self-Hosting** (nach Open Weights Release nächste Woche) — MIT-Lizenz, Self-Host via [HuggingFace](https://huggingface.co/zai-org/GLM-5).
|
||
3. **Warten** auf OpenRouter-Listing (Tage) — Standard-Routing greift dann automatisch.
|
||
|
||
**Ensemble-Kandidat:** GLM 5.2 + Kimi K2.7 als heterogenes Coding-Panel in [[llm-model-fusion-ensembles.md]] (unterschiedliche Architektur: Dense vs MoE, unterschiedliche Stärken).
|
||
|
||
**Besonderheit:** [Z.ai Coding Plan](https://z.ai/subscribe) listet `Clawdbot/OpenClaw` namentlich als unterstütztes Environment — direkte Integration bereits vorbereitet.
|
||
|
||
## Post-Transformer-Architekturen als künftige Routing-Optionen
|
||
|
||
Während aktuelles Routing primär **innerhalb** des AR-Transformer-Stacks arbeitet (mit Modell-Heterogenität als Variations-Achse), verschiebt DeepMind die Variations-Achse **architektonisch**: hybride Attention+Recurrence (Griffin, Recurrent Gemma, Titans), Diffusions-LLMs, JEPA-Weltmodelle. Details: [[concepts/llm/post-transformer-llm-architectures.md]].
|
||
|
||
**Aktuell noch nicht relevant für OpenClaw-Routing** (keine offenen Weights + stabile Provider-Listings), aber mittelfristig zu beobachten:
|
||
- **State-Space-Hybride** (Titans, Mamba) als effizientere lokale Embedding-Backends für SSR/Speicher-Layer
|
||
- **Diffusions-LLMs** für parallele Code-Completion in nicht-Präfix-Positionen (relevant für Hermes-Agent-Code-Edit-Tasks)
|
||
- **JEPA-Weltmodelle** für Subconscious-Agent-„Simulations-Prior" (statt nur Text-Pretraining-Prior)
|
||
|
||
**Status:** Beobachten, nicht adoptieren. Sobald OpenRouter oder ein anderer Provider-Adapter stabile Listings anbietet, evaluieren wie bei [[concepts/llm/glm-5.2-zai-coding-model.md]].
|
||
|
||
## Hardware-Frontier als Routing-Constraint
|
||
|
||
Mainzers Energie-Argument (20W Gehirn vs. Megawatt-LLM-Cluster, siehe [[concepts/hardware/neuromorphic-chips-und-quantencomputer]]) validiert [[concepts/llm/ai-value-migration-orchestration]] (Aravind: „Token Value per Watt per User"). Implikation für OpenClaw-Routing:
|
||
|
||
- **Edge-Tasks** (Smart-Home, Mobile, Embedded): langfristig nur mit neuromorphen/photonischen Backends wirtschaftlich — nicht mit Cloud-LLMs
|
||
- **Mittelfristig beobachten:** Intel Loihi, IBM TrueNorth, Lightmatter, Luminous Computing — Status 2026?
|
||
- **Kurzfristig:** Optimierung bestehender AR-Transformer-Pfade (Caching, Quantisierung, Speculative Decoding) bleibt wichtig, ist aber Endpunkt-Frickelei — Hardware-Diversität ist der eigentliche Spielfeldwechsel.
|