2a0ef2e436
Wiki: tools/unsloth-dspark.md (new), index, log. Source: Pit Weber OME topic 27 Reddit r/unsloth. Reddit-403, title-metadata only.
29 lines
1.5 KiB
Markdown
29 lines
1.5 KiB
Markdown
---
|
|
created: 2026-08-06
|
|
updated: 2026-08-06
|
|
sources: [other/2026-08-06_unsloth-dspark-deepseek-v4-2x.md]
|
|
tags: [unsloth, deepseek-v4, dspark, local-inference, performance]
|
|
---
|
|
|
|
# Unsloth dSpark — DeepSeek V4 lokal 2x schneller
|
|
|
|
**Anbieter:** [Unsloth](https://unsloth.ai) — Spezialist für LLM-Fine-Tuning- und Inferenz-Beschleunigung (Unsloth-Inferenz-Engine, Dynamic Quantization).
|
|
|
|
## Was ist dSpark?
|
|
|
|
**dSpark** ist eine von Unsloth veröffentlichte Optimierung, die **DeepSeek V4 lokal mit 2x Geschwindigkeit** laufen lässt. Laut Post-Titel auf r/unsloth (2026-08-06): "DeepSeek V4 now runs 2x faster locally with dSpark".
|
|
|
|
## Relevanz für Hectors Setup
|
|
|
|
- **DeepSeek V4 ist aktiv** in der lokalen Ollama-Infrastruktur: `ollama/deepseek-v4-flash:0731` (lokal) sowie `deepseek-v4-pro:cloud`.
|
|
- Die **Barbell-5-Tier-Routing-Strategie** (AGENTS.md) nutzt Tier-0-Free-Modelle wie `ollama/deepseek-v4-flash:cloud` für Heartbeats/Cron. Eine lokale 2x-Beschleunigung würde die Latenz lokaler Inferenz senken und ggf. Kosten weiter drücken.
|
|
- **Open Question:** Ob dSpark als Ollama-Engine/Backend integrierbar ist oder ein eigenes Runtime erfordert — Body des Reddit-Posts war wegen 403 nicht verifizierbar.
|
|
|
|
## Status
|
|
|
|
- **Verifizierungsgrad:** Titel-Metadaten gesichert (2026-08-06). Technische Details (Benchmark-Zahlen, Hardware-Anforderungen, Integrationsweg) **offen** — bei Gelegenheit über unsloth.ai Blog nachziehen.
|
|
- **Nicht implementiert** — rein dokumentarischer Ingest.
|
|
|
|
## Verwandte Wiki-Seiten
|
|
|
|
- Model-Routing / Barbell-Tier-Strategie (AGENTS.md)
|