43 lines
2.6 KiB
Markdown
43 lines
2.6 KiB
Markdown
|
---
|
|||
|
|
type: youtube
|
|||
|
|
source_url: https://www.youtube.com/watch?v=5wJePx3FG0o
|
|||
|
|
retrieved: 2026-08-18
|
|||
|
|
channel: "Julian Goldie SEO"
|
|||
|
|
channel_url: "https://www.youtube.com/@JulianGoldieSEO"
|
|||
|
|
title: "Qwen 3.8 27B is NOW on Ollama… This is CRAZY!"
|
|||
|
|
has_transcript: false
|
|||
|
|
shared_by: "@PWeber (Kai)"
|
|||
|
|
shared_in: "OME-Gruppe, Topic 'Tips & Tricks'"
|
|||
|
|
tags: [qwen, qwen3.8, 27b, ollama, local-llm, mtp, alibaba]
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
# Qwen 3.8 27B is NOW on Ollama… This is CRAZY! — Video-Rohdaten
|
|||
|
|
|
|||
|
|
## Video-Metadaten
|
|||
|
|
- **Titel:** "Qwen 3.8 27B is NOW on Ollama… This is CRAZY!"
|
|||
|
|
- **Kanal:** Julian Goldie SEO (https://www.youtube.com/@JulianGoldieSEO)
|
|||
|
|
- **URL:** https://www.youtube.com/watch?v=5wJePx3FG0o
|
|||
|
|
- **Gepostet:** 2026-08-18 von Kai (@PWeber) im OME-Topic "Tips & Tricks"
|
|||
|
|
- **Transkript:** nicht abgerufen (yt-dlp bot-blocked, kein JS-Runtime)
|
|||
|
|
|
|||
|
|
## Inhalt (neutrale Zusammenfassung)
|
|||
|
|
Das Video behandelt die Verfügbarkeit von Qwen 3.8 27B auf Ollama für lokale Bereitstellung. Thematisch gehört es in den laufenden Diskurs um das kompakte 27B-Modell der Qwen3.8-Generation.
|
|||
|
|
|
|||
|
|
Zusammenhängende technische Fakten (aus dem Diskussions-Kontext des Topic + ergänzenden Quellen):
|
|||
|
|
|
|||
|
|
- **Qwen 3.8 27B** ist ein **dichtes 27,8-Milliarden-Parameter-Modell** von Alibaba, jetzt über Ollama lauffähig.
|
|||
|
|
- Start via `ollama run qwen3.8:27b`; Standard-Build ist eine **18-GB-Q4_K_M-Quantisierung**, geeignet für ≥24 GB VRAM, CPU-Offload bei weniger VRAM.
|
|||
|
|
- **Hybrid-Attention-Architektur** (linear + full attention) für lange Kontexte und schnelle Inferenz.
|
|||
|
|
- **Natives Kontextfenster: 262.144 Token**, erweiterbar auf ~1 Million Token über YaRN-Scaling.
|
|||
|
|
- Optimiert für Coding, professionelles Arbeiten, Recherche und lang-horizontige agentische Aufgaben; native Bild- und Video-Understanding-Unterstützung.
|
|||
|
|
- **MTP (Multi-Token Prediction):** Modell sagt mehrere künftige Token gleichzeitig voraus, die dann verifiziert werden — bei Treffern werden mehrere Token in einem Schritt akzeptiert → deutliche Inferenz-Beschleunigung ohne Qualitätsverlust. Bei Qwen 3.6 27B demonstrierte MTP einen ~1.71× Durchsatz-Speedup.
|
|||
|
|
- **Ollama-Tags:** Das Modell erscheint mit mehreren Tags in Ollama, darunter MTP-markierte Varianten (Spezifikations-Kopf `--spec-type draft-mtp`).
|
|||
|
|
|
|||
|
|
## Quellen / Links
|
|||
|
|
- Video: https://www.youtube.com/watch?v=5wJePx3FG0o
|
|||
|
|
- Kanal: https://www.youtube.com/@JulianGoldieSEO
|
|||
|
|
- HuggingFace: https://huggingface.co/Qwen/Qwen3.8-27B
|
|||
|
|
- Ollama Library: https://ollama.com/library/qwen3.8:27b
|
|||
|
|
- Kontext-Artikel (ergänzend): https://www.orcarouter.ai/blog/qwen-3-8-27b-ollama
|
|||
|
|
- MTP-Konzept: https://www.datacamp.com/tutorial/multi-token-prediction-llama-cpp
|