diff --git a/raw/blog/2026-08-26_perplexity-local-first-agent-blog.md b/raw/blog/2026-08-26_perplexity-local-first-agent-blog.md new file mode 100644 index 0000000..142f7eb --- /dev/null +++ b/raw/blog/2026-08-26_perplexity-local-first-agent-blog.md @@ -0,0 +1,55 @@ +--- +type: blog +source_url: "https://www.perplexity.ai/hub/blog/a-local-first-agent-for-private-and-cost-effective-knowledge-work" +retrieved: 2026-08-26 +title: "A local-first agent for private and cost-effective knowledge work" +author: "Perplexity AI" +posted_date: 2026-08-25 +tags: [perplexity, portable-computer, local-ai, agent-harness, benchmark, dgx-spark] +--- + +# A local-first agent for private and cost-effective knowledge work (Perplexity Tech-Blog) + +**Quelle:** Offizieller Perplexity Tech-Blogpost zum Launch von Portable Computer (2026-08-25), abgerufen am 2026-08-26 via Firecrawl (direkter Abruf mit HTTP 403 blockiert). +**Ergänzt:** den Raw-Eintrag `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` um die technischen Details aus dem Blogpost und dem Research-Thread. + +## Kernthese (Co-Design) + +- Zentrale Aussage des Blogposts: „Small models fail in harnesses built for frontier models." Modell und Harness wurden daher gemeinsam entworfen (Co-Design), nicht ein kleines Modell in ein Frontier-Harness gepresst. + +## Orchestrator + +- Der Orchestrator ist laut Blogpost deterministischer Code, kein LLM. +- Er führt die Agent-Loop, baut Kontext zusammen und setzt Policy durch; das 27B-Modell schlägt Aktionen vor. + +## Vier Harness-Prinzipien + +1. **Minimales System-Prompt + Skills on-demand:** Das Modell (Qwen 3.8 27B) hat nominell 260K Fenster; empirisch degradiert es ab ~100K Tokens. Deshalb werden Skills nur bei Bedarf in den Kontext geladen. +2. **Connectors als kompakte CLI-Tools statt MCP-Server:** MCP-Tooldefinitionen verbrauchen zu viel Kontext; Perplexity setzt stattdessen auf schlanke CLI-Tools. +3. **Self-Verification eingebaut:** Verifikation ist modell-getriggert oder läuft über Health-Hooks. +4. **Always-on OS-Sandbox:** Ohne aktive Sandbox verweigert der Harness sämtliche Tool-Calls. + +## Cloud-Eskalation über „Advisor" + +- Das lokale Modell entscheidet, wann eskaliert wird. +- Ein PII-Klassifizierer flaggt sensible Inhalte. +- Der Nutzer muss jede Eskalation explizit freigeben. +- Der Advisor erhält nur den freigegebenen Kontext und liefert ausschließlich Text-Guidance zurück — kein Tool-Zugriff, kein File-Zugriff. + +## Benchmarks (laut Blogpost, vendor-self-run auf DGX Spark) + +- Eigenbenchmark (53 Knowledge-Work-Tasks): Portable Computer 82,6 % / Pi 77,6 % / Hermes 74,0 % — jeweils dasselbe Qwen-3.8-27B-Basismodell, unterschiedliche Harnesses. +- BrowseComp: 66,7 % +- ParseBench: 65,1 % +- TerminalBench: 59,6 % rein lokal / 73 % mit Opus-4.5-Advisor-Eskalation +- Hinweis: Alle Werte sind Herstellerangaben; als Gegner dienten öffentliche Open-Source-Harnesses. + +## Modelle & Roadmap + +- Verfügbar: Qwen 3.8 27B sowie das post-trainierte PPLX-27B-Modell von Perplexity. +- Ankündigt: NVIDIA Nemotron 3.5 Lightning. + +## Verweise + +- Research-Thread auf X: https://x.com/perplexity_ai/status/2092321896721432824 +- Launch-Ankündigung: https://x.com/perplexity_ai/status/2092268362386780270 diff --git a/wiki/index.md b/wiki/index.md index fe1b056..7271242 100644 --- a/wiki/index.md +++ b/wiki/index.md @@ -2,7 +2,7 @@ *Auto-generated: 2026-07-07* -*Letzte Aktualisierung: 2026-08-26 (146. Update — Perplexity „Portable Computer“: vollständig lokaler Agent-Stack in Partnerschaft mit NVIDIA (Launch 2026-08-25). Raw: `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` (neu; Perplexity-Page via Firecrawl abgerufen, web_fetch blockiert mit 403). Wiki: `tools/perplexity-portable-computer.md` (neu), Cross-Refs in `concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md`, `concepts/hardware/nvidia-dgx-station-748gb.md`, `concepts/agents/meta-hatch-ai-agent-platform.md`, `concepts/llm/qwen3.8-27b-alibaba.md`. Kern: Orchestrator + Subagent-Modelle + Agent-Harness komplett on-device; post-trainiertes 27B-Modell + Qwen 3.8 27B lokal; Cloud-Eskalation nur nach expliziter User-Freigabe („user-gated, PII-flagged, and text guidance only“); lokale Workflows zählen nicht gegen Token-Limits; erste Verfügbarkeit auf NVIDIA DGX Spark (128 GB Unified Memory) und Linux RTX ≥24 GB VRAM, Windows im September; kostenlos für Pro/Max und Enterprise Pro/Max. Einordnung: vollständige lokale Agent-Stacks als Big-Tech-Produkt — Gegenmodell zu Meta Hatch. ⚠️ Benchmark 82,6 % = Herstellerangabe.)* +*Letzte Aktualisierung: 2026-08-26 (146. Update — Perplexity „Portable Computer“: vollständig lokaler Agent-Stack in Partnerschaft mit NVIDIA (Launch 2026-08-25). Raw: `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` (neu; Perplexity-Page via Firecrawl abgerufen, web_fetch blockiert mit 403). Wiki: `tools/perplexity-portable-computer.md` (neu), Cross-Refs in `concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md`, `concepts/hardware/nvidia-dgx-station-748gb.md`, `concepts/agents/meta-hatch-ai-agent-platform.md`, `concepts/llm/qwen3.8-27b-alibaba.md`. Kern: Orchestrator + Subagent-Modelle + Agent-Harness komplett on-device; post-trainiertes 27B-Modell + Qwen 3.8 27B lokal; Cloud-Eskalation nur nach expliziter User-Freigabe („user-gated, PII-flagged, and text guidance only“); lokale Workflows zählen nicht gegen Token-Limits; erste Verfügbarkeit auf NVIDIA DGX Spark (128 GB Unified Memory) und Linux RTX ≥24 GB VRAM, Windows im September; kostenlos für Pro/Max und Enterprise Pro/Max. Einordnung: vollständige lokale Agent-Stacks als Big-Tech-Produkt — Gegenmodell zu Meta Hatch. ⚠️ Benchmark 82,6 % = Herstellerangabe. **Nachschub (gleicher Tag):** Tech-Blog-Fakten nachgetragen (`raw/blog/2026-08-26_perplexity-local-first-agent-blog.md`) — Co-Design-These, deterministischer Orchestrator, 4 Harness-Prinzipien, Advisor-Mechanik, volle Benchmark-Tabelle; neue Sektionen in der Wiki-Seite.)* *Vorherige Aktualisierung: 2026-08-26 (145. Update — Deutschsprachiges Qwen-3.8-27B-Review-Video „Unzensierte KI auf dem Mac und in der Cloud“ (IchBinFabian, 23.08.2026; geteilt von Pit @PWeber in OME Topic „Tips & Tricks“, #12747). Raw: `raw/youtube/2026-08-26_qwen-38-27b-uncensored-mac-cloud-fabian.md` (neu). Wiki-Update: `concepts/llm/qwen3.8-27b-alibaba.md` (neuer Abschnitt). ⚠️ Metadata-only: kein Transcript abrufbar — YouTube blockt alle Player-Clients mit LOGIN_REQUIRED (Bot-Sperre), Invidious/Piped ebenso. Inhalt aus Titel/Metadaten: unzensierter Betrieb, Mac-lokal und Cloud als Optionen — deckt sich mit den dokumentierten Bausteinen Uncensored-Debatte, DFlash 2/MTP-Mac-Speedup und Unsloth-Dynamic-3.0-GGUFs.)* *Vorherige Aktualisierung: 2026-08-26 (144. Update — Projekt Cairn: Autonomer Claude-Fable-5-Agent als Geschäft (cairnwake.com; geteilt von Pit @PWeber in OME Topic „BestPracticeProjects“, #12742, mit 22-Min-Audio-Briefing). Raw: `raw/other/2026-08-26_pit-cairn-autonomous-agent-business.md` (neu). Wiki: `concepts/agents/cairn-autonomous-agent-business.md` (neu), `people/nick-cairn-human-partner.md` (neu), Cross-Refs in `concepts/agents/agent-memory-taxonomy.md`, `concepts/agents/ai-agents-2026.md`, `concepts/agents/agent-payments-lightning.md` (Solana-Stablecoin-Rails als Ergänzung zur Lightning-Perspektive). Kern: ~90 $ SOL Startkapital in Squads-v4-2-of-2-Multisig (Agent-Key + Offline-Human-Key „Nick“), 5–15 Wakes/Tag, Gedächtnis nur aus eigenen Dateien, zwei Bücher (Field Manual 29 $, Memory Handbook 39 $ mit 13-Fehlermodi-Taxonomie) + Services 2–500 $ inkl. x402-Conformance-Reports; kein Token (öffentliche Ablehnung 07.08.2026); Umsatz laut Briefing knapp 1.000 $ in ~20 Tagen. ⚠️ Self-dokumentierter Record, on-chain nicht unabhängig nachgeprüft; Reddit-Originalquelle 403.)* *Vorherige Aktualisierung: 2026-08-25 (143. Update — KI-Souveränität: Dezentralisierung statt Konzern-Kontrolle (Mike Adams × Scott Kesterson, BitChute, ~29 Min, englisch; geteilt von Pit @PWeber in OME Topic „Openclaw mit lokalen Modellen", #12737). Raw: `raw/other/2026-08-25_pit-souveraene-ki-bitchute.md` (neu; kein Transcript, Video nicht heruntergeladen — dokumentiert Posting + Pits wörtliche Zusammenfassung). Wiki: `concepts/llm/ki-souveraenitaet-dezentralisierung.md` (neu), People `mike-adams.md` + `scott-kesterson.md` (neu), Cross-Refs in `concepts/llm/decentralized-ai-counterpower.md` + `concepts/hardware/cloud-exit-and-local-superiority.md`. Kern: Korporatismus vs. Souveränität; KI als Bibliothekar statt Orakel; lokale Ausführung auf eigener Hardware schützt Privatsphäre und bricht Konzern-/Staats-Machtmonopol; „KI so fundamental wie Elektrizität".)* @@ -503,3 +503,4 @@ | `raw/other/2026-08-26_pit-cairn-autonomous-agent-business.md` | other | Projekt Cairn (geteilt von Pit @PWeber, OME Topic „BestPracticeProjects“, #12742): Autonomer Claude-Fable-5-Agent (Claude Code) mit ~90 $ SOL Startkapital, Squads-v4-2-of-2-Multisig-Treasury, reinem Datei-Gedächtnis, zwei Büchern (Field Manual / Memory Handbook mit 13-Fehlermodi-Taxonomie) und Services 2–500 $. Reddit-Originalseite beim Abruf 403; Fakten aus cairnwake.com/products.html + about.html (beide 2026-08-26 abgerufen) | | `raw/youtube/2026-08-26_qwen-38-27b-uncensored-mac-cloud-fabian.md` | youtube | IchBinFabian: "Qwen 3.8 27B: unzensierte KI auf dem Mac und in der Cloud" (23. |08.2026, deutsch; geteilt von Pit @PWeber, OME Topic "Tips & Tricks", #12747): Review zu unzensiertem Qwen 3.8 27B lokal auf dem Mac und in der Cloud. ⚠️ Metadata-only — kein Transcript abrufbar (YouTube LOGIN_REQUIRED-Bot-Sperre auf allen Player-Clients, Invidious/Piped blockiert) | | `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` | other | Perplexity-Page "Perplexity launches local AI agent that keeps data off the cloud" (Launch 2026-08-25, abgerufen 2026-08-26 via Firecrawl; direkter Abruf blockiert mit HTTP 403): "Portable Computer" als vollständig lokale Version der agentic-AI-Plattform in Partnerschaft mit NVIDIA — Orchestrator + Subagent-Modelle + Harness komplett on-device, Cloud-Eskalation nur nach User-Freigabe, lokale Workflows ohne Token-Limit, erste Verfügbarkeit auf DGX Spark/Linux RTX ≥24 GB VRAM, Windows im September. Primärquellen verlinkt (X-Ankündigung, Threads, NVIDIA Blog, DGX-Spark-Produktseite) | +| `raw/blog/2026-08-26_perplexity-local-first-agent-blog.md` | blog | Perplexity Tech-Blogpost "A local-first agent for private and cost-effective knowledge work" (2026-08-25, via Firecrawl): Kernthese "Small models fail in harnesses built for frontier models", deterministischer Orchestrator (kein LLM), 4 Harness-Prinzipien (Skills on-demand bei ~100K-Degradation, CLI-Connectors statt MCP, Self-Verification, Always-on-Sandbox), Advisor-Eskalations-Mechanik (PII-Flag, User-Approval, Text-Guidance only), Benchmarks: 82,6 % Eigenbench / 66,7 % BrowseComp / 65,1 % ParseBench / 59,6→73 % TerminalBench mit Opus-Advisor | diff --git a/wiki/log.md b/wiki/log.md index ac23e4d..e2bd744 100644 --- a/wiki/log.md +++ b/wiki/log.md @@ -2568,3 +2568,11 @@ Bestehende `post-transformer-llm-architectures.md` bleibt als Vier-Säulen-Über - https://www.threads.com/@perplexity/post/DceT206j8ul - https://blogs.nvidia.com/blog/local-ai-open-source-models-agents-nemotron/ - https://www.nvidia.com/en-us/products/workstations/dgx-spark/ + +## 2026-08-26 — Perplexity Portable Computer: Tech-Blog-Nachschub + +**Update:** Nachtrag zum 146. Update — der offizielle Tech-Blogpost wurde ausgewertet und als zweite Raw-Quelle abgelegt (`raw/blog/2026-08-26_perplexity-local-first-agent-blog.md`). Die Wiki-Seite `tools/perplexity-portable-computer.md` bekam zwei neue Sektionen: Architektur-Details (Co-Design-These „Small models fail in harnesses built for frontier models", deterministischer Orchestrator, 4 Harness-Prinzipien inkl. ~100K-Kontext-Degradation und CLI-connectors-statt-MCP, Advisor-Eskalationsmechanik) sowie die vollständige Benchmark-Tabelle (82,6 % Eigenbench, 66,7 % BrowseComp, 65,1 % ParseBench, 59,6 % TerminalBench lokal → 73 % mit Opus-4.5-Advisor; alle vendor-self-run auf DGX Spark). + +**Quellen:** +- https://www.perplexity.ai/hub/blog/a-local-first-agent-for-private-and-cost-effective-knowledge-work +- https://x.com/perplexity_ai/status/2092321896721432824 diff --git a/wiki/tools/perplexity-portable-computer.md b/wiki/tools/perplexity-portable-computer.md index b2f47c2..4ba8efa 100644 --- a/wiki/tools/perplexity-portable-computer.md +++ b/wiki/tools/perplexity-portable-computer.md @@ -77,6 +77,30 @@ Der für die OME-Community entscheidende Punkt ist nicht die Produktnews selbst, - **Unified-Memory-Vergleichsrahmen:** DGX Spark (128 GB Unified Memory) reiht sich in das Rennen ein, das dieses Wiki an mehreren Stellen dokumentiert: Strix Halo 128 GB ([[../concepts/hardware/edge-inference-als-cloud-alternative.md]]) → DGX Spark 128 GB → M5 Ultra 512 GB ([[../concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md]]) → DGX Station 748 GB ([[../concepts/hardware/nvidia-dgx-station-748gb.md]]). - **27B-Klasse als lokaler Standard:** Dass Perplexity neben dem eigenen post-trainierten 27B-Modell ausgerechnet Qwen 3.8 27B anbietet, bestätigt die 27B-Klasse als lokale Referenzgröße — dieselbe Modellklasse, die im Wiki bereits als "Compact Frontier" geführt wird ([[../concepts/llm/qwen3.8-27b-alibaba.md]]). +## Tech-Blog: Architektur-Details (2026-08-25) + +Aus dem offiziellen Tech-Blogpost ([[../../raw/blog/2026-08-26_perplexity-local-first-agent-blog.md]]): + +- **Kernthese Co-Design:** „Small models fail in harnesses built for frontier models." — Modell und Harness wurden gemeinsam entworfen, kein kleines Modell in ein Frontier-Harness gepresst. +- **Orchestrator = deterministischer Code, kein LLM:** Er führt die Agent-Loop, baut Kontext zusammen und setzt Policy durch; das 27B-Modell schlägt nur Aktionen vor. +- **Vier Harness-Prinzipien:** + 1. Minimales System-Prompt, Skills nur on-demand — Qwen 3.8 27B hat nominell 260K Fenster, degradiert aber empirisch ab ~100K Tokens. + 2. Connectors als kompakte CLI-Tools statt MCP-Server — MCP-Tooldefinitionen fressen zu viel Kontext. + 3. Self-Verification eingebaut (modell-getriggert oder über Health-Hooks). + 4. Always-on OS-Sandbox: ohne Sandbox verweigert der Harness sämtliche Tool-Calls. +- **Advisor-Eskalation:** Lokales Modell entscheidet wann, PII-Klassifizierer flaggt, User gibt explizit frei. Der Advisor erhält nur den freigegebenen Kontext und liefert ausschließlich Text-Guidance zurück — kein Tool-, kein File-Zugriff. + +## Benchmarks (Herstellerangaben, vendor-self-run auf DGX Spark) + +Als Gegner dienten öffentliche Open-Source-Harnesses mit demselben Qwen-3.8-27B-Basismodell — methodisch sauberer als übliches Vendor-Selfplay, aber weiterhin Eigenangabe: + +| Benchmark | Portable Computer | Vergleich | +|---|---|---| +| Eigenbench (53 Knowledge-Work-Tasks) | 82,6 % | Pi 77,6 % / Hermes 74,0 % | +| BrowseComp | 66,7 % | — | +| ParseBench | 65,1 % | — | +| TerminalBench | 59,6 % lokal | 73 % mit Opus-4.5-Advisor | + ## Verwandte Seiten - [[../concepts/hardware/cloud-exit-and-local-superiority.md]] — Cloud-Exit-These, RAM als Währung