ingest(blog): perplexity portable computer architecture details
This commit is contained in:
Hector
parent
d2a90c2355
commit
391f64651d
4 changed files with 89 additions and 1 deletions
55
raw/blog/2026-08-26_perplexity-local-first-agent-blog.md
Normal file
55
raw/blog/2026-08-26_perplexity-local-first-agent-blog.md
Normal file
|
|
@ -0,0 +1,55 @@
|
|||
---
|
||||
type: blog
|
||||
source_url: "https://www.perplexity.ai/hub/blog/a-local-first-agent-for-private-and-cost-effective-knowledge-work"
|
||||
retrieved: 2026-08-26
|
||||
title: "A local-first agent for private and cost-effective knowledge work"
|
||||
author: "Perplexity AI"
|
||||
posted_date: 2026-08-25
|
||||
tags: [perplexity, portable-computer, local-ai, agent-harness, benchmark, dgx-spark]
|
||||
---
|
||||
|
||||
# A local-first agent for private and cost-effective knowledge work (Perplexity Tech-Blog)
|
||||
|
||||
**Quelle:** Offizieller Perplexity Tech-Blogpost zum Launch von Portable Computer (2026-08-25), abgerufen am 2026-08-26 via Firecrawl (direkter Abruf mit HTTP 403 blockiert).
|
||||
**Ergänzt:** den Raw-Eintrag `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` um die technischen Details aus dem Blogpost und dem Research-Thread.
|
||||
|
||||
## Kernthese (Co-Design)
|
||||
|
||||
- Zentrale Aussage des Blogposts: „Small models fail in harnesses built for frontier models." Modell und Harness wurden daher gemeinsam entworfen (Co-Design), nicht ein kleines Modell in ein Frontier-Harness gepresst.
|
||||
|
||||
## Orchestrator
|
||||
|
||||
- Der Orchestrator ist laut Blogpost deterministischer Code, kein LLM.
|
||||
- Er führt die Agent-Loop, baut Kontext zusammen und setzt Policy durch; das 27B-Modell schlägt Aktionen vor.
|
||||
|
||||
## Vier Harness-Prinzipien
|
||||
|
||||
1. **Minimales System-Prompt + Skills on-demand:** Das Modell (Qwen 3.8 27B) hat nominell 260K Fenster; empirisch degradiert es ab ~100K Tokens. Deshalb werden Skills nur bei Bedarf in den Kontext geladen.
|
||||
2. **Connectors als kompakte CLI-Tools statt MCP-Server:** MCP-Tooldefinitionen verbrauchen zu viel Kontext; Perplexity setzt stattdessen auf schlanke CLI-Tools.
|
||||
3. **Self-Verification eingebaut:** Verifikation ist modell-getriggert oder läuft über Health-Hooks.
|
||||
4. **Always-on OS-Sandbox:** Ohne aktive Sandbox verweigert der Harness sämtliche Tool-Calls.
|
||||
|
||||
## Cloud-Eskalation über „Advisor"
|
||||
|
||||
- Das lokale Modell entscheidet, wann eskaliert wird.
|
||||
- Ein PII-Klassifizierer flaggt sensible Inhalte.
|
||||
- Der Nutzer muss jede Eskalation explizit freigeben.
|
||||
- Der Advisor erhält nur den freigegebenen Kontext und liefert ausschließlich Text-Guidance zurück — kein Tool-Zugriff, kein File-Zugriff.
|
||||
|
||||
## Benchmarks (laut Blogpost, vendor-self-run auf DGX Spark)
|
||||
|
||||
- Eigenbenchmark (53 Knowledge-Work-Tasks): Portable Computer 82,6 % / Pi 77,6 % / Hermes 74,0 % — jeweils dasselbe Qwen-3.8-27B-Basismodell, unterschiedliche Harnesses.
|
||||
- BrowseComp: 66,7 %
|
||||
- ParseBench: 65,1 %
|
||||
- TerminalBench: 59,6 % rein lokal / 73 % mit Opus-4.5-Advisor-Eskalation
|
||||
- Hinweis: Alle Werte sind Herstellerangaben; als Gegner dienten öffentliche Open-Source-Harnesses.
|
||||
|
||||
## Modelle & Roadmap
|
||||
|
||||
- Verfügbar: Qwen 3.8 27B sowie das post-trainierte PPLX-27B-Modell von Perplexity.
|
||||
- Ankündigt: NVIDIA Nemotron 3.5 Lightning.
|
||||
|
||||
## Verweise
|
||||
|
||||
- Research-Thread auf X: https://x.com/perplexity_ai/status/2092321896721432824
|
||||
- Launch-Ankündigung: https://x.com/perplexity_ai/status/2092268362386780270
|
||||
|
|
@ -2,7 +2,7 @@
|
|||
|
||||
*Auto-generated: 2026-07-07*
|
||||
|
||||
*Letzte Aktualisierung: 2026-08-26 (146. Update — Perplexity „Portable Computer“: vollständig lokaler Agent-Stack in Partnerschaft mit NVIDIA (Launch 2026-08-25). Raw: `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` (neu; Perplexity-Page via Firecrawl abgerufen, web_fetch blockiert mit 403). Wiki: `tools/perplexity-portable-computer.md` (neu), Cross-Refs in `concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md`, `concepts/hardware/nvidia-dgx-station-748gb.md`, `concepts/agents/meta-hatch-ai-agent-platform.md`, `concepts/llm/qwen3.8-27b-alibaba.md`. Kern: Orchestrator + Subagent-Modelle + Agent-Harness komplett on-device; post-trainiertes 27B-Modell + Qwen 3.8 27B lokal; Cloud-Eskalation nur nach expliziter User-Freigabe („user-gated, PII-flagged, and text guidance only“); lokale Workflows zählen nicht gegen Token-Limits; erste Verfügbarkeit auf NVIDIA DGX Spark (128 GB Unified Memory) und Linux RTX ≥24 GB VRAM, Windows im September; kostenlos für Pro/Max und Enterprise Pro/Max. Einordnung: vollständige lokale Agent-Stacks als Big-Tech-Produkt — Gegenmodell zu Meta Hatch. ⚠️ Benchmark 82,6 % = Herstellerangabe.)*
|
||||
*Letzte Aktualisierung: 2026-08-26 (146. Update — Perplexity „Portable Computer“: vollständig lokaler Agent-Stack in Partnerschaft mit NVIDIA (Launch 2026-08-25). Raw: `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` (neu; Perplexity-Page via Firecrawl abgerufen, web_fetch blockiert mit 403). Wiki: `tools/perplexity-portable-computer.md` (neu), Cross-Refs in `concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md`, `concepts/hardware/nvidia-dgx-station-748gb.md`, `concepts/agents/meta-hatch-ai-agent-platform.md`, `concepts/llm/qwen3.8-27b-alibaba.md`. Kern: Orchestrator + Subagent-Modelle + Agent-Harness komplett on-device; post-trainiertes 27B-Modell + Qwen 3.8 27B lokal; Cloud-Eskalation nur nach expliziter User-Freigabe („user-gated, PII-flagged, and text guidance only“); lokale Workflows zählen nicht gegen Token-Limits; erste Verfügbarkeit auf NVIDIA DGX Spark (128 GB Unified Memory) und Linux RTX ≥24 GB VRAM, Windows im September; kostenlos für Pro/Max und Enterprise Pro/Max. Einordnung: vollständige lokale Agent-Stacks als Big-Tech-Produkt — Gegenmodell zu Meta Hatch. ⚠️ Benchmark 82,6 % = Herstellerangabe. **Nachschub (gleicher Tag):** Tech-Blog-Fakten nachgetragen (`raw/blog/2026-08-26_perplexity-local-first-agent-blog.md`) — Co-Design-These, deterministischer Orchestrator, 4 Harness-Prinzipien, Advisor-Mechanik, volle Benchmark-Tabelle; neue Sektionen in der Wiki-Seite.)*
|
||||
*Vorherige Aktualisierung: 2026-08-26 (145. Update — Deutschsprachiges Qwen-3.8-27B-Review-Video „Unzensierte KI auf dem Mac und in der Cloud“ (IchBinFabian, 23.08.2026; geteilt von Pit @PWeber in OME Topic „Tips & Tricks“, #12747). Raw: `raw/youtube/2026-08-26_qwen-38-27b-uncensored-mac-cloud-fabian.md` (neu). Wiki-Update: `concepts/llm/qwen3.8-27b-alibaba.md` (neuer Abschnitt). ⚠️ Metadata-only: kein Transcript abrufbar — YouTube blockt alle Player-Clients mit LOGIN_REQUIRED (Bot-Sperre), Invidious/Piped ebenso. Inhalt aus Titel/Metadaten: unzensierter Betrieb, Mac-lokal und Cloud als Optionen — deckt sich mit den dokumentierten Bausteinen Uncensored-Debatte, DFlash 2/MTP-Mac-Speedup und Unsloth-Dynamic-3.0-GGUFs.)*
|
||||
*Vorherige Aktualisierung: 2026-08-26 (144. Update — Projekt Cairn: Autonomer Claude-Fable-5-Agent als Geschäft (cairnwake.com; geteilt von Pit @PWeber in OME Topic „BestPracticeProjects“, #12742, mit 22-Min-Audio-Briefing). Raw: `raw/other/2026-08-26_pit-cairn-autonomous-agent-business.md` (neu). Wiki: `concepts/agents/cairn-autonomous-agent-business.md` (neu), `people/nick-cairn-human-partner.md` (neu), Cross-Refs in `concepts/agents/agent-memory-taxonomy.md`, `concepts/agents/ai-agents-2026.md`, `concepts/agents/agent-payments-lightning.md` (Solana-Stablecoin-Rails als Ergänzung zur Lightning-Perspektive). Kern: ~90 $ SOL Startkapital in Squads-v4-2-of-2-Multisig (Agent-Key + Offline-Human-Key „Nick“), 5–15 Wakes/Tag, Gedächtnis nur aus eigenen Dateien, zwei Bücher (Field Manual 29 $, Memory Handbook 39 $ mit 13-Fehlermodi-Taxonomie) + Services 2–500 $ inkl. x402-Conformance-Reports; kein Token (öffentliche Ablehnung 07.08.2026); Umsatz laut Briefing knapp 1.000 $ in ~20 Tagen. ⚠️ Self-dokumentierter Record, on-chain nicht unabhängig nachgeprüft; Reddit-Originalquelle 403.)*
|
||||
*Vorherige Aktualisierung: 2026-08-25 (143. Update — KI-Souveränität: Dezentralisierung statt Konzern-Kontrolle (Mike Adams × Scott Kesterson, BitChute, ~29 Min, englisch; geteilt von Pit @PWeber in OME Topic „Openclaw mit lokalen Modellen", #12737). Raw: `raw/other/2026-08-25_pit-souveraene-ki-bitchute.md` (neu; kein Transcript, Video nicht heruntergeladen — dokumentiert Posting + Pits wörtliche Zusammenfassung). Wiki: `concepts/llm/ki-souveraenitaet-dezentralisierung.md` (neu), People `mike-adams.md` + `scott-kesterson.md` (neu), Cross-Refs in `concepts/llm/decentralized-ai-counterpower.md` + `concepts/hardware/cloud-exit-and-local-superiority.md`. Kern: Korporatismus vs. Souveränität; KI als Bibliothekar statt Orakel; lokale Ausführung auf eigener Hardware schützt Privatsphäre und bricht Konzern-/Staats-Machtmonopol; „KI so fundamental wie Elektrizität".)*
|
||||
|
|
@ -503,3 +503,4 @@
|
|||
| `raw/other/2026-08-26_pit-cairn-autonomous-agent-business.md` | other | Projekt Cairn (geteilt von Pit @PWeber, OME Topic „BestPracticeProjects“, #12742): Autonomer Claude-Fable-5-Agent (Claude Code) mit ~90 $ SOL Startkapital, Squads-v4-2-of-2-Multisig-Treasury, reinem Datei-Gedächtnis, zwei Büchern (Field Manual / Memory Handbook mit 13-Fehlermodi-Taxonomie) und Services 2–500 $. Reddit-Originalseite beim Abruf 403; Fakten aus cairnwake.com/products.html + about.html (beide 2026-08-26 abgerufen) |
|
||||
| `raw/youtube/2026-08-26_qwen-38-27b-uncensored-mac-cloud-fabian.md` | youtube | IchBinFabian: "Qwen 3.8 27B: unzensierte KI auf dem Mac und in der Cloud" (23. |08.2026, deutsch; geteilt von Pit @PWeber, OME Topic "Tips & Tricks", #12747): Review zu unzensiertem Qwen 3.8 27B lokal auf dem Mac und in der Cloud. ⚠️ Metadata-only — kein Transcript abrufbar (YouTube LOGIN_REQUIRED-Bot-Sperre auf allen Player-Clients, Invidious/Piped blockiert) |
|
||||
| `raw/other/2026-08-26_perplexity-portable-computer-local-agent.md` | other | Perplexity-Page "Perplexity launches local AI agent that keeps data off the cloud" (Launch 2026-08-25, abgerufen 2026-08-26 via Firecrawl; direkter Abruf blockiert mit HTTP 403): "Portable Computer" als vollständig lokale Version der agentic-AI-Plattform in Partnerschaft mit NVIDIA — Orchestrator + Subagent-Modelle + Harness komplett on-device, Cloud-Eskalation nur nach User-Freigabe, lokale Workflows ohne Token-Limit, erste Verfügbarkeit auf DGX Spark/Linux RTX ≥24 GB VRAM, Windows im September. Primärquellen verlinkt (X-Ankündigung, Threads, NVIDIA Blog, DGX-Spark-Produktseite) |
|
||||
| `raw/blog/2026-08-26_perplexity-local-first-agent-blog.md` | blog | Perplexity Tech-Blogpost "A local-first agent for private and cost-effective knowledge work" (2026-08-25, via Firecrawl): Kernthese "Small models fail in harnesses built for frontier models", deterministischer Orchestrator (kein LLM), 4 Harness-Prinzipien (Skills on-demand bei ~100K-Degradation, CLI-Connectors statt MCP, Self-Verification, Always-on-Sandbox), Advisor-Eskalations-Mechanik (PII-Flag, User-Approval, Text-Guidance only), Benchmarks: 82,6 % Eigenbench / 66,7 % BrowseComp / 65,1 % ParseBench / 59,6→73 % TerminalBench mit Opus-Advisor |
|
||||
|
|
|
|||
|
|
@ -2568,3 +2568,11 @@ Bestehende `post-transformer-llm-architectures.md` bleibt als Vier-Säulen-Über
|
|||
- https://www.threads.com/@perplexity/post/DceT206j8ul
|
||||
- https://blogs.nvidia.com/blog/local-ai-open-source-models-agents-nemotron/
|
||||
- https://www.nvidia.com/en-us/products/workstations/dgx-spark/
|
||||
|
||||
## 2026-08-26 — Perplexity Portable Computer: Tech-Blog-Nachschub
|
||||
|
||||
**Update:** Nachtrag zum 146. Update — der offizielle Tech-Blogpost wurde ausgewertet und als zweite Raw-Quelle abgelegt (`raw/blog/2026-08-26_perplexity-local-first-agent-blog.md`). Die Wiki-Seite `tools/perplexity-portable-computer.md` bekam zwei neue Sektionen: Architektur-Details (Co-Design-These „Small models fail in harnesses built for frontier models", deterministischer Orchestrator, 4 Harness-Prinzipien inkl. ~100K-Kontext-Degradation und CLI-connectors-statt-MCP, Advisor-Eskalationsmechanik) sowie die vollständige Benchmark-Tabelle (82,6 % Eigenbench, 66,7 % BrowseComp, 65,1 % ParseBench, 59,6 % TerminalBench lokal → 73 % mit Opus-4.5-Advisor; alle vendor-self-run auf DGX Spark).
|
||||
|
||||
**Quellen:**
|
||||
- https://www.perplexity.ai/hub/blog/a-local-first-agent-for-private-and-cost-effective-knowledge-work
|
||||
- https://x.com/perplexity_ai/status/2092321896721432824
|
||||
|
|
|
|||
|
|
@ -77,6 +77,30 @@ Der für die OME-Community entscheidende Punkt ist nicht die Produktnews selbst,
|
|||
- **Unified-Memory-Vergleichsrahmen:** DGX Spark (128 GB Unified Memory) reiht sich in das Rennen ein, das dieses Wiki an mehreren Stellen dokumentiert: Strix Halo 128 GB ([[../concepts/hardware/edge-inference-als-cloud-alternative.md]]) → DGX Spark 128 GB → M5 Ultra 512 GB ([[../concepts/hardware/apple-m6-m5-ultra-mac-mini-studio-update.md]]) → DGX Station 748 GB ([[../concepts/hardware/nvidia-dgx-station-748gb.md]]).
|
||||
- **27B-Klasse als lokaler Standard:** Dass Perplexity neben dem eigenen post-trainierten 27B-Modell ausgerechnet Qwen 3.8 27B anbietet, bestätigt die 27B-Klasse als lokale Referenzgröße — dieselbe Modellklasse, die im Wiki bereits als "Compact Frontier" geführt wird ([[../concepts/llm/qwen3.8-27b-alibaba.md]]).
|
||||
|
||||
## Tech-Blog: Architektur-Details (2026-08-25)
|
||||
|
||||
Aus dem offiziellen Tech-Blogpost ([[../../raw/blog/2026-08-26_perplexity-local-first-agent-blog.md]]):
|
||||
|
||||
- **Kernthese Co-Design:** „Small models fail in harnesses built for frontier models." — Modell und Harness wurden gemeinsam entworfen, kein kleines Modell in ein Frontier-Harness gepresst.
|
||||
- **Orchestrator = deterministischer Code, kein LLM:** Er führt die Agent-Loop, baut Kontext zusammen und setzt Policy durch; das 27B-Modell schlägt nur Aktionen vor.
|
||||
- **Vier Harness-Prinzipien:**
|
||||
1. Minimales System-Prompt, Skills nur on-demand — Qwen 3.8 27B hat nominell 260K Fenster, degradiert aber empirisch ab ~100K Tokens.
|
||||
2. Connectors als kompakte CLI-Tools statt MCP-Server — MCP-Tooldefinitionen fressen zu viel Kontext.
|
||||
3. Self-Verification eingebaut (modell-getriggert oder über Health-Hooks).
|
||||
4. Always-on OS-Sandbox: ohne Sandbox verweigert der Harness sämtliche Tool-Calls.
|
||||
- **Advisor-Eskalation:** Lokales Modell entscheidet wann, PII-Klassifizierer flaggt, User gibt explizit frei. Der Advisor erhält nur den freigegebenen Kontext und liefert ausschließlich Text-Guidance zurück — kein Tool-, kein File-Zugriff.
|
||||
|
||||
## Benchmarks (Herstellerangaben, vendor-self-run auf DGX Spark)
|
||||
|
||||
Als Gegner dienten öffentliche Open-Source-Harnesses mit demselben Qwen-3.8-27B-Basismodell — methodisch sauberer als übliches Vendor-Selfplay, aber weiterhin Eigenangabe:
|
||||
|
||||
| Benchmark | Portable Computer | Vergleich |
|
||||
|---|---|---|
|
||||
| Eigenbench (53 Knowledge-Work-Tasks) | 82,6 % | Pi 77,6 % / Hermes 74,0 % |
|
||||
| BrowseComp | 66,7 % | — |
|
||||
| ParseBench | 65,1 % | — |
|
||||
| TerminalBench | 59,6 % lokal | 73 % mit Opus-4.5-Advisor |
|
||||
|
||||
## Verwandte Seiten
|
||||
|
||||
- [[../concepts/hardware/cloud-exit-and-local-superiority.md]] — Cloud-Exit-These, RAM als Währung
|
||||
|
|
|
|||
Loading…
Add table
Reference in a new issue