ingest(other): pocketpal-ai - lokales LLM auf dem Smartphone (Netbits, Topic 27)

raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md

@@ -0,0 +1,39 @@
+---
+type: other
+source_url: "https://github.com/a-ghorbani/pocketpal-ai"
+retrieved: 2026-08-23
+title: "PocketPal AI — lokales LLM auf dem Smartphone (offline, private)"
+author: "a-ghorbani (GitHub)"
+tags: [edge-ai, local-ai, mobile, offline, privacy, llm, obtainium]
+---
+
+# PocketPal AI — Lokales LLM auf dem Smartphone
+
+## Quelle
+Screenshot der PocketPal-AI-App-Infoseite, geteilt von Netbits ⚡️ Stachelbanane (@NetLightning) im OME-Topic "Tips & Tricks" (2026-08-23). Die App-Seite wird über **Obtainium** (Open-Source-Android-App-Manager) angezeigt und zieht direkt aus dem GitHub-Repo `a-ghorbani/pocketpal-ai`. Kein Google Play / Apple App Store / F-Droid — Installer direkt aus GitHub-Releases.
+
+## Beschreibung (aus dem Screenshot, neutral)
+
+- **Slogan:** "Your AI. No one else's."
+- **Kernversprechen:** "PocketPal runs large language models directly on your phone. No servers. No internet. No data leaves your device. Ever. This is AI you own — not AI you rent."
+- **Was du bekommst:**
+  - Hunderte Open-Source-Modelle von Hugging Face, direkt aufs Gerät geladen
+  - Komplette Offline-Funktion (Flugmodus)
+  - Null Datenübertragung, Null Telemetrie (App zeigt Nachweis)
+- **Hardware-Anforderungen:**
+  - 6GB+ RAM für kleinere Modelle
+  - 8GB+ RAM für größere/höherwertige Modelle ("the good stuff")
+  - Flagships und neuere Mittelklasse-Geräte der letzten 2–3 Jahre laufen Modelle gut
+  - Ältere/Budget-Geräte fallen raus — das ist echte lokale Inferenz, kein Cloud-Wrapper
+  - Benchmark-Tipp der App: kleines Modell laden und benchmarken, die App zeigt, was das Gerät kann
+
+## Screenshot-Carousel (gezeigte Beispiele)
+
+- Chat-Screenshot mit Modell **Dolphin 3.0 Llama 3.2 1b**
+- Modellauswahl: **SmallThinker-3B-Preview-Q4_0**, **Dolphin3.0-Qwen2.5-3b-Q4_0**, **Dolphin3.0-Llama3.2-1B-Q4_0**, **Dolphin3.0-Llama3.2-1B-Q3_K_M**
+- Feature: **Hugging Face In-App-Integration**
+
+## Verweise
+
+- GitHub-Repo: https://github.com/a-ghorbani/pocketpal-ai
+- Distribution über Obtainium (Open-Source-Android-App-Manager für GitHub-Release-Installs)

raw/xpost/2026-08-22_jack-openrouter-cad-solidworks-benchmark.md

@@ -0,0 +1,32 @@
+---
+type: xpost
+source_url: https://x.com/jack67396128/status/2091213439586988320
+retrieved: 2026-08-22
+author: "@jack67396128"
+is_thread: false
+---
+
+# OpenRouter CAD/SOLIDWORKS-Benchmark: Open-Weighting-Modelle im Langzeit-Test
+
+Der Autor hat in den letzten zwei Tagen ~150 US-Dollar bei OpenRouter ausgegeben, um aktuelle Open-Weighting-Modelle zu testen: **Kimi K3, MiniMax M3, QWEN 3.8 MAX, QWEN 3.8 27B** sowie **DeepSeek V4 Flash Vision Exp**.
+
+## Testaufbau
+
+Die Modelle mussten eine echte, mehrstufige Langzeitaufgabe bewältigen:
+
+1. Maschinenbauzeichnung lesen, Maße und geometrische Strukturen interpretieren
+2. Modellierungsreihenfolge planen und SOLIDWORKS bedienen
+3. Befehlsfehler beheben, Features korrigieren
+4. Rekonstruktion abschließen, Ergebnisse überprüfen
+5. Öffenbare SLDPRT-Datei ausgeben
+
+## Ergebnisse
+
+- Die meisten Modelle bewältigten einen Teil des Prozesses, aber bei **Stabilität bei langwierigen Aufgaben**, **Tool-Einsatz** und **endgültiger geometrischer Genauigkeit** waren die Unterschiede deutlich.
+- **QWEN 3.8 Max** und **QWEN 3.8 27B** beeindruckten am meisten: stabil bei Tool-Bedienung, Aufgaben-Konvergenz und Ergebnis-Vollständigkeit. QWEN 3.8 27B durchläuft den gesamten Modellierungsprozess auch bei Denkstufe „xhigh" reibungslos.
+- **DeepSeek V4 Flash Vision Exp** überraschte: Selbst bei Rechenintensität „low" erfüllt es ~95 % der Modellierungsanforderungen (vom Verständnis der Ansichten über die Auslegung der Maße bis zur CLI-Ausgabemodell-Bearbeitung) — für nur ~0,53 US-Dollar.
+
+## Einordnung
+
+- 95 % ist noch nicht Produktionsreife: die letzten Maße, Features und topologischen Details brauchen noch eine geometrische Abnahme.
+- Die Tatsache, dass eine Mischung aus visuellem Verständnis, langfristiger Planung und Werkzeugbedienung für unter 1 US-Dollar machbar ist, zeigt das Potenzial offener, gewichteter multimodaler Modelle für technische Modellierung und CAD-Automatisierung.

wiki/concepts/llm/openrouter-cad-solidworks-benchmark.md

@@ -0,0 +1,42 @@
+---
+created: 2026-08-22
+updated: 2026-08-22
+sources: [xpost/2026-08-22_jack-openrouter-cad-solidworks-benchmark.md]
+tags: [llm, cad, multimodal, benchmark, open-weights]
+---
+
+# OpenRouter CAD/SOLIDWORKS-Benchmark (2026-08)
+
+Ein Praxis-Benchmark (OpenRouter, ~150 US-Dollar Budget), bei dem aktuelle Open-Weighting-Modelle eine echte mehrstufige CAD-Aufgabe in SOLIDWORKS bewältigen mussten. Zeigt das Potenzial multimodaler LLMs für technische Modellierung und CAD-Automatisierung.
+
+## Getestete Modelle
+
+- **Kimi K3** (siehe [[kimi-k3.md]])
+- **MiniMax M3**
+- **QWEN 3.8 MAX**
+- **QWEN 3.8 27B** (siehe [[qwen3.8-27b-alibaba.md]])
+- **DeepSeek V4 Flash Vision Exp**
+
+## Aufgabenprofil (Langzeitaufgabe)
+
+1. Maschinenbauzeichnung lesen, Maße und geometrische Strukturen interpretieren
+2. Modellierungsreihenfolge planen und SOLIDWORKS bedienen
+3. Befehlsfehler beheben, Features korrigieren
+4. Rekonstruktion abschließen, Ergebnisse überprüfen
+5. Öffenbare SLDPRT-Datei ausgeben
+
+## Ergebnisse
+
+- **Meiste Modelle:** bewältigten Teile des Prozesses; große Unterschiede bei **Stabilität bei langwierigen Aufgaben**, **Tool-Einsatz** und **endgültiger geometrischer Genauigkeit**.
+- **QWEN 3.8 Max + QWEN 3.8 27B:** stabilste Tool-Bedienung, Aufgaben-Konvergenz, Ergebnis-Vollständigkeit. QWEN 3.8 27B durchläuft den gesamten Prozess auch bei Denkstufe „xhigh" reibungslos.
+- **DeepSeek V4 Flash Vision Exp:** Überraschung — bei Rechenintensität „low" ~95 % der Modellierungsanforderungen erfüllt (Ansichten-Verständnis, Maß-Auslegung, CLI-Ausgabemodell-Bearbeitung) für nur ~0,53 US-Dollar.
+
+## Einordnung
+
+- 95 % ≠ Produktionsreife: finale Maße, Features und topologische Details brauchen noch geometrische Abnahme.
+- Eine Mischung aus visuellem Verständnis + langfristiger Planung + Werkzeugbedienung für **unter 1 US-Dollar** zeigt das Potenzial offener, gewichteter multimodaler Modelle für CAD-Automatisierung.
+
+## Relevanz
+
+- Beispiel für die Commoditisierung von multimodalen Agenten-Fähigkeiten zu vernachlässigbaren Kosten (vgl. [[ai-intelligence-commoditization-thesis.md]], [[open-weights-economics.md]], [[chinese-model-cost-routing.md]]).
+- CAD/Tool-Automatisierung als realer Langzeit-Agenten-Anwendungsfall jenseits von Coding-Benchmarks (vgl. [[real-world-coding-showdown.md]]).

wiki/index.md

@@ -2,7 +2,9 @@
 
 *Auto-generated: 2026-07-07*
 
-*Letzte Aktualisierung: 2026-08-21 (121. Update — Mark Klinge: „Wie die Hüter des Geldes auf ganzer Linie versagen“ (The Sovereign Loop, 2026-08-19). Volltext per Web-Fetch ausgelesen (URL: `markklinge.substack.com`; Artikel signiert „The Sovereign Loop“). Raw: `raw/blog/2026-08-21_mark-klinge-huter-des-geldes.md`. Wiki-Updates: `people/mark-klinge.md` (neu), `concepts/finance/sovereign-loop-bitcoin-powerlaw.md` (Update 21.08.: Volltext — Black Wednesday 1992, SNB-Mindestkurs 1.20 CHF/EUR, Japan/Yen-Carry-Trade, Österreichische Schule/Mises/Hayek, Bitcoin-Boden-These ~60k, Halving-Zyklus 2028), Cross-Refs in `concepts/finance/sovereign-loop-antithese.md`, `concepts/finance/gold-zinsdruck-kapitalstruktur.md`, `concepts/finance/schuldenkrise-anleihenmarkt.md` (US-Debt ~40 Bio. Kontext). Identitäts-Hinweis: Artikel signiert „The Sovereign Loop“; bisherige Zuordnung im Wiki: Rüdiger Stelariz/@thesovereignloop (offene Identitätsfrage). Geteilt von Netbits (@NetLightning) in OME Topic „News & Infos“)*
+*Letzte Aktualisierung: 2026-08-22 (122. Update — OpenRouter CAD/SOLIDWORKS-Benchmark (@jack67396128, 2026-08-22). Raw: `raw/xpost/2026-08-22_jack-openrouter-cad-solidworks-benchmark.md`. Wiki-Update: `concepts/llm/openrouter-cad-solidworks-benchmark.md` (neu), Cross-Refs auf `qwen3.8-27b-alibaba.md`, `kimi-k3.md`, `ai-intelligence-commoditization-thesis.md`, `open-weights-economics.md`, `chinese-model-cost-routing.md`. Geteilt von Pit (@PWeber) in OME Topic "News & Infos". Praxis-Benchmark: Open-Weighting-Modelle (Kimi K3, MiniMax M3, QWEN 3.8 Max/27B, DeepSeek V4 Flash Vision Exp) auf mehrstufige SOLIDWORKS-CAD-Aufgabe; DeepSeek V4 Flash Vision Exp ~95 % für ~0,53 $.)*
+
+*Vorheriges Update: 2026-08-21 (121. Update — Mark Klinge: „Wie die Hüter des Geldes auf ganzer Linie versagen“ (The Sovereign Loop, 2026-08-19). Volltext per Web-Fetch ausgelesen (URL: `markklinge.substack.com`; Artikel signiert „The Sovereign Loop“). Raw: `raw/blog/2026-08-21_mark-klinge-huter-des-geldes.md`. Wiki-Updates: `people/mark-klinge.md` (neu), `concepts/finance/sovereign-loop-bitcoin-powerlaw.md` (Update 21.08.: Volltext — Black Wednesday 1992, SNB-Mindestkurs 1.20 CHF/EUR, Japan/Yen-Carry-Trade, Österreichische Schule/Mises/Hayek, Bitcoin-Boden-These ~60k, Halving-Zyklus 2028), Cross-Refs in `concepts/finance/sovereign-loop-antithese.md`, `concepts/finance/gold-zinsdruck-kapitalstruktur.md`, `concepts/finance/schuldenkrise-anleihenmarkt.md` (US-Debt ~40 Bio. Kontext). Identitäts-Hinweis: Artikel signiert „The Sovereign Loop“; bisherige Zuordnung im Wiki: Rüdiger Stelariz/@thesovereignloop (offene Identitätsfrage). Geteilt von Netbits (@NetLightning) in OME Topic „News & Infos“)*
 
 *Vorheriges Update: 2026-08-21 (120. Update — Hermes "Tour"-Feature: interaktive Schritt-für-Schritt-Walkthroughs auf Live-Websites (@HermesWatcher, 2026-08-21). Raw: `raw/xpost/2026-08-21_hermeswatcher-interactive-website-tours.md`. Wiki-Update: `tools/hermes-desktop.md` (neuer Abschnitt "Interaktive Website-Touren"). Hermes generiert im In-App-Browser interaktive Schritt-für-Schritt-Touren direkt auf jeder Live-Website (Beispiel: 7-Schritte-Tour auf CoinMarketCap) — lehrt Navigation statt nur auszuführen. Feature gebaut von @imbabybrooklyn. Geteilt von Kai (@PWeber) in OME Topic "Hermès Agents".)*
 
@@ -441,3 +443,4 @@
 | `raw/blog/2026-08-20_sovereign-loop-antithese-markt-recht.md` | blog | The Sovereign Loop (Rüdiger @thesovereignloop): **Antithese zur eigenen Powerlaw-These** — "Der Markt hat immer und zu jeder Zeit recht, agiere niemals gegen den Markt" (gelehrte Trading-Disziplin-Maxime). Selbstkritik von Rüdiger an seiner eigenen These (Forward 20.08.2026). URL erreichbar (HTTP 200); Volltext nicht per Extractor ausgelesen, Inhalt aus Forward dokumentiert |
 | `raw/blog/2026-08-20_sovereign-loop-markt-gewinnen.md` | blog | The Sovereign Loop (Rüdiger @thesovereignloop): "Wie die Hüter des Geldes auf ganzer Linie versagen" — Substack-Artikel (2026-08-19) + Markt-Update. Stand 20.08.2026 (aus Forward, nicht unabhängig verifiziert): Global Liquidity ~96,4 Bio. USD (neuer Schub), BTC-Ausbruch aus Seitwärtsstruktur, Powerlaw-Support ~63.000 USD gehalten, Powerlaw-Attraktor ~105.000 USD (BTC ~34% darunter), USD/JPY-Stress. Kern-These: Markt kontrolliert Zentralbanken. ⚠️ Exakte Substack-URL nicht verifiziert |
 | `raw/blog/2026-08-21_mark-klinge-huter-des-geldes.md` | blog | Mark Klinge (markklinge.substack.com, Artikel signiert "The Sovereign Loop"): "Wie die Hüter des Geldes auf ganzer Linie versagen" — Volltext per Web-Fetch (2026-08-21). Kern-Argument: Zentralbanken können Geld aus dem Nichts schaffen und Preise lange verzerren, aber nicht die ökonomischen Konsequenzen abschaffen ("am Ende gewinnt der Markt"). Black Wednesday 1992, SNB-Mindestkurs 1.20 CHF/EUR (15.01.2015), Japan/Yen-Carry-Trade als größtes systemisches Risiko (USD/JPY), Österr. Schule (Mises/Hayek, Malinvestment, Nullzinsen/Negativzinsen/QE/YCC/steigende Staatsverschuldung), Bitcoin-Bodenregion ~60k (hält bis heute), Sovereign-Loop-Powerlaw-Modell, Krypto-Winter-Ende Herbst 2026, Halving 2028. Identität zu Rüdiger/@thesovereignloop offen |
+| `raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md` | other | PocketPal AI — Open-Source-App, die LLMs lokal auf dem Smartphone ausführt (GitHub a-ghorbani/pocketpal-ai, Distribution via Obtainium, kein Play Store). 'AI you own, not you rent': offline, keine Datenabflüsse, Null Telemetrie. 6GB+ RAM (8GB+ für größere Modelle), echte lokale Inferenz, kein Cloud-Wrapper. Hugging-Face-In-App-Integration. Geteilt von Netbits in OME-Topic 'Tips & Tricks' |

wiki/log.md

@@ -2,6 +2,13 @@
 
 *Append-only changelog. Start: 2026-06-05*
 
+## 2026-08-22 — OpenRouter CAD/SOLIDWORKS-Benchmark (@jack67396128)
+
+**Type:** ingest | **Scope:** raw/xpost (1 new), wiki/concepts/llm (1 new), wiki/index, wiki/log
+**Source:** X-Post von @jack67396128, 2026-08-22. URL: https://x.com/jack67396128/status/2091213439586988320. Geteilt von Pit (@PWeber) in OME Topic "News & Infos" (#11899).
+**Inhalt:** Praxis-Benchmark (~150 $ OpenRouter-Budget) der Open-Weighting-Modelle Kimi K3, MiniMax M3, QWEN 3.8 Max, QWEN 3.8 27B und DeepSeek V4 Flash Vision Exp auf eine mehrstufige SOLIDWORKS-CAD-Aufgabe (Zeichnung lesen → Modellierungsreihenfolge planen → Tool bedienen → Features korrigieren → SLDPRT ausgeben).
+**Ergebnis:** QWEN 3.8 Max/27B stabilste Tool-Bedienung + Konvergenz; DeepSeek V4 Flash Vision Exp ~95 % der Anforderungen bei Rechenintensität "low" für nur ~0,53 $.
+**Wiki-Update:** `concepts/llm/openrouter-cad-solidworks-benchmark.md` (neu). Cross-Refs auf `qwen3.8-27b-alibaba.md`, `kimi-k3.md`, `ai-intelligence-commoditization-thesis.md`, `open-weights-economics.md`, `chinese-model-cost-routing.md`, `real-world-coding-showdown.md`.
 ## 2026-08-21 — Mark Klinge: „Wie die Hüter des Geldes auf ganzer Linie versagen“ (The Sovereign Loop, Volltext)
 
 **Type:** ingest | **Scope:** raw/blog (1 new), wiki/people (1 new), wiki/concepts/finance (1 updated, 3 cross-ref), wiki/index, wiki/log
@@ -2267,3 +2274,13 @@ Bestehende `post-transformer-llm-architectures.md` bleibt als Vier-Säulen-Über
 - wiki (NEW): `wiki/concepts/hardware/8-dollar-chip-llm-tinyml.md` — Konzept-Seite zu TinyML-Mikrocontroller-Inferenz (~$8-Chip, ESP32-/Pico-Klasse, extreme Quantisierung/Flash-Streaming) als untere Kante der Edge-Inferenz-Skala; Cross-Refs zu Edge-Inferenz, NVIDIA DGX, Cloud-Exit, lokale Coding-KI, Mainzer, Qwen3.8-27B-Quantisierung.
 - index.md: 122. Update, neue Hardware-Konzept-Seite, Raw-Katalog (+1).
 - log: this entry
+
+## 2026-08-23 — PocketPal AI — lokales LLM auf dem Smartphone (Netbits, Topic 27)
+
+**Type:** ingest | **Scope:** raw/other (1 new), wiki/tools (1 new), wiki/index, wiki/log
+**Source:** Screenshot der PocketPal-AI-App-Infoseite, geteilt von Netbits ⚡️ Stachelbanane (@NetLightning) im OME-Topic "Tips & Tricks" (2026-08-23). Distribution über Obtainium, GitHub-Repo a-ghorbani/pocketpal-ai.
+
+- raw (NEW): `raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md` — neutrale Rohdaten aus dem Screenshot (Slogan "Your AI. No one else's.", Offline-Privacy, 6-8GB RAM-Anforderungen, Hugging-Face-Integration, gezeigte Modelle).
+- wiki (NEW): `wiki/tools/pocketpal-ai.md` — Tool-Seite zu PocketPal als mobile Kante der Edge-Inferenz; "AI you own, not rent"-Narrativ; Cross-Refs zu Edge-Inferenz, TinyML, lokaler Coding-KI.
+- index.md: 123. Update, neue Tools-Seite, Raw-Katalog (+1).
+- log: this entry

wiki/tools/pocketpal-ai.md

@@ -0,0 +1,54 @@
+---
+created: 2026-08-23
+updated: 2026-08-23
+sources:
+  - raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md
+tags: [tool, mobile, local-ai, edge-ai, offline, privacy, llm, smartphone, obtainium, huggingface]
+---
+
+# PocketPal AI — Lokales LLM auf dem Smartphone
+
+> **TL;DR:** PocketPal ist ein Open-Source-App, die LLMs direkt auf dem Smartphone ausführt — ohne Server, ohne Internet, ohne dass Daten das Gerät verlassen. "This is AI you own — not AI you rent." Distribution direkt über GitHub-Releases via Obtainium (kein Play Store). Braucht 6GB+ RAM (8GB+ für größere Modelle).
+
+## Quelle & Distribution
+
+| Aspekt | Detail |
+|--------|--------|
+| Repo | [a-ghorbani/pocketpal-ai](https://github.com/a-ghorbani/pocketpal-ai) |
+| Distribution | [Obtainium](https://github.com/ImranR98/Obtainium) (Open-Source-Android-App-Manager für GitHub-Release-Installs) — kein Google Play / Apple / F-Droid |
+| Geteilt von | Netbits ⚡️ Stachelbanane (@NetLightning) in OME-Topic "Tips & Tricks" (2026-08-23) |
+| Inhaltstyp | Screenshot der App-Infoseite |
+
+## Kernversprechen
+
+- **Slogan:** "Your AI. No one else's."
+- LLMs laufen direkt auf dem Phone: keine Server, kein Internet, keine Datenabflüsse
+- **"AI you own — not AI you rent"** — Eigentum statt Miete, das Privacy-/Souveränitäts-Narrativ der lokalen KI
+
+## Was du bekommst
+
+- Hunderte Open-Source-Modelle von [Hugging Face](https://huggingface.co), direkt aufs Gerät geladen
+- Komplette Offline-Funktion (Flugmodus)
+- Null Datenübertragung, Null Telemetrie (in-App-Nachweis)
+
+## Hardware-Anforderungen
+
+- **6GB+ RAM** für kleinere Modelle
+- **8GB+ RAM** für größere/höherwertige Modelle ("the good stuff")
+- Flagships + neuere Mittelklasse der letzten 2–3 Jahre laufen Modelle gut
+- Ältere/Budget-Geräte fallen raus — **echte lokale Inferenz, kein Cloud-Wrapper**
+- In-App-Benchmark-Tipp: kleines Modell laden + benchmarken, App zeigt die Geräte-Grenze
+
+## Gezeigte Modelle (Screenshot-Carousel)
+
+- Dolphin 3.0 Llama 3.2 1b (Chat)
+- SmallThinker-3B-Preview-Q4_0
+- Dolphin3.0-Qwen2.5-3b-Q4_0
+- Dolphin3.0-Llama3.2-1B-Q4_0
+- Dolphin3.0-Llama3.2-1B-Q3_K_M
+
+Alle via **Hugging Face In-App-Integration** geladen.
+
+## Einordnung
+
+PocketPal gehört zur **unteren/mobilen Kante der Edge-Inferenz-Skala** (siehe [[../concepts/hardware/edge-inference-als-cloud-alternative.md]] und [[../concepts/hardware/8-dollar-chip-llm-tinyml.md]]): Es bringt das "AI you own"-Prinzip aufs Smartphone — der logische Gegenpol zu Cloud-API-Mietmodellen. Verwandt mit der lokalen-[[../concepts/hardware/lokale-ki-coding.md]]-Bewegung, nur für mobile Hardware. Die Hardware-Anforderungen (6-8GB RAM) zeigen: mobiles lokales Inferenz ist heute praktikabel, aber braucht Flagship-Geräte — kein Cloud-Wrapper, echte Inferenz.