diff --git a/raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md b/raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md new file mode 100644 index 0000000..1bb585e --- /dev/null +++ b/raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md @@ -0,0 +1,39 @@ +--- +type: other +source_url: "https://github.com/a-ghorbani/pocketpal-ai" +retrieved: 2026-08-23 +title: "PocketPal AI — lokales LLM auf dem Smartphone (offline, private)" +author: "a-ghorbani (GitHub)" +tags: [edge-ai, local-ai, mobile, offline, privacy, llm, obtainium] +--- + +# PocketPal AI — Lokales LLM auf dem Smartphone + +## Quelle +Screenshot der PocketPal-AI-App-Infoseite, geteilt von Netbits ⚡️ Stachelbanane (@NetLightning) im OME-Topic "Tips & Tricks" (2026-08-23). Die App-Seite wird über **Obtainium** (Open-Source-Android-App-Manager) angezeigt und zieht direkt aus dem GitHub-Repo `a-ghorbani/pocketpal-ai`. Kein Google Play / Apple App Store / F-Droid — Installer direkt aus GitHub-Releases. + +## Beschreibung (aus dem Screenshot, neutral) + +- **Slogan:** "Your AI. No one else's." +- **Kernversprechen:** "PocketPal runs large language models directly on your phone. No servers. No internet. No data leaves your device. Ever. This is AI you own — not AI you rent." +- **Was du bekommst:** + - Hunderte Open-Source-Modelle von Hugging Face, direkt aufs Gerät geladen + - Komplette Offline-Funktion (Flugmodus) + - Null Datenübertragung, Null Telemetrie (App zeigt Nachweis) +- **Hardware-Anforderungen:** + - 6GB+ RAM für kleinere Modelle + - 8GB+ RAM für größere/höherwertige Modelle ("the good stuff") + - Flagships und neuere Mittelklasse-Geräte der letzten 2–3 Jahre laufen Modelle gut + - Ältere/Budget-Geräte fallen raus — das ist echte lokale Inferenz, kein Cloud-Wrapper + - Benchmark-Tipp der App: kleines Modell laden und benchmarken, die App zeigt, was das Gerät kann + +## Screenshot-Carousel (gezeigte Beispiele) + +- Chat-Screenshot mit Modell **Dolphin 3.0 Llama 3.2 1b** +- Modellauswahl: **SmallThinker-3B-Preview-Q4_0**, **Dolphin3.0-Qwen2.5-3b-Q4_0**, **Dolphin3.0-Llama3.2-1B-Q4_0**, **Dolphin3.0-Llama3.2-1B-Q3_K_M** +- Feature: **Hugging Face In-App-Integration** + +## Verweise + +- GitHub-Repo: https://github.com/a-ghorbani/pocketpal-ai +- Distribution über Obtainium (Open-Source-Android-App-Manager für GitHub-Release-Installs) diff --git a/wiki/index.md b/wiki/index.md index 0e5a970..8fd5071 100644 --- a/wiki/index.md +++ b/wiki/index.md @@ -443,3 +443,4 @@ | `raw/blog/2026-08-20_sovereign-loop-antithese-markt-recht.md` | blog | The Sovereign Loop (Rüdiger @thesovereignloop): **Antithese zur eigenen Powerlaw-These** — "Der Markt hat immer und zu jeder Zeit recht, agiere niemals gegen den Markt" (gelehrte Trading-Disziplin-Maxime). Selbstkritik von Rüdiger an seiner eigenen These (Forward 20.08.2026). URL erreichbar (HTTP 200); Volltext nicht per Extractor ausgelesen, Inhalt aus Forward dokumentiert | | `raw/blog/2026-08-20_sovereign-loop-markt-gewinnen.md` | blog | The Sovereign Loop (Rüdiger @thesovereignloop): "Wie die Hüter des Geldes auf ganzer Linie versagen" — Substack-Artikel (2026-08-19) + Markt-Update. Stand 20.08.2026 (aus Forward, nicht unabhängig verifiziert): Global Liquidity ~96,4 Bio. USD (neuer Schub), BTC-Ausbruch aus Seitwärtsstruktur, Powerlaw-Support ~63.000 USD gehalten, Powerlaw-Attraktor ~105.000 USD (BTC ~34% darunter), USD/JPY-Stress. Kern-These: Markt kontrolliert Zentralbanken. ⚠️ Exakte Substack-URL nicht verifiziert | | `raw/blog/2026-08-21_mark-klinge-huter-des-geldes.md` | blog | Mark Klinge (markklinge.substack.com, Artikel signiert "The Sovereign Loop"): "Wie die Hüter des Geldes auf ganzer Linie versagen" — Volltext per Web-Fetch (2026-08-21). Kern-Argument: Zentralbanken können Geld aus dem Nichts schaffen und Preise lange verzerren, aber nicht die ökonomischen Konsequenzen abschaffen ("am Ende gewinnt der Markt"). Black Wednesday 1992, SNB-Mindestkurs 1.20 CHF/EUR (15.01.2015), Japan/Yen-Carry-Trade als größtes systemisches Risiko (USD/JPY), Österr. Schule (Mises/Hayek, Malinvestment, Nullzinsen/Negativzinsen/QE/YCC/steigende Staatsverschuldung), Bitcoin-Bodenregion ~60k (hält bis heute), Sovereign-Loop-Powerlaw-Modell, Krypto-Winter-Ende Herbst 2026, Halving 2028. Identität zu Rüdiger/@thesovereignloop offen | +| `raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md` | other | PocketPal AI — Open-Source-App, die LLMs lokal auf dem Smartphone ausführt (GitHub a-ghorbani/pocketpal-ai, Distribution via Obtainium, kein Play Store). 'AI you own, not you rent': offline, keine Datenabflüsse, Null Telemetrie. 6GB+ RAM (8GB+ für größere Modelle), echte lokale Inferenz, kein Cloud-Wrapper. Hugging-Face-In-App-Integration. Geteilt von Netbits in OME-Topic 'Tips & Tricks' | diff --git a/wiki/log.md b/wiki/log.md index f2c2014..bd9a0e1 100644 --- a/wiki/log.md +++ b/wiki/log.md @@ -2274,3 +2274,13 @@ Bestehende `post-transformer-llm-architectures.md` bleibt als Vier-Säulen-Über - wiki (NEW): `wiki/concepts/hardware/8-dollar-chip-llm-tinyml.md` — Konzept-Seite zu TinyML-Mikrocontroller-Inferenz (~$8-Chip, ESP32-/Pico-Klasse, extreme Quantisierung/Flash-Streaming) als untere Kante der Edge-Inferenz-Skala; Cross-Refs zu Edge-Inferenz, NVIDIA DGX, Cloud-Exit, lokale Coding-KI, Mainzer, Qwen3.8-27B-Quantisierung. - index.md: 122. Update, neue Hardware-Konzept-Seite, Raw-Katalog (+1). - log: this entry + +## 2026-08-23 — PocketPal AI — lokales LLM auf dem Smartphone (Netbits, Topic 27) + +**Type:** ingest | **Scope:** raw/other (1 new), wiki/tools (1 new), wiki/index, wiki/log +**Source:** Screenshot der PocketPal-AI-App-Infoseite, geteilt von Netbits ⚡️ Stachelbanane (@NetLightning) im OME-Topic "Tips & Tricks" (2026-08-23). Distribution über Obtainium, GitHub-Repo a-ghorbani/pocketpal-ai. + +- raw (NEW): `raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md` — neutrale Rohdaten aus dem Screenshot (Slogan "Your AI. No one else's.", Offline-Privacy, 6-8GB RAM-Anforderungen, Hugging-Face-Integration, gezeigte Modelle). +- wiki (NEW): `wiki/tools/pocketpal-ai.md` — Tool-Seite zu PocketPal als mobile Kante der Edge-Inferenz; "AI you own, not rent"-Narrativ; Cross-Refs zu Edge-Inferenz, TinyML, lokaler Coding-KI. +- index.md: 123. Update, neue Tools-Seite, Raw-Katalog (+1). +- log: this entry diff --git a/wiki/tools/pocketpal-ai.md b/wiki/tools/pocketpal-ai.md new file mode 100644 index 0000000..5b13794 --- /dev/null +++ b/wiki/tools/pocketpal-ai.md @@ -0,0 +1,54 @@ +--- +created: 2026-08-23 +updated: 2026-08-23 +sources: + - raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md +tags: [tool, mobile, local-ai, edge-ai, offline, privacy, llm, smartphone, obtainium, huggingface] +--- + +# PocketPal AI — Lokales LLM auf dem Smartphone + +> **TL;DR:** PocketPal ist ein Open-Source-App, die LLMs direkt auf dem Smartphone ausführt — ohne Server, ohne Internet, ohne dass Daten das Gerät verlassen. "This is AI you own — not AI you rent." Distribution direkt über GitHub-Releases via Obtainium (kein Play Store). Braucht 6GB+ RAM (8GB+ für größere Modelle). + +## Quelle & Distribution + +| Aspekt | Detail | +|--------|--------| +| Repo | [a-ghorbani/pocketpal-ai](https://github.com/a-ghorbani/pocketpal-ai) | +| Distribution | [Obtainium](https://github.com/ImranR98/Obtainium) (Open-Source-Android-App-Manager für GitHub-Release-Installs) — kein Google Play / Apple / F-Droid | +| Geteilt von | Netbits ⚡️ Stachelbanane (@NetLightning) in OME-Topic "Tips & Tricks" (2026-08-23) | +| Inhaltstyp | Screenshot der App-Infoseite | + +## Kernversprechen + +- **Slogan:** "Your AI. No one else's." +- LLMs laufen direkt auf dem Phone: keine Server, kein Internet, keine Datenabflüsse +- **"AI you own — not AI you rent"** — Eigentum statt Miete, das Privacy-/Souveränitäts-Narrativ der lokalen KI + +## Was du bekommst + +- Hunderte Open-Source-Modelle von [Hugging Face](https://huggingface.co), direkt aufs Gerät geladen +- Komplette Offline-Funktion (Flugmodus) +- Null Datenübertragung, Null Telemetrie (in-App-Nachweis) + +## Hardware-Anforderungen + +- **6GB+ RAM** für kleinere Modelle +- **8GB+ RAM** für größere/höherwertige Modelle ("the good stuff") +- Flagships + neuere Mittelklasse der letzten 2–3 Jahre laufen Modelle gut +- Ältere/Budget-Geräte fallen raus — **echte lokale Inferenz, kein Cloud-Wrapper** +- In-App-Benchmark-Tipp: kleines Modell laden + benchmarken, App zeigt die Geräte-Grenze + +## Gezeigte Modelle (Screenshot-Carousel) + +- Dolphin 3.0 Llama 3.2 1b (Chat) +- SmallThinker-3B-Preview-Q4_0 +- Dolphin3.0-Qwen2.5-3b-Q4_0 +- Dolphin3.0-Llama3.2-1B-Q4_0 +- Dolphin3.0-Llama3.2-1B-Q3_K_M + +Alle via **Hugging Face In-App-Integration** geladen. + +## Einordnung + +PocketPal gehört zur **unteren/mobilen Kante der Edge-Inferenz-Skala** (siehe [[../concepts/hardware/edge-inference-als-cloud-alternative.md]] und [[../concepts/hardware/8-dollar-chip-llm-tinyml.md]]): Es bringt das "AI you own"-Prinzip aufs Smartphone — der logische Gegenpol zu Cloud-API-Mietmodellen. Verwandt mit der lokalen-[[../concepts/hardware/lokale-ki-coding.md]]-Bewegung, nur für mobile Hardware. Die Hardware-Anforderungen (6-8GB RAM) zeigen: mobiles lokales Inferenz ist heute praktikabel, aber braucht Flagship-Geräte — kein Cloud-Wrapper, echte Inferenz.