knowledge-base/wiki/tools/pocketpal-ai.md

2.7 KiB
Raw Blame History

created updated sources tags
2026-08-23 2026-08-23
raw/other/2026-08-23_pocketpal-ai-lokales-llm-smartphone.md
tool
mobile
local-ai
edge-ai
offline
privacy
llm
smartphone
obtainium
huggingface

PocketPal AI — Lokales LLM auf dem Smartphone

TL;DR: PocketPal ist ein Open-Source-App, die LLMs direkt auf dem Smartphone ausführt — ohne Server, ohne Internet, ohne dass Daten das Gerät verlassen. "This is AI you own — not AI you rent." Distribution direkt über GitHub-Releases via Obtainium (kein Play Store). Braucht 6GB+ RAM (8GB+ für größere Modelle).

Quelle & Distribution

Aspekt Detail
Repo a-ghorbani/pocketpal-ai
Distribution Obtainium (Open-Source-Android-App-Manager für GitHub-Release-Installs) — kein Google Play / Apple / F-Droid
Geteilt von Netbits Stachelbanane (@NetLightning) in OME-Topic "Tips & Tricks" (2026-08-23)
Inhaltstyp Screenshot der App-Infoseite

Kernversprechen

  • Slogan: "Your AI. No one else's."
  • LLMs laufen direkt auf dem Phone: keine Server, kein Internet, keine Datenabflüsse
  • "AI you own — not AI you rent" — Eigentum statt Miete, das Privacy-/Souveränitäts-Narrativ der lokalen KI

Was du bekommst

  • Hunderte Open-Source-Modelle von Hugging Face, direkt aufs Gerät geladen
  • Komplette Offline-Funktion (Flugmodus)
  • Null Datenübertragung, Null Telemetrie (in-App-Nachweis)

Hardware-Anforderungen

  • 6GB+ RAM für kleinere Modelle
  • 8GB+ RAM für größere/höherwertige Modelle ("the good stuff")
  • Flagships + neuere Mittelklasse der letzten 23 Jahre laufen Modelle gut
  • Ältere/Budget-Geräte fallen raus — echte lokale Inferenz, kein Cloud-Wrapper
  • In-App-Benchmark-Tipp: kleines Modell laden + benchmarken, App zeigt die Geräte-Grenze
  • Dolphin 3.0 Llama 3.2 1b (Chat)
  • SmallThinker-3B-Preview-Q4_0
  • Dolphin3.0-Qwen2.5-3b-Q4_0
  • Dolphin3.0-Llama3.2-1B-Q4_0
  • Dolphin3.0-Llama3.2-1B-Q3_K_M

Alle via Hugging Face In-App-Integration geladen.

Einordnung

PocketPal gehört zur unteren/mobilen Kante der Edge-Inferenz-Skala (siehe ../concepts/hardware/edge-inference-als-cloud-alternative.md und ../concepts/hardware/8-dollar-chip-llm-tinyml.md): Es bringt das "AI you own"-Prinzip aufs Smartphone — der logische Gegenpol zu Cloud-API-Mietmodellen. Verwandt mit der lokalen-../concepts/hardware/lokale-ki-coding.md-Bewegung, nur für mobile Hardware. Die Hardware-Anforderungen (6-8GB RAM) zeigen: mobiles lokales Inferenz ist heute praktikabel, aber braucht Flagship-Geräte — kein Cloud-Wrapper, echte Inferenz.