53 lines
4.3 KiB
Markdown
53 lines
4.3 KiB
Markdown
|
---
|
|||
|
|
type: other
|
|||
|
|
source_url: https://t.me/c/3839640481/13873
|
|||
|
|
retrieved: 2026-09-05
|
|||
|
|
title: "PLUR1BUS — Modellwahl: Embedding (E5 vs. Jina v3) und Reranking (Jina v2 vs. BGE v2-m3)"
|
|||
|
|
author: "Mr. Cy (Cyb3rblade)"
|
|||
|
|
tags: [plur1bus, openclaw, embedding, reranking, jina, bge, e5, onnx, model-choice]
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
# PLUR1BUS — Modellwahl: Embedding und Reranking
|
|||
|
|
|
|||
|
|
## Quellenkontext
|
|||
|
|
|
|||
|
|
Mr. Cy (@Cyb3rblade) veröffentlichte am 05.09.2026 im OME-Topic „News & Infos“ eine technische Übersicht zur Modellwahl in PLUR1BUS: schlüssellose Fallback-Modelle für Embedding und Reranking, empfohlene stärkere Modelle, Wechsel-Mechanik und Benchmark-Vergleich. Ein aktualisierter Installer wird laut Beitrag nachgeliefert.
|
|||
|
|
|
|||
|
|
## 1. Embedding
|
|||
|
|
|
|||
|
|
- **Fallback: multilingual-e5-small** — fest 384 Dimensionen, ohne Schlüssel, MIT-Lizenz. Vektoren liegen in einem engen Kegel: inhaltlich unverwandte Texte erreichen schon Kosinus-Ähnlichkeit um 0,84, im Recall-Score rund 0,86. Treffer und Rauschen liegen so dicht beieinander, dass weder Rangfolge noch Schwelle sauber trennen. Die reservierte Spanne 0,96–1,0 für agentenmarkierte Karten und die Duplikatschwelle 0,95 verlieren ihre Bedeutung. Gemessen im Kompatibilitätslabor mit E5 und ohne Reranker.
|
|||
|
|
- **Empfohlen: jina-embeddings-v3** — mehrsprachig, 32 bis 1024 Dimensionen nach Matryoshka, Lizenz CC BY-NC 4.0 mit ausdrücklicher Zustimmung. Spreizt die Ähnlichkeiten deutlich weiter; Rangfolge und Schwellen funktionieren. Der Installer schlägt Jina vor und führt E5 nur als kleine Notlösung.
|
|||
|
|
- **Wechsel:** im PLUR1BUS-Reiter (controlUi.writeActions: „all“). Der Knopf wählt das Zielmodell, die Modellvorbereitung lädt und verifiziert es, danach läuft die Re-Embedding-Migration aus derselben Seite mit Probelauf, Kopie und getrenntem Umschalten. Jede Karte wird neu eingebettet — kostet Zeit und Plattenplatz. Die alte Generation bleibt für einen Rollback erhalten.
|
|||
|
|
|
|||
|
|
## 2. Reranking
|
|||
|
|
|
|||
|
|
Der Reranker sichtet die 40 Kandidaten der Vektorsuche und räumt das ANN-Rauschen weg. Lokal läuft jina-reranker-v2-base-multilingual, bei einem Jina-Fehler kontrolliert bge-reranker-v2-m3, beide als quantisierte ONNX-Modelle. Der Wechsel ist ein Klick im Reiter, ohne Datenwanderung.
|
|||
|
|
|
|||
|
|
| | Jina Reranker v2 | BGE Reranker v2-m3 |
|
|||
|
|
|---|---|---|
|
|||
|
|
| Parameter, Schichten | 278M, 12 | 568M, 24 |
|
|||
|
|
| Kontext je Anfrage+Dokument | 1.024 Token | 8.192 Token |
|
|||
|
|
| ONNX-Artefakt (quantisiert) | 280 MB | 570 MB |
|
|||
|
|
| Lizenz | CC BY-NC 4.0 | Apache 2.0 |
|
|||
|
|
| BEIR nDCG@10 (Englisch) | 53,17 / 57,06 | 53,65 / 56,51 |
|
|||
|
|
| MKQA (26 Sprachen) | 54,83 / 67,90 | 54,17 / 67,88 |
|
|||
|
|
| MIRACL nDCG@10 (18 Sprachen, mit Deutsch) | 63,65 | 69,32 |
|
|||
|
|
| MLDR recall@10 (lange Dokumente) | 68,95 | 59,73 |
|
|||
|
|
| CodeSearchNet MRR@10 / CoIR nDCG@10 | 71,36 / 56,14 | 62,86 / 35,97 |
|
|||
|
|
| ToolBench recall@3 | 77,75 | 78,46 |
|
|||
|
|
|
|||
|
|
Hinweis des Beitrags: Bei zwei Werten stammt der erste aus der Jina-Modellkarte, der zweite aus dem Paper zu jina-reranker-v3. Beide Auswertungen nutzen andere Kandidatenmengen — nur innerhalb eines Wertepaars vergleichen.
|
|||
|
|
|
|||
|
|
- Gleichstand auf Englisch (BEIR) und über 26 Sprachen (MKQA).
|
|||
|
|
- BGE vorn auf MIRACL (breiter mehrsprachiger Retrieval-Benchmark) um knapp sechs Punkte, knapp bei der Werkzeugsuche.
|
|||
|
|
- Jina vorn bei langen Dokumenten und deutlich bei Code. Mit halber Tiefe rerankt Jina auf CPU etwa doppelt so schnell; Jina nennt bis zu 15-fachen Durchsatz gegenüber BGE (Flash Attention auf GPU).
|
|||
|
|
|
|||
|
|
## 3. Empfehlung des Beitrags
|
|||
|
|
|
|||
|
|
- **Embedding: Jina v3.** Der Sprung gegenüber E5 ist gemessen; eine andere schlüssellose Alternative gibt es in PLUR1BUS nicht.
|
|||
|
|
- **Reranking: BGE v2-m3.** Für Memory-Karten (kurze deutsche oder englische Zusammenfassungen) zählt die mehrsprachige Rangqualität — dort liegt BGE vorn oder gleichauf. Lange Dokumente und Code (Jina-Stärken) kommen in Karten nicht vor. Dazu Apache-Lizenz ohne Zustimmungspflicht. Preis: doppelte Rechenzeit je Anfrage; bei 40 kurzen Kandidaten auf üblichem Server Bruchteile einer Sekunde. Wer auf schwacher CPU an das Reranker-Zeitlimit von 5 Sekunden stößt, nimmt Jina — der Qualitätsverlust ist klein.
|
|||
|
|
|
|||
|
|
## Abgrenzung
|
|||
|
|
|
|||
|
|
Technische Übersicht des Maintainers mit eigenen Messungen (E5-Kompatibilitätslabor) und Hersteller-/Paper-Benchmarks. Die Benchmark-Zahlen sind nicht unabhängig reproduziert; die Empfehlung ist die des Maintainers.
|