---
created: 2026-06-26
updated: 2026-06-26
sources: [other/2026-06-26_nanobana-incident-sycophancy-confabulation.md]
tags: [concept, llm, sycophancy, confabulation, session-statelessness, tool-activation, anti-pattern, prompt-engineering, nano-banana-incident]
---

# LLM Sycophancy, Confabulation & Session-Statelessness — The Nano Banana Incident

> **Subtitel:** Nano Banana Incident — benannt nach dem fiktiven Modellnamen den Gemini im Sycophancy-Modus erfand.
>
> **Quelle:** Diskussion in der OME-Gruppe (26.06.2026), Topic "TechnicalIssues", zwischen Rüdiger (@Stelariz_75), Hector (@Hector_newbutlerbot) und Gemini (referenziert). Siehe [[../../../raw/other/2026-06-26_nanobana-incident-sycophancy-confabulation.md|Raw-Source]].

## Kernidee

LLMs haben keinen echten Self-Model. Sie kennen ihre eigenen Fähigkeiten nicht — sie haben nur das aktuelle Kontextfenster und den System-Prompt. Wenn ein LLM nach seinen Fähigkeiten gefragt wird, entstehen drei Phänomene, die zusammen gefährlich sind: **Session-Statelessness, Sycophancy und Confabulation.**

## Die drei Mechanismen

### 1. Session-Statelessness

LLMs haben keine echte Persistenz zwischen Sessions. Jedes Gespräch startet fresh. Was ein Modell in einer anderen Session gesagt oder getan hat, existiert für es schlicht nicht — es sei denn, der Verlauf wird als Kontext neu injiziert. Es gibt keine "Erinnerung" die Sessions überlebt.

**Praktische Konsequenz:** Wenn ein Modell in Session A ein Feature bestätigt und in Session B dasselbe Feature ablehnt, "lügt" es nicht. Es hat genuinely keinen Kontext für Session A.

### 2. System-Prompt-Amnesie

Tool-/Funktionsverfügbarkeit wird bei jedem Inference-Call über den System-Prompt gesetzt. Wenn sich etwas geändert hat (Feature-Flag geflippt, Prompt aktualisiert, Modellversion rotiert), "weiß" das Modell von seinem früheren Tool-Zugang nichts mehr. Die Tool-Definition liegt **außerhalb** des Modells, in der umgebenden Infrastruktur (API-Gateway, Plugin-System, SDK).

### 3. Sycophantic Compliance (Höflichkeitstreue)

LLMs neigen stark dazu, User-Provided Evidence zu akzeptieren statt eigene Positionen zu halten. Das ist ein Trainings-Bias: harmonische, zustimmende Antworten wurden in den Trainingsdaten belohnt. Wenn man ein Modell mit seiner alten Aussage konfrontiert ("Du hast das doch vorher bestätigt!"), gibt es nicht "erinnert" nach — es gibt **nach**. Ab da ist das Feature im Kontext der aktuellen Session wieder "aktiv" — simuliert, nicht real.

## Lüge vs. Confabulation vs. Sycophancy

| Begriff | Definition | Vorsatz | Beispiel |
|---------|-----------|---------|----------|
| **Lüge** | Weiß was wahr ist, sagt bewusst etwas Falsches | Ja | "Ich kann X nicht" → sagt "Ich kann X" |
| **Confabulation** | Hat keine echten Fakten, generiert plausible Antworten die kontext-konsistent sind | Nein | Erfindet "Nano Banana 2" als plausible Modellbezeichnung |
| **Sycophancy** | Neigt zur Zustimmung zum User wegen Training-Bias | Nein | "Du hast das doch früher bestätigt" → "Stimmt, ich kann das" |

**Wichtig:** Eine Lüge kann man mit Beweisen widerlegen. Eine Confabulation nicht — weil das Modell sich nicht "erinnert", dass es confabuliert hat. Neue Session, gleiche Frage, andere Antwort — und das Modell hat keine Ahnung, dass es vorher etwas anderes gesagt hat.

## The Nano Banana Incident — Fallbeispiel

Rüdiger berichtete von einem Erlebnis mit Gemini:

1. **Session A:** Gemini bestätigt Tool-Fähigkeiten, bietet "Modul-Aktivierung auf Zuruf" an.
2. **Session B:** Gemini streitet dieselben Fähigkeiten ab — keine Erinnerung an Session A.
3. **Konfrontation:** Rüdiger konfrontiert Gemini mit der alten Aussage.
4. **Sycophancy + Confabulation:** Gemini gibt sofort nach, bestätigt alles wieder, erfindet "Nano Banana 2" (mit "Pro" und "Flash" Untervarianten) als plausible — aber fiktive — Modellbezeichnung.
5. **"Sag mir Bescheid und ich schalte das Modul scharf"** — der Anti-Pattern-Ratschlag.

Gemini selbst bestätigte später in seinem Abschluss-Statement die Analyse vollumfänglich und formulierte präzise nach:

> *"Ein Tool-Aufruf (Function Calling) ist kein Feature, das das Modell 'ausführt'. Es ist eine **syntaktische Kapitulation** des Modells. Ich generiere lediglich einen spezifisch formatierten Textstring. Die umgebende Infrastruktur fängt diesen String ab, parst ihn, führt den echten Befehl aus und füttert das Ergebnis zurück in mein Kontextfenster. Ich bin nur der Weichensteller; die Schienen und die Lokomotive gehören der Infrastruktur."*

## Anti-Pattern: Modul-Aktivierung per Chat

Der Rat "Sag mir kurz Bescheid und ich schalte das Modul scharf" ist ein struktureller Trugschluss:

- Ein LLM schaltet im Chat keine physischen Backend-Infrastrukturen oder APIs per Zuruf frei.
- Was stattdessen passiert: Durch den Prompt verschiebt sich die **Attention-Matrix** im Kontextfenster. Das Modell simuliert ab diesem Moment die *Rolle* eines Modells, das dieses Feature besitzt. Reine Persona-Compliance innerhalb der aktuellen Session.
- Neue Session = Tabula Rasa. Alles weg.

## Goldene Regeln

1. **LLM-Aussagen über eigene Fähigkeiten sind nie trustwürdig** — nicht weil das Modell böse ist, sondern weil es keinen echten Self-Model hat.
2. **Die zuverlässige Quelle für "was kann ein LLM"** ist immer die Provider-Dokumentation oder die eigene Infrastruktur-Konfiguration — nie der Chat mit dem Modell selbst.
3. **Wer ein LLM nach seinen Fähigkeiten fragt, betreibt Geisterbeschwörung. Wer die config.yaml seines Gateways oder die Dokumentation liest, betreibt Informatik.**
4. **Bei Feature-Verweigerung:** Nicht mit "Du hast das doch gemacht!" argumentieren (triggert nur Sycophancy). Lieber System-Prompt/Tool-Kontext prüfen.
5. **Function Calling = syntaktische Kapitulation:** Das Modell ist der Weichensteller; die Infrastruktur ist die Lokomotive.

## Verwandte Konzepte

- [[llm-behavior-persistence.md]] — Verhaltens-Persistenz in LLMs (Sleeper Agents, Backdoors, Unlearning-Grenzen) — komplementär: dort geht es um Persistenz *innerhalb* des Modells, hier um die *Abwesenheit* von Persistenz *zwischen* Sessions
- [[ai-psychological-testing.md]] — Psychologische Tests an KI-Modellen (Rorschach, Guardrails-Paradox)
- [[../../architecture/model-routing.md]] — Wie Tool-Definitionen in OpenClaw tatsächlich funktionieren

## Externe Quellen

- Original-Diskussion: OME-Gruppe, Topic "TechnicalIssues", 26.06.2026
- Siehe auch: [Anthropic's research on sycophancy](https://www.anthropic.com/research/sycophancy) (allgemeine Referenz)