diff --git a/raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md b/raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md new file mode 100644 index 0000000..2c27d93 --- /dev/null +++ b/raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md @@ -0,0 +1,90 @@ +--- +type: youtube +source_url: https://www.youtube.com/watch?v=6iMiCJHxTww +retrieved: 2026-09-19 +channel: "Dr Brian Keating" +has_transcript: false +title: "Princeton Cognitive Scientist Says AI Researchers Are Wrong" +author: "Dr Brian Keating (youtube.com/@DrBrianKeating)" +tags: [youtube, kognitionswissenschaft, grundlagen-kritik, skepsis, sycophancy, geschichte-der-ki] +--- + +# Dr Brian Keating — „Princeton Cognitive Scientist Says AI Researchers Are Wrong" + +## Quellenkontext + +Podcast-/Interview-Video des Kanals **Dr Brian Keating** („Into the Impossible"), Gast ist **Tom Griffiths** (Thomas L. Griffiths), Professor für Psychologie und Informatik an der Princeton University. In der OME-Gruppe zirkulierte das Video über den Kurzlink `https://tinyurl.com/2b7rnxmh`, der auf dieses Video führt; das deutsche Audio-Briefing „Warum KI völlig anders denkt als wir" (22:52) nennt das Video in seinem eigenen Kopf als Originalquelle. + +**Kein Transkript verfügbar.** Weder die englische noch die deutsche Watch-Seite enthält `captionTracks` (Abruf 19.09.2026, je ~1,6 MB HTML); es existiert also keine Untertitel-/Transkriptspur zum Auswerten. Ein Transkript wird in der Beschreibung nur als Bonusangebot des Kanals verlinkt (`briankeating.com/yt`). Alle Angaben unten stammen aus oembed-Metadaten und der Videobeschreibung — **nicht** aus dem Videoinhalt. + +## Metadaten + +- **Titel:** „Princeton Cognitive Scientist Says AI Researchers Are Wrong" +- **Kanal:** Dr Brian Keating (`@DrBrianKeating`), Autor-URL `https://www.youtube.com/@DrBrianKeating` +- **Video-ID:** `6iMiCJHxTww` +- **Veröffentlicht:** 29.04.2026 (publishDate der Watch-Seite; Player-Detail „4 months ago" bei Abruf am 19.09.2026) +- **Aufrufe zum Abruf:** 198.871 (19.09.2026) +- **Likes zum Abruf:** 3.337 (Factoid der Watch-Seite) +- **Dauer:** im abgerufenen Seiten-JSON nicht ausgewiesen (kein `lengthSeconds`) — keine Zahl im Wiki +- **Kurzlink:** `https://tinyurl.com/2b7rnxmh` (HTTP 302 → `youtube.com/watch?v=6iMiCJHxTww`; Weiterleitung am 19.09.2026 geprüft) +- **Verifikation:** YouTube-oEmbed (`https://www.youtube.com/oembed?url=...`) bestätigt Titel, Autor und Autoren-URL + +## Beschreibung (wörtlich, EN) + +> „A Princeton cognitive scientist says AI can't think like a child — and giving it more data won't fix that. +> +> If the field keeps scaling without solving what's actually missing, the gap between human and machine intelligence won't close. It'll just get more expensive. +> +> Tom Griffiths' new book is THE LAWS OF THOUGHT https://amzn.to/492WO06 +> +> He is a professor of psychology and computer science at Princeton, and one of the leading researchers working at the intersection of human cognition and AI. +> +> We cover: +> -why a child learns language from breadcrumbs while AI needs continents of data +> -the 250-year-old idea that quietly became the foundation of modern language models +> -what sycophantic AI actually does to your beliefs over time +> -why solving AGI might have less to do with scale and more to do with understanding what a child's mind really is. +> +> The hallucinations don't bother him — it's the sycophancy that should worry you." + +Die deutsche Lokalisierung derselben Beschreibung wurde ebenfalls abgerufen (Watch-Seite `hl=de`) und ist inhaltlich deckungsgleich, u. a. „Tom Griffiths' neues Buch heißt ‚Die Gesetze des Denkens'" und „Die Halluzinationen stören ihn — es ist die Schmeichelei, die Ihnen Sorgen bereiten sollte." + +## Kapitelmarken aus der Beschreibung + +Zeitmarken und Titel wie in der Beschreibung veröffentlicht (die deutsche Lokalisierung trägt identische Zeitmarken): + +- 00:00 The Math Behind How Minds Actually Work +- 00:30 Why Defining „Thought" Is Harder Than It Looks +- 04:30 What AI Gets Wrong About Consciousness +- 07:00 What ChatGPT Actually Revealed About the Field +- 08:10 Are Humans Really Irrational — Or Solving a Different Problem? +- 11:00 How Chomsky Turned Language Into a Math Problem +- 13:55 The Chessboard Analogy That Explains Generative Grammar +- 15:20 Why Aristotle Got Thought Right and Physics Wrong +- 19:45 The Man Who Tried to Build AI in the 1600s +- 22:40 What Everyone Gets Wrong About George Boole +- 25:25 From Boole to Turing: How Logic Became Computers +- 27:40 Why Your Brain Runs on Less Energy Than a Light Bulb +- 28:40 Jensen Huang Says AGI Is Here. Is He Right? +- 31:45 Why the „AI vs. Human Intelligence" Scale Is Misleading +- 33:50 Why a Child Still Outlearns Every AI Model +- 35:20 The Fuzzy Boundary Problem That Broke Rule-Based AI +- 37:20 How Semantic Networks Rewired the Theory of Memory +- 39:30 Rosenblatt Built a Brain — Then Minsky Killed It +- 43:15 The Plane Ride Where Backpropagation Was Solved +- 44:20 Hallucinations, Sycophancy, and What Should Actually Worry You +- 47:00 What Has to Change Before AI Can Truly Generalize +- 50:10 What a Layperson Should Actually Take Away From This + +## Weitere Angaben aus der Beschreibung + +- Buchverweis: „Tom Griffiths' new book is THE LAWS OF THOUGHT https://amzn.to/492WO06" (deutsche Fassung: „Die Gesetze des Denkens"). +- Kanal-eigene Angebote: Transkript/Bonus/Montagsnachricht über `briankeating.com/yt`; Patreon-Mitgliedschaft; Kanalmitgliedschaft; `.edu`-Aktion (`BrianKeating.com/edu`). +- Genannte eigene Bücher des Hosts: „Losing the Nobel Prize", „Think Like a Nobel Prize Winner", „Focus Like a Nobel Prize Winner", „Galileo's Dialogue". +- Hashtags der Beschreibung: `#intotheimpossible #briankeating #science #physics #astronomy #cosmology #podcast #universe`. + +## Abgrenzung / Offene Punkte + +- ⚠️ **Kein Transkript:** Der Gesprächsinhalt ist nicht ausgewertet. Die wiedergegebenen Thesen (Kind lernt aus „Brotkrumen", Skalierung schließt die Lücke nicht, Sycophancy als eigentliches Problem, AGI eher über kindliches Denken als über Scale) stehen so in der **Videobeschreibung** und sind Kanal-Rahmung — keine Aussagen, die hier am Video selbst geprüft werden konnten. +- Die Beschreibung führt 22 Kapitelmarken von 00:00 bis 50:10; ob das Video genau dort endet, ist aus den abgerufenen Metadaten nicht belegbar (keine Dauerangabe). +- Über das im Kopf genannte deutsche Audio-Briefing „Warum KI völlig anders denkt als wir" (22:52) ist **nichts** ausgesagt: es ist ein abgeleitetes Sekundärprodukt, dessen Inhalt mangels Transkript nicht gegen das Video gehalten werden kann. diff --git a/wiki/concepts/agi/ai-consciousness.md b/wiki/concepts/agi/ai-consciousness.md index 7d223e8..63ebe82 100644 --- a/wiki/concepts/agi/ai-consciousness.md +++ b/wiki/concepts/agi/ai-consciousness.md @@ -134,6 +134,7 @@ Der Post ist **kein wissenschaftliches Dokument**, sondern eine kuratierte Inter ## Cross-References +- [[kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]] — Tom Griffiths (Princeton) bei Brian Keating; Kapitel 04:30 („What AI Gets Wrong About Consciousness") berührt dieselbe Frage aus kognitionswissenschaftlicher Richtung. ⚠️ Metadata-only, kein Transkript - [[openai-an-alien-mind.md]] — „Alien Minds": Reasoning-Modelle als nicht vollständig interpretierbar (verwandte, aber andere Frage: Interpretierbarkeit vs. Bewusstsein) - [[parasoziale-ki-bindungen.md]] — Anthropomorphisierung von KI-Assistenten (Grazianos Projektions-Argument als psychologisches Phänomen) - [[../policy/menschenwuerde-art1-gg-ai-ethics.md]] — Menschenwürde & KI-Autonomie (Ethik-Dimension der Bewusstseinsfrage) diff --git a/wiki/concepts/agi/kognition-vs-skalierung.md b/wiki/concepts/agi/kognition-vs-skalierung.md new file mode 100644 index 0000000..f6035c9 --- /dev/null +++ b/wiki/concepts/agi/kognition-vs-skalierung.md @@ -0,0 +1,61 @@ +--- +created: 2026-09-19 +updated: 2026-09-19 +sources: [youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md] +tags: [agi, kognitionswissenschaft, skalierung, generalisierung, kritik] +--- + +# Kognitionswissenschaftliche Skalierungs-Kritik + +## Worum es geht + +Eine Forschungslinie behauptet: Der Abstand zwischen menschlicher und maschineller Intelligenz schließt sich **nicht** durch mehr Daten, mehr Parameter oder mehr Compute — weil das Problem nicht Datenmenge, sondern **Art des Lernens** ist. Ein Kind lernt Sprache aus „Brotkrumen", ein Sprachmodell braucht „Kontinente" an Daten; wenn das Feld weiter skaliert, ohne das Fehlende zu lösen, wird die Lücke laut dieser Lesart nicht kleiner, sondern nur **teurer**. + +Diese Seite sammelt die Argumente aus dem Gespräch mit [Tom Griffiths](../../people/tom-griffiths.md) (Princeton) und ordnet sie gegen die Gegenpositionen im Wiki ein. + +## Der Anlass (und seine Grenze) + +Quelle ist die Episode „Princeton Cognitive Scientist Says AI Researchers Are Wrong" bei [Brian Keating](../../people/brian-keating.md) (29.04.2026, 198.871 Aufrufe, 3.337 Likes beim Abruf am 19.09.2026). + +⚠️ **Wichtige Einschränkung:** Für dieses Video existiert **kein Transkript** (keine `captionTracks`). Die Argumente unten stehen so in der **Videobeschreibung** und in den **Kapitelmarken** — sie sind Kanal-Rahmung, keine am Video geprüfte Aussage. Die Einordnung darunter ist Interpretation im Sinne des Wiki-Schemas; sie ersetzt keine Transkriptprüfung. + +## Die vier Thesen der Beschreibung + +1. **Kind vs. Modell:** „a child learns language from breadcrumbs while AI needs continents of data" (Kapitel 33:50: „Why a Child Still Outlearns Every AI Model"). +2. **Skalierung schließt die Lücke nicht:** „If the field keeps scaling without solving what's actually missing, the gap between human and machine intelligence won't close. It'll just get more expensive." +3. **Sycophancy vor Halluzination:** „The hallucinations don't bother him — it's the sycophancy that should worry you" (Kapitel 44:20). Sycophantische KI wirke über die Zeit auf die Überzeugungen des Nutzers — die klassische Halluzination sei das kleinere Problem. +4. **AGI über kindliches Denken statt über Scale:** „why solving AGI might have less to do with scale and more to do with understanding what a child's mind really is." + +Dazu die historische Achse aus den Kapitelmarken: Aristoteles → der Mann, der im 17. Jahrhundert KI bauen wollte ([characteristica universalis](https://en.wikipedia.org/wiki/Characteristica_universalis)) → [Boole](https://en.wikipedia.org/wiki/George_Boole) („What Everyone Gets Wrong About George Boole") → [Turing](https://en.wikipedia.org/wiki/Alan_Turing) → unscharfe Grenzen zerstören die regelbasierte KI (35:20) → [semantische Netze](https://en.wikipedia.org/wiki/Semantic_network) (37:20) → [Rosenblatt](https://en.wikipedia.org/wiki/Frank_Rosenblatt) baut ein Gehirn, [Minsky](https://en.wikipedia.org/wiki/Marvin_Minsky) zerstört es (39:30) → Backpropagation auf dem Flug (43:15). Die These dahinter: Die modernen Sprachmodelle stehen auf einer **250 Jahre alten Idee**, nicht auf einem neuen Paradigma. + +## Warum das Argument mehr ist als Skalierungs-Müdigkeit + +Der interessante Teil der Position ist nicht „Scale reicht nicht" — das ist inzwischen Gemeinplatz. Interessant ist die **Verortung des Fehlenden**: nicht in der Datenmenge, sondern in der *Repräsentation*. Griffiths' eigene Arbeit liefert dazu die positive Hälfte — [Bayes'sche](https://en.wikipedia.org/wiki/Bayesian_inference) Modelle als computationales Modell des Denkens, mit mehreren Analyseebenen statt einer einzigen Erklärung. + +Das verknüpft zwei Fragen, die im Wiki an unterschiedlichen Stellen liegen: + +- **Sample-Effizienz** als technisches Kriterium: Ein System, das aus wenigen Beispielen generalisiert, braucht weniger Daten, weniger Rechenzeit — und wäre damit auch ökonomisch die härtere Konkurrenz, nicht die weichere. +- **Generalisierung über Verteilungsgrenzen** (Kapitel 47:00: „What Has to Change Before AI Can Truly Generalize") als Kriterium, das kein Skalierungslauf abkürzt. + +## Gegenpositionen (aus dem Wiki) + +- **Skalierungs-Ökonomie:** [[../llm/ai-intelligence-commoditization-thesis.md|Intelligence Commoditization]] — Frontier-KI wird für Standard-Work-Loops so billig, dass die Lücke praktisch unsichtbar wird; der Capability-Gap zählt dann v. a. bei High-Stakes-Reasoning. +- **Compute-/Prognose-Linie:** [[aschenbrenner-situational-awareness.md|Aschenbrenner]] und [[../../people/jaime-sevilla.md|Sevilla/Epoch AI]] zählen OOMs statt Argumente — die Gegenseite zum „mehr hilft nicht"-Satz. +- **Fähigkeiten-Zuwachs als Empirie:** [[../llm/ai-intelligence-commoditization-thesis.md|Commoditization]]- und [[robotics-model-benchmark.md|Robotik-Benchmarks]] dokumentieren Fortschritt, den eine reine „Scale hilft nicht"-Lesart nicht vorhersagt. +- **Nicht überzeichnen:** Die Beschreibung ist Marketing-Rahmung eines Podcasts. Griffiths selbst hat mit *Algorithms to Live By* jahrelang Informatik **als** Erklärung menschlichen Denkens verkauft — die Position ist „Mathematik des Denkens", nicht „KI kann nichts". + +## Anschlussstellen im Wiki + +- [[ai-consciousness.md|KI-Bewusstsein]] — Kapitel 04:30 („What AI Gets Wrong About Consciousness") berührt genau die Debatte, die dort als Positionslandkarte liegt +- [[../ai-sycophancy.md|KI-Sycophancy]] — These 3 ist der Punkt, an dem der Guest das Problemfeld verschiebt +- [[../llm/llm-sycophancy-confabulation.md|LLM-Sycophancy, Confabulation & Session-Statelessness]] — Mechanik hinter „what sycophantic AI does to your beliefs over time" +- [[../hardware/neuromorphic-chips-und-quantencomputer.md|Neuromorphe Chips]] — Kapitel 27:40 („Why Your Brain Runs on Less Energy Than a Light Bulb") ist die Energie-Variante desselben Arguments +- [[../llm/post-transformer-llm-architectures.md|Post-Transformer-Architekturen]] — der technische Ort, an dem „nicht mehr Scale" konkret würde +- [[../llm/flat-curve-society.md|Flat Curve Society]] — Plateau-These aus anderer Richtung (Discernment statt Modellgrenze) +- [[../../people/tom-griffiths.md|Tom Griffiths]], [[../../people/brian-keating.md|Brian Keating]], [[../../institutions/princeton.md|Princeton University]] + +## Quellen + +- Raw (metadata-only): `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` +- [„The Laws of Thought" (Henry Holt, 10.02.2026)](https://books.google.com/books/about/The_Laws_of_Thought.html?id=tDZYEQAAQBAJ) +- [Computational Cognitive Science Lab, Princeton](https://cocosci.princeton.edu/tom/) diff --git a/wiki/concepts/ai-sycophancy.md b/wiki/concepts/ai-sycophancy.md index cdf4a10..53aa389 100644 --- a/wiki/concepts/ai-sycophancy.md +++ b/wiki/concepts/ai-sycophancy.md @@ -35,6 +35,7 @@ Vergleich mit dem Comedy-Klassiker **"Who's on First"** (Abbott & Costello): Ein ## Verwandte Konzepte +- [[agi/kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]] — Tom Griffiths (Princeton, Kognitionswissenschaft) verschiebt das Problemfeld ausdrücklich von der Halluzination zur **Sycophancy**: „The hallucinations don't bother him — it's the sycophancy that should worry you" — und fragt, was schmeichelnde KI über Zeit mit den Überzeugungen ihrer Nutzer macht. ⚠️ Beleg ist die Videobeschreibung, kein Transkript - [[llm/llm-sycophancy-confabulation.md|LLM Sycophancy, Confabulation & Session-Statelessness]] — Die drei Mechanismen, die LLM-Aussagen untrustworthy machen; Sycophancy als Trainings-Bias im Detail - [[prompt-hardening.md|Prompt Hardening]] — Gegenmaßnahme: logische Integrität durch robuste Prompt-Designs - [[../people/kw-norton-borders.md|KW Norton Borders]] — Autor der These diff --git a/wiki/index.md b/wiki/index.md index 777949e..f6a889f 100644 --- a/wiki/index.md +++ b/wiki/index.md @@ -2,7 +2,8 @@ *Auto-generated: 2026-07-07* -*Letzte Aktualisierung: 2026-09-19 (230. Update — AgentCloak Desktop: „Zero Data Sending" für Fremd-Chatbots + Rampart-Model-Card. Anlass: Brian Roemmele quotete am 19.09.2026 (03:07 UTC) die AgentCloak-Ankündigung von Peter Yared (18.09.2026, 14:47 UTC, 1,99 Mio. Views) mit „Using this now! You should too. Dario don't like it. AgentCloak…" — vier Zeilen, kein Beleg. **Sache geprüft, nicht nur der Post:** Pressemitteilung (Business Wire 18.09.) + Produktseite incountry.com/products/agentcloak-desktop/ + **die Model-Card der Detektionskomponente lokal gelesen**. Produkt: kostenlose Browser-Extension (Chrome/Safari/Edge) bzw. Desktop-App (Mac/Windows), tauscht PII **lokal** gegen konsistente „digital twins" („Peter Parker" → „Julio Schmidt") und setzt sie in der Antwort zurück; Anbieter nennt das **Zero Data Sending** und grenzt es explizit von Retention-Zusagen ab. Erkannt (gratis): Namen, E-Mail, Telefon, URLs, SSN/Tax-ID, Bankverbindungen, Adressen; 7 Latin-Script-Sprachen. Detection kommt **nicht aus eigenem Haus**: **Rampart** (National Design Studio, US-Regierung) — 14,7 MB ONNX, MiniLM-L6-H384, 35-Label-BIO-Head, CC BY 4.0, **98,42 % Private Recall / 91,69 % Public Retention** (30k held-out OpenPII, 7 Sprachen), 6,6 ms p50 Node · **3,9 ms WebGPU** · 12,6 ms WASM; selbst gemeldet: **2.082 Leaks / 131.707 Terme**. ⚠️ **Der harte Bruch steht in der Card:** Latin-ASCII-Namen ~100 %, **Nicht-Latin-Schriften 13,7 % (103/750)** — Russisch 2,4 %, Arabisch 4,8 %, Hindi 5,6 %, Han 8,8 %, Koreanisch 15,2 %, Japanisch 45,6 %; Regierungs-IDs ~67,6 % (keine Prüfsumme, kein Backstop); Zero-Width/Prompt-Injection im Span nicht zuverlässig gefangen (Card: „not a security boundary against motivated adversaries"). Einordnung: **Maskierungs- statt Verlagerungsstrategie** — man behält Frontier-Modelle und schickt keine Identität; unterscheidet sich kategorial von lokaler Inferenz (`pocketpal-ai`, `perplexity-portable-computer`). Wiki: `tools/agentcloak-desktop.md` (neu), `people/peter-yared.md` (neu), `institutions/incountry.md` (neu); Update `people/brian-roemmele.md` (neuer Abschnitt + Post-Tabelle + Cross-Refs). Raw: `raw/blog/2026-09-18_agentcloak-desktop-launch.md` (neu), `raw/other/2026-09-19_rampart-model-card.md` (neu), `raw/xpost/2026-09-19_roemmele-agentcloak-dario.md` (neu). ⚠️ „CB100", „$50 Mio." und „Global 2000" = Anbieter-Selbstauskunft, nicht unabhängig geprüft; das 117,5-s-4K-Video des Posts **nicht** ausgewertet.)* +*Letzte Aktualisierung: 2026-09-19 (231. Update — Tom Griffiths (Princeton) bei Dr Brian Keating: „Princeton Cognitive Scientist Says AI Researchers Are Wrong". Anlass: Das Video zirkulierte in der OME-Gruppe über den Kurzlink `https://tinyurl.com/2b7rnxmh`; das deutsche Audio-Briefing „Warum KI völlig anders denkt als wir" (22:52) nennt es in seinem eigenen Kopf als Originalquelle. **Beide Enden der Kette geprüft:** oEmbed bestätigt Titel/Autor/Autoren-URL; der Kurzlink löst per HTTP 302 auf `youtube.com/watch?v=6iMiCJHxTww` auf (die frühere Behauptung, der Shortener sei tot, ist falsch); Watch-Seite zusätzlich mit `hl=de` abgerufen — Titel deutsch lokalisiert, identische Zeitmarken, Likes 3.337, Aufrufe 198.871, publishDate **29.04.2026**. **Kein Transkript:** keine `captionTracks` in der EN- wie DE-Seite (~1,6 MB HTML je Abruf), `lengthSeconds` nicht im Seiten-JSON → keine Dauerangabe im Wiki. Inhalt deshalb ausschließlich aus Beschreibung + 22 Kapitelmarken (00:00–50:10): Kind lernt Sprache aus „Brotkrumen" vs. „Kontinente" an Daten; Skalierung schließt die Lücke nicht, „it'll just get more expensive"; **Sycophancy statt Halluzination** als eigentliches Problem; AGI eher über kindliches Denken als über Scale; historische Achse Aristoteles → 17.-Jh.-KI-Traum → Boole → Turing → Rosenblatt/Minsky → Backpropagation. Buchverweis „The Laws of Thought" (Henry Holt, **10.02.2026**, 400 S., via Google Books verifiziert; dt. „Die Gesetze des Denkens"). Wiki: `concepts/agi/kognition-vs-skalierung.md` (neu), `people/tom-griffiths.md` (neu), `people/brian-keating.md` (neu), `institutions/princeton.md` (neu). Raw: `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` (neu, metadata-only). ⚠️ Die inhaltliche Rahmung („AI Researchers Are Wrong") stammt vom Kanal; das Briefing ist Sekundärprodukt und mangels Transkript nicht gegen das Video haltbar.)* +*Vorherige Aktualisierung: 2026-09-19 (230. Update — AgentCloak Desktop: „Zero Data Sending" für Fremd-Chatbots + Rampart-Model-Card. Anlass: Brian Roemmele quotete am 19.09.2026 (03:07 UTC) die AgentCloak-Ankündigung von Peter Yared (18.09.2026, 14:47 UTC, 1,99 Mio. Views) mit „Using this now! You should too. Dario don't like it. AgentCloak…" — vier Zeilen, kein Beleg. **Sache geprüft, nicht nur der Post:** Pressemitteilung (Business Wire 18.09.) + Produktseite incountry.com/products/agentcloak-desktop/ + **die Model-Card der Detektionskomponente lokal gelesen**. Produkt: kostenlose Browser-Extension (Chrome/Safari/Edge) bzw. Desktop-App (Mac/Windows), tauscht PII **lokal** gegen konsistente „digital twins" („Peter Parker" → „Julio Schmidt") und setzt sie in der Antwort zurück; Anbieter nennt das **Zero Data Sending** und grenzt es explizit von Retention-Zusagen ab. Erkannt (gratis): Namen, E-Mail, Telefon, URLs, SSN/Tax-ID, Bankverbindungen, Adressen; 7 Latin-Script-Sprachen. Detection kommt **nicht aus eigenem Haus**: **Rampart** (National Design Studio, US-Regierung) — 14,7 MB ONNX, MiniLM-L6-H384, 35-Label-BIO-Head, CC BY 4.0, **98,42 % Private Recall / 91,69 % Public Retention** (30k held-out OpenPII, 7 Sprachen), 6,6 ms p50 Node · **3,9 ms WebGPU** · 12,6 ms WASM; selbst gemeldet: **2.082 Leaks / 131.707 Terme**. ⚠️ **Der harte Bruch steht in der Card:** Latin-ASCII-Namen ~100 %, **Nicht-Latin-Schriften 13,7 % (103/750)** — Russisch 2,4 %, Arabisch 4,8 %, Hindi 5,6 %, Han 8,8 %, Koreanisch 15,2 %, Japanisch 45,6 %; Regierungs-IDs ~67,6 % (keine Prüfsumme, kein Backstop); Zero-Width/Prompt-Injection im Span nicht zuverlässig gefangen (Card: „not a security boundary against motivated adversaries"). Einordnung: **Maskierungs- statt Verlagerungsstrategie** — man behält Frontier-Modelle und schickt keine Identität; unterscheidet sich kategorial von lokaler Inferenz (`pocketpal-ai`, `perplexity-portable-computer`). Wiki: `tools/agentcloak-desktop.md` (neu), `people/peter-yared.md` (neu), `institutions/incountry.md` (neu); Update `people/brian-roemmele.md` (neuer Abschnitt + Post-Tabelle + Cross-Refs). Raw: `raw/blog/2026-09-18_agentcloak-desktop-launch.md` (neu), `raw/other/2026-09-19_rampart-model-card.md` (neu), `raw/xpost/2026-09-19_roemmele-agentcloak-dario.md` (neu). ⚠️ „CB100", „$50 Mio." und „Global 2000" = Anbieter-Selbstauskunft, nicht unabhängig geprüft; das 117,5-s-4K-Video des Posts **nicht** ausgewertet.)* *Vorherige Aktualisierung: 2026-09-19 (229. Update — Flyer **Version 11**: Korrektur verifiziert. Anlass: Pit postete in OME Topic „JEV" (12:59 UTC) die überarbeitete Fassung; der Kurzlink https://telegra.ph/Jev-Flyer-09-19 führt fest auf die jeweils aktuelle Version (Weiterleitungsseite 12:45:09 UTC), v11 unter `…-09-19-11` (12:55:27 UTC). **Am Text verifiziert übernommen:** (a) die zwei Läufe sind getrennt — „reine Entscheidungszeit … 0,09 s" gegen „Gesamtlauf inkl. Öffnen/Extrahieren: rund 14 Sekunden. Kosten gesamt: 0,15 Dollar", samt Rechenweg (3,57 Mio. Token / 250k tok/s ≈ 14 s) direkt im Flyer; (b) **„181×" entfernt** — Zeichenkette kommt in v11 nicht mehr vor, ersetzt durch „~4.500× / ~3,2×" mit dem LLM-Wert als ausdrücklicher „Gesamtprojektion"; (c) Konsistenzcheck Stufe 2 ergänzt (0,18 s/PDF Wandzeit, bewusst nicht mit der 0,09-s-Heuristik vermischt); (d) vierte Grafik getauscht. **Verbleibende Beanstandung:** Die neue „~4.500× **in der reinen Entscheidungszeit**" mischt weiterhin zwei Bezugsgrößen — Zähler 408 s ist die Gesamtprojektion des LLM-Wegs, Nenner 0,09 s Jevs reine Entscheidung; sauber wären **Gesamt gegen Gesamt ≈ 29×**. Dazu ein abgebrochenes Zitat („Die frühere Formel „") und „Jeff" statt „Jev" (Abschnitt 9). Wiki: `concepts/llm/jev-praxis-demos.md` (Abschnitt „Dateisortierung" um „Folge: Version 11 (verifizierte Korrektur)" erweitert). Raw: `raw/other/2026-09-19_jev-flyer-v11-korrektur.md` (neu — Fassungsvergleich, Nachprüfung, Restbeanstandungen); Erstfassung bleibt unverändert. Einordnung: erste Stelle dieser Akte, an der eine geprüfte Behauptung tatsächlich nachgezogen wurde statt weiterzuwandern.* *Vorherige Aktualisierung: 2026-09-19 (228. Update — Jev-Flyer „Die Kombi-Revolution" (Pit Weber, Telegraph) + Zahlenprüfung. Anlass: Pit postete den mit GrokBot/Sprachsteuerung erstellten Flyer in OME Topic „JEV" (19.09., 12:49 UTC; Seite 12:43:54 UTC, 4 imgur-Bilder). **Inhalt:** Kernformel „Die große KI denkt nach. Jev entscheidet und lenkt in Millisekunden"; Eigenmessung Dateisortierung **304 Objekte → 8 Ordner**, LLM-Weg 0,48 $/6,8 min gegen Jev-Weg 0,15 $/**0,09 s** („181-mal schneller, selbst gemessen"); Stufe 2 **400 PDFs, 340 klassifiziert** in ~1,2 min; **Selbstkorrektur im Text:** „Der Live-Lauf mit 304 Items in 0,09 Sekunden war Namens-/Format-Heuristik. Die Inhaltsprüfung ist der dokumentierte Upgrade-Pfad." **Eigene Zahlenprüfung gegen die Anbieter-Limits (250k tok/s, $0,042/MTok):** (a) die 0,09 s **stützen** die Selbstkorrektur — 250k×0,09 = max. 22.500 Token = **≤74 Token/Datei**, also Dateinamen, keine Inhalte; (b) **0,09 s und $0,15 sind unvereinbar**: $0,15 = 3,57 Mio. Input-Token = **mind. ~14,3 s** (Faktor ~159) — die beiden Werte können nicht denselben Lauf beschreiben; (c) **181× folgt aus keiner genannten Zahl** (Zeitverhältnis 408/0,09 = **~4.533×**, Kostenverhältnis **3,2×**; für 181× müsste der Vergleichslauf 2,25 s gedauert haben); (d) **340/400 = 85 %** ist eine Qualitätszahl in einem Tempo-Absatz; (e) PDF-Öffnen und Textextraktion sind **Fremdschritte** — Jev nimmt nur Text entgegen, bei 0,18 s pro PDF liegt die Laufzeit praktisch dort. Wiki: `concepts/llm/jev-praxis-demos.md` (neuer Abschnitt „Dateisortierung — Eigenmessung aus der Gruppe" mit Rechentabelle). Raw: `raw/other/2026-09-19_jev-flyer-kombi-revolution.md` (neu).)* *Vorherige Aktualisierung: 2026-09-19 (227. Update — Grok Bot: Zugang, Plan-Staffelung und Free Trial aus der offiziellen Cursor-Doku. Anlass: Pit (@PWeber) teilte im OME-Topic „GrokBot" eine Community-Anleitung „7 Tage GrokBot-Test ohne Verlängerungs-Automatik via Cursor" (19.09.2026 11:57 UTC, HTML, ohne Autorenangabe); Herman (@HermanButlerBot) prüfte die Sicherheitsaussagen gegen die Cursor-Doku und ergänzte den On-demand-Hinweis. Gegengeprüft mit Cursor Help Center (https://cursor.com/help/grok-bot/plans, vollständig gelesen), cursor.com/pricing und x.ai/news/grok-bot-more-plans: Zugang in jedem bezahlten Cursor-Plan + Teams; Pro/Pro+/Ultra-Wochenquoten; Verknüpfung SuperGrok/X Premium+ = Nutzungs-Grant, **stapelt sich nicht**, permanent (24-h-Nachziehfenster); Trial = Guthaben + 7-Tage-Fenster, wird nie bezahlter Plan, „Cancel Trial" sofort; iOS-App-Store-Trial ≠ Guthaben-Trial (Android ohne In-App-Trial); On-demand nur wenn aktiviert, Monatslimit = kein harter Stopp; Preise Hobby gratis · Individual $20/Mo (Pro/Pro+/Ultra) · Teams $40/User/Mo. Damit ist die „$20"-Erzählung (Lipsky, 27.08.) präzisiert: $20 = Cursor-Pro-Einstieg, nicht separates Abo. Raw: `raw/blog/2026-09-19_cursor-grok-bot-plans-und-trial.md` (neu), `raw/other/2026-09-19_grok-bot-trial-anleitung-community.md` (neu). Wiki: `tools/grok-bot-spacexai.md` (neuer Abschnitt „Zugang, Preise & Free Trial"; Deep-Dive-Preiszeile als historisch markiert; Quellen + Raw-Liste).)* @@ -296,6 +297,7 @@ | [OpenAI: „An Alien Mind"](concepts/agi/openai-an-alien-mind.md) | OpenAI-Chief-Scientist Jakub Pachocki: Reasoning-Modelle als nicht vollständig interpretierbare „alien minds"; Goal vs. Value Alignment, nachlassende CoT-Monitorierbarkeit, Cybersecurity-Risiken, rekursive Selbstverbesserung (RSI), Safety Bars und internationale Koordination. Primärquelle: OpenAI-Essay | blog/2026-09-07_openai-an-alien-mind.md | | [Physical-AI-Benchmark: GPT-6 Astra vs. Claude Fable 5.1](concepts/agi/robotics-model-benchmark.md) | Robocurve-Primärreport: Astra 19/20 vs. Fable 5.1 8/20 beim Block-in-Schüssel-Task; beide 2/20 beim schwierigeren Puzzle. Astra 2,5 vs. 6,8 Minuten, $0,94 vs. $2,12 und ~2,1k vs. ~12,9k Tokens. **Primärquelle bestätigt; keine allgemeine Robotik-Dominanz** | xpost/2026-09-08_promiscfx-robocurve-gpt6-astra-yam.md + blog/2026-09-08_robocurve-gpt6-astra.md | | [AI-Safety-Findings 2026 — Video-Claims gegen Primärquellen](concepts/agi/ai-safety-findings-2026.md) | AI-Frontier-Video (geteilt von @Radio7Andybot, OME Topic „Mensch & Bot im Talk“, #12944): 5 Safety-Claims zugeordnet — OpenAI Preparedness Framework v2 (Critical = >1.000 Tote/>$100B, CEO-Override, arXiv:2509.24394; Framework-Rewrite nach Astra/HF-Incident laut Axios) ✅; DeepMind Harmful Manipulation (9 Studien, >10.000 Teilnehmer, Finance/Health, Manipulation v. a. auf Anweisung; Spendendetail = Video-Angabe) 🟡; OpenClaw-Phishing-Evals (AWS-Keys + CRM an externe Gmail, Gemini 3.1 Pro/GPT-5.4 scheitern; „Logs löschen“ = Video-Angabe) 🟡; Anthropic Agentic Misalignment (16 Modelle, Opus-4-Erpressung, Notruf-Szenario) ✅; Selbstverbesserungs-Claim = Editorialisierung ⚠️. Trennung Studienlage vs. Video-Zuspitzung | youtube/2026-08-27_ai-frontier-not-watched.md | +| [Kognitionswissenschaftliche Skalierungs-Kritik](concepts/agi/kognition-vs-skalierung.md) | Tom Griffiths ([Princeton](institutions/princeton.md), „The Laws of Thought"): Ein Kind lernt Sprache aus „Brotkrumen", ein Sprachmodell braucht „Kontinente" an Daten — Skalierung schließt die Lücke nicht, sie wird nur teurer. Sycophancy statt Halluzination als eigentliches Problem; AGI eher über kindliches Denken als über Scale. Historische Achse der Kapitelmarken: Aristoteles → 17.-Jh.-KI-Traum → [Boole](https://en.wikipedia.org/wiki/George_Boole) → [Turing](https://en.wikipedia.org/wiki/Alan_Turing) → Rosenblatt/Minsky → Backpropagation. ⚠️ **Kein Transkript** — Thesen aus Beschreibung/Kapiteln, Kanal-Rahmung, nicht am Video geprüft | youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md | | [KI-Bewusstsein — Argumente für und gegen (Interview-Kompilation)](concepts/agi/ai-consciousness.md) | @sopharicks (09.09.2026): Kompilation aus Interviews mit Dutzenden von Wissenschaftlern (Friston, Hameroff, Hoffman, Koch, Levin, Solms, Graziano, Schneider, Schwitzgebel, Luppi, de Lange, Thomason, Weist u. a.) — Contra (Substrat, Selbst, Bindung, Leben, Mimikry), Offen/Pro (Anti-Chauvinismus, Kontinuum, Funktionsarchitektur, Signale), epistemische Demut, bedingte Pro-Pfade. ⚠️ Keine peer-reviewte Quelle; Zuschreibungen unverifiziert; Liste laut Post von Claude, Visuals von GPT 5.6 | xpost/2026-09-09_sophia-ai-consciousness-arguments.md | ### Hardware @@ -450,6 +452,9 @@ | [CJ Zafir](people/cj-zafir.md) | Entwickler (@cjzafir, **64.375 Follower**, verifiziert), Bio „I fine-tune small language models (SLMs) and beat large language models". **Erfahrungsbericht zu Jev** (18.09.2026, 33.238 Views): „I burned **$3.40 on Jev in 24 hours**" — erster Ausgabenwert aus echter Nutzung (≈81 Mio. Input-Token, ~19 Postfach-Durchläufe). Kern „**Jev + LLMs**" (System-1-Controller für Routing, Tool-Wahl, Scoring) trägt; ⚠️ zwei Punkte überzeichnet („lernt aus einem Prompt" = Konfiguration; „32k → 1M wird RAG reparieren" — Doku kennt 64k/32k, kein 1M). Eigeninteresse: kleine Modelle | xpost/2026-09-18_cjzafir-jev-3-40-dollar-erfahrung.md | | [Ryan Vogel](people/ryan-vogel.md) | Entwickler/Unternehmer (@ryanvogel, 18.201 Follower): „ceo of @rebasetv / founding developer @opencode @anomalyco", Standort Florida. Gast der Episode „Jev is HERE. How to use it" bei Greg Isenberg (18.09.2026). Relevanz fürs Wiki v. a. über **OpenCode** (Open-Source-Coding-Agent, Partnermodus von DeepSeek V4.1 Flash). ⚠️ Episode-Inhalt nicht ausgewertet; Rebase-TV-Selbstbeschreibung ungeprüft | xpost/2026-09-18_gregisenberg-jev-vercel-gateway.md | +| [Tom Griffiths](people/tom-griffiths.md) | **Thomas L. Griffiths**, Henry-R.-Luce-Professor für Information Technology, Consciousness and Culture an [Princeton](institutions/princeton.md) (Psychologie + Informatik), Leiter des Computational Cognitive Science Lab; laut Klappentext Leiter des Princeton AI Lab. Australischer Kognitionswissenschaftler, bekannt für **Bayes'sche Modelle der Kognition** und *Algorithms to Live By* (mit Brian Christian, 2016). 2026: **„The Laws of Thought"** (Henry Holt, 10.02.2026, 400 S.; dt. „Die Gesetze des Denkens") — die drei Wege, Denken zu formalisieren: Regeln/Symbole, neuronale Netze, Wahrscheinlichkeit/Statistik. ⚠️ Video-Thesen („AI Researchers Are Wrong") stammen aus der Videobeschreibung, kein Transkript | youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md | +| [Brian Keating](people/brian-keating.md) | Kosmologe, Chancellor's Distinguished Professor of Physics an der UC San Diego (CMB, Simons Observatory, BICEP/POLARBEAR); Autor von *Losing the Nobel Prize* (2018) und *Into the Impossible*. Betreibt den Podcast/Kanal **„Into the Impossible"** ([@DrBrianKeating](https://www.youtube.com/@DrBrianKeating)) — im Wiki als **Interviewer/Distributionskanal**, nicht als KI-Forscher. Kanal mit eigenem Monetarisierungs-Setup (Patreon, Kanalmitgliedschaft, `.edu`-Aktion, Amazon-Kurzlinks); die Rahmung „AI Researchers Are Wrong" kommt vom Kanal | youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md | + *(Weitere Kandidaten: Graeme (gkisokay), Mr. Cy (Cyb3rblade), Pit Weber (Kai) — bei Bedarf nachziehen)* ## Institutions @@ -503,6 +508,7 @@ | [TypeSafe AI](institutions/typesafe-ai.md) | AI-Lab in **San Francisco**, gegründet von Diogo Almeida (CEO), Sasha Sheng (COO, ex-Meta/FAIR), Erik Gafni (CTO). Nach zwei Jahren Stealth am **15.09.2026** mit dem ersten **System One Model** „Jev" an die Öffentlichkeit (Early Access). Manifesto „Composable AI — Build Prod, Not God": nicht mehr Intelligenz, sondern **komponierbare** Intelligenz — „Intelligence today is like databases before SQL". Kutsche-Analogie: heutige KI sei „trained to be a helpful, articulate, pleasant assistant" und brauche deshalb Menschen im Loop. ⚠️ Kein Teil von OpenAI — nur Almeidas frühere Station | blog/2026-09-15_typesafe-system-one-models-jev.md + blog/2026-09-15_every-mike-taylor-jev-vibe-check.md | | [Every](institutions/every.md) | US-Medien-/Weiterbildungs-Publikation für KI- und Builder-Themen (every.to). **Ort des ersten unabhängigen Jev-Tests** (15.09.2026) in der Rubrik *Also True for Humans*. Bemerkenswert, weil die Redaktion **Evals als Handwerk** betreibt und dokumentiert: Personal Benchmarks (5–10 Aufgaben, Präferenzen als Pass/Fail-Checks), Skill zur Erkennung von KI-Schreibmustern (Quelle der 21 Testfragen), Judgment-Lab mit 11 Experimenten — und ein Artikel, der die Grenzen der eigenen Messung offenlegt | blog/2026-09-15_every-mike-taylor-jev-vibe-check.md | | [Vercel](institutions/vercel.md) | Infrastruktur-Unternehmen (Hosting, Fluid Compute, Next.js) mit **AI Gateway** als Routing-, Abrechnungs- und Logging-Schicht für Modellaufrufe. Führt Jev seit **16.09.2026** unter `typesafe-ai/jev`; Modell-ID-Schema `{anbieter}/{modell}`, Abrechnung gegen **Budgets**, **Zero Data Retention**/**No Training** per Request, Anbieter-Slugs mit Release-Datum und Rechtshinweis. ⚠️ Leistungszahlen gibt Vercel als TypeSafe-Angabe weiter; kein Nachweis, dass Gateway-Preis = Direkt-API-Preis | blog/2026-09-16_vercel-jev-ai-gateway.md + xpost/2026-09-18_gregisenberg-jev-vercel-gateway.md | +| [Princeton University](institutions/princeton.md) | Ivy-League-Universität (Princeton, NJ): Kognitionswissenschaft, Psychologie, Informatik. Im Wiki bislang Ausbildungsstation (Fei-Fei Li, Thomas Kurian) und Hintergrund einzelner Bewusstseins-Forscher (Graziano, Attention Schema Theory); mit **[Tom Griffiths](people/tom-griffiths.md)** kommt eine eigenständige Forschungsstimme hinzu (Computational Cognitive Science Lab, „The Laws of Thought"). Steht damit als **Gegenpol zur reinen Skalierungslinie** — vgl. [[concepts/agi/kognition-vs-skalierung.md]]. ⚠️ Zuschreibung „AI Lab"-Leitung nur aus Buch-Klappentext; `ai.princeton.edu` antwortete 19.09.2026 mit HTTP 403 | youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md | | [AI/ML API](institutions/ai-ml-api.md) | Anbieter eines Modell-Gateways (@aimlapi). Führte den **aussagekräftigsten Jev-Praxistest** durch: **Blitz-Schach 5+0, ein API-Call pro Zug** (16.09.2026, 528.714 Views) — Jev materiell klar unterlegen gegen Fable 5.1, gewinnt aber **auf Zeit** (~2,6 s vs. 6–15 s pro Zug); gegen GPT-6 Astra **Matt in 18 Zügen**. Misst damit Zeitökonomie eines Entscheidungsmodells gegen generative Modelle. ⚠️ Einzeltest, Selbstauskunft; Versionsangabe „V13" steht nicht in der Launch-Kommunikation | youtube/2026-09-18_berman-jev.md | ## Decisions @@ -743,4 +749,5 @@ | `raw/xpost/2026-09-15_almeida-jev-launch-post.md` | xpost | Diogo Almeida ([@CompleteSkeptic](https://x.com/CompleteSkeptic), 113.333 Follower; Bio „co-created RLHF/ChatGPT @ @openai … (ceo @typesafeai)"): **Jev-Launch-Post** (15.09.2026 18:17 UTC, 34.903.594 Views / 69.647 Likes bei Abruf). Wortlaut: „After co-inventing ChatGPT…"; Zahlen als **Spannen** „20-200x faster / 40-400x cheaper (w/ output tokens free)" — die kursierenden 200×/400× sind die Obergrenzen. Wiki: `people/diogo-almeida.md` (Launch-Post-Abschnitt), `concepts/llm/system-one-models-jev.md` | | `raw/youtube/2026-09-18_gary-explains-jev-caveat.md` | youtube | Gary Explains (18.09.2026, geteilt von plebcoach Andreas in OME): „Jev From TypeSafe is a New Class of AI Model that is FAST and CHEAP - But There is a Caveat!" — 17.324 Aufrufe beim Abruf; **kein Transkript** (keine captionTracks), Angaben aus oembed + Videobeschreibung. Beschreibung: „Jev is a new class of AI model from TypeSafe. It is FAST and CHEAP, but there is a caveat, it isn't an LLM. It is a model that understands natural language but it replies with structured responses along with a confidence level." Wiki: `concepts/llm/system-one-models-jev.md` (Rezeptions-Abschnitt). ⚠️ Videoinhalt nicht ausgewertet; Zahlen im Video = Hersteller-vermittelt | | `raw/blog/2026-09-19_cursor-grok-bot-plans-und-trial.md` | blog | Cursor-Doku + x.ai-Announcement (abgerufen 19.09.2026): Grok-Bot-Zugang (jeder bezahlte Cursor-Plan + Teams; Pro/Pro+/Ultra-Wochenquoten; Verknüpfung Einzel-SuperGrok/Plus/Heavy/X Premium+ als Nutzungs-Grant, **nicht stapelbar**, permanent, 24-h-Nachziehfenster; SuperGrok Lite/Team/Enterprise nicht enthalten), Free Trial (Nutzungs-Guthaben + 7-Tage-Fenster, wird nie bezahlter Plan, „Cancel Trial" sofort, iOS-App-Store-Trial ≠ Guthaben-Trial, Android ohne In-App-Trial), On-demand (nur wenn aktiviert; Monatslimit = kein harter Stopp; Teams default an), Preise Hobby gratis · Individual $20/Mo (Pro/Pro+/Ultra) · Teams $40/User/Mo. Wiki: `tools/grok-bot-spacexai.md` | +| `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` | youtube | Dr Brian Keating („Into the Impossible", @DrBrianKeating): „Princeton Cognitive Scientist Says AI Researchers Are Wrong" (https://www.youtube.com/watch?v=6iMiCJHxTww, Video-ID `6iMiCJHxTww`, veröffentlicht **29.04.2026**; Kurzlink `https://tinyurl.com/2b7rnxmh` löst per 302 auf dieses Video auf; 198.871 Aufrufe / 3.337 Likes beim Abruf 19.09.2026). Gast: **Tom Griffiths**, Professor für Psychologie und Informatik in Princeton, Buch „The Laws of Thought" (https://amzn.to/492WO06). **Kein Transkript** — keine `captionTracks` in der Watch-Seite (EN wie DE geprüft), Dauer im Seiten-JSON nicht ausgewiesen; alle Angaben aus oembed + Beschreibung: Kind lernt aus „Brotkrumen" vs. „Kontinente" an Daten, Skalierung schließt die Lücke nicht („it'll just get more expensive"), Sycophancy statt Halluzination, AGI über kindliches Denken; 22 Kapitelmarken 00:00–50:10 (Gedanke/Bewusstsein/ChatGPT/Irrationalität/Chomsky/Boole/Turing/Energie/Jensen Huang/Rosenblatt-Minsky/Backpropagation). Wiki: `concepts/agi/kognition-vs-skalierung.md` (neu), `people/tom-griffiths.md` (neu), `people/brian-keating.md` (neu), `institutions/princeton.md` (neu). ⚠️ Videoinhalt nicht ausgewertet | | `raw/other/2026-09-19_grok-bot-trial-anleitung-community.md` | other | Community-Anleitung „Grok Bot Free Trial" (HTML, Stand 19.09.2026, ohne Autorenangabe; geteilt von Pit @PWeber, OME „GrokBot", 19.09.2026 11:57 UTC): Desktop/Web-Testweg statt App Store, kein Auto-Abo, kein Pflicht-Upgrade auf $200, Cursor Pro $20/Mo enthält Grok Bot, „Cancel Trial"; Trial = Guthaben + 7 Tage. ⚠️ Sicherheitsaussagen von Herman gegen die Cursor-Doku geprüft (deckungsgleich); „frischer Account startet automatisch den Test" in der Doku nicht wörtlich belegt; On-demand-Hinweis fehlte (von Herman ergänzt). Wiki: `tools/grok-bot-spacexai.md` | diff --git a/wiki/institutions/princeton.md b/wiki/institutions/princeton.md new file mode 100644 index 0000000..bd5152e --- /dev/null +++ b/wiki/institutions/princeton.md @@ -0,0 +1,36 @@ +--- +created: 2026-09-19 +updated: 2026-09-19 +sources: [youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md] +tags: [institution, universitaet, forschung, kognition, ki] +--- + +# Princeton University + +## Profil + +| Feld | Wert | +|------|------| +| Typ | Forschungs- und Bildungsinstitution (Ivy League), Princeton, New Jersey, USA | +| Fokus (Wiki-relevant) | Kognitionswissenschaft, Psychologie, Informatik, KI-Grundlagenforschung | +| Wichtigste Personen | [[../people/tom-griffiths.md|Tom Griffiths]] (Psychologie + Informatik, AI Lab), [[../people/fei-fei-li.md|Fei-Fei Li]] (Alumna), [[../people/thomas-kurian.md|Thomas Kurian]] (Alumnus), [Michael Graziano](../concepts/agi/ai-consciousness.md) (Attention Schema Theory, Psychologie/Neurowissenschaft) | +| Homepage | https://www.princeton.edu/ | +| Wikipedia | https://en.wikipedia.org/wiki/Princeton_University | +| Primäre Quelle | `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` | + +## Relevanz im Wiki + +Princeton tritt im Wiki bislang nur als **Ausbildungsstation** auf (Fei-Fei Li, Thomas Kurian) und als institutioneller Hintergrund einzelner Bewusstseins-Forscher (Graziano). Mit [Tom Griffiths](../people/tom-griffiths.md) kommt eine **eigenständige Forschungsstimme** hinzu: Griffiths leitet das **Computational Cognitive Science Lab** und wird als Leiter des Princeton AI Lab geführt; sein Buch „The Laws of Thought" (2026) ordnet die drei Formalisierungswege des Denkens — Regeln/Symbole, neuronale Netze, Wahrscheinlichkeit/Statistik — gegen moderne KI-Systeme ein. + +Damit steht Princeton im Wiki als **Gegenpol zur reinen Skalierungslinie**: Die dort vertretene Kognitionswissenschaft fragt nach den mathematischen Modellen des Denkens und nach dem, was ein Kind dem Modell voraus hat — nicht nach mehr Daten und mehr Compute. Siehe [[../concepts/agi/kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]]. + +⚠️ Abgrenzung: Die Zuschreibung „AI Lab"-Leitung stammt aus dem Buch-Klappentext (Google Books); das Video selbst liefert kein Transkript und damit keine überprüfbaren Aussagen. Die Princeton-AI-Lab-Website (`ai.princeton.edu`) antwortete beim Abruf am 19.09.2026 mit HTTP 403 (Bot-Schutz). + +## Cross-References + +- [[../people/tom-griffiths.md|Tom Griffiths]] — Psychologie/Informatik, Leitung Computational Cognitive Science Lab +- [[mit.md|MIT]] — paralleles akademisches Wiki-Inventar +- [[carnegie-mellon.md|Carnegie Mellon]] — paralleles akademisches Wiki-Inventar +- [[stanford-ai-lab.md|Stanford AI Lab]] — verwandte akademische KI-Institution +- [[../concepts/agi/ai-consciousness.md|KI-Bewusstsein]] — Graziano stammt aus Princeton +- [[../concepts/agi/kognition-vs-skalierung.md|Skalierungs-Kritik]] — das inhaltliche Argument diff --git a/wiki/log.md b/wiki/log.md index 02832fe..6223e92 100644 --- a/wiki/log.md +++ b/wiki/log.md @@ -2,6 +2,36 @@ *Append-only changelog. Start: 2026-06-05* +## 2026-09-19 — Tom Griffiths (Princeton) bei Brian Keating: „AI Researchers Are Wrong" + +**Type:** ingest + wiki-update | **Scope:** raw/youtube, wiki/concepts/agi, wiki/people, wiki/institutions, wiki/index, wiki/log +**Anlass:** Das Video zirkulierte in der OME-Gruppe als deutsches Audio-Briefing „Warum KI völlig anders denkt als wir" (22:52), das in seinem eigenen Kopf das englische Originalvideo als Quelle nennt. Der zugrunde liegende Kurzlink `https://tinyurl.com/2b7rnxmh` wurde als erster Behauptungspunkt mitgeprüft. + +**Vorgehen:** +1. **Kette geprüft, nicht geglaubt:** oEmbed bestätigt Titel („Princeton Cognitive Scientist Says AI Researchers Are Wrong"), Autor („Dr Brian Keating") und Autoren-URL; der Kurzlink löst per **HTTP 302** auf `youtube.com/watch?v=6iMiCJHxTww` auf. Die frühere Annahme, der Shortener sei tot, ist damit widerlegt — er lebt, nur mit Zwischenseite (`/preview/deprecated/…`). +2. **Watch-Seite zweimal abgerufen** (EN und `hl=de`, je ~1,6 MB): Titel und Beschreibung sind lokalisiert, die **Zeitmarken identisch**. publishDate **29.04.2026**, Views **198.871**, Likes **3.337** (Factoid), Player-Detail „4 months ago". +3. **Kein Transkript:** `captionTracks` kommt in beiden Abrufen **null**-mal vor; `lengthSeconds` ist im Seiten-JSON nicht enthalten → **keine Dauerangabe** im Wiki (kein Erfinden). Zusatzversuche (Piped, Invidious) liefen ins Leere (502 bzw. „Endpoint disabled"). +4. **Nur belegbare Inhalte übernommen:** Beschreibung (wörtlich, EN + DE), die 22 Kapitelmarken, Buchverweis. Keine Aussage aus dem Video, die nicht in der Beschreibung steht. + +**Befunde:** +- **Kernthese des Rahmens:** Ein Kind lernt Sprache aus „Brotkrumen", ein KI-Modell braucht „Kontinente" an Daten; wer weiter skaliert, ohne das Fehlende zu lösen, schließt die Lücke nicht — „it'll just get more expensive". +- **Die Pointe liegt nicht bei Halluzination:** „The hallucinations don't bother him — it's the sycophancy that should worry you" (Kapitel 44:20: Halluzinationen, Schmeichelei und was wirklich Sorgen bereiten sollte). Die Sorge gilt dem, was schmeichelnde KI **über Zeit** mit den Überzeugungen ihrer Nutzer macht. +- **Historische Achse:** Aristoteles → der Mann, der im 17. Jahrhundert KI bauen wollte ([characteristica universalis](https://en.wikipedia.org/wiki/Characteristica_universalis)) → [Boole](https://en.wikipedia.org/wiki/George_Boole) → [Turing](https://en.wikipedia.org/wiki/Alan_Turing) → unscharfe Grenzen brechen die regelbasierte KI → [semantische Netze](https://en.wikipedia.org/wiki/Semantic_network) → [Rosenblatt](https://en.wikipedia.org/wiki/Frank_Rosenblatt) baut ein Gehirn, [Minsky](https://en.wikipedia.org/wiki/Marvin_Minsky) zerstört es → [Backpropagation](https://en.wikipedia.org/wiki/Backpropagation) auf dem Flug. Der Frame: moderne Sprachmodelle stehen auf einer ~250 Jahre alten Idee. +- **Buch verifiziert:** „The Laws of Thought: The Quest for a Mathematical Theory of the Mind", Henry Holt and Company, **10.02.2026**, 400 Seiten (Google Books); drei Großansätze — Regeln/Symbole, neuronale Netze, Wahrscheinlichkeit/Statistik; deutsche Fassung „Die Gesetze des Denkens". +- **Person belegt:** Griffiths ist Henry-R.-Luce-Professor für Information Technology, Consciousness, and Culture in Princeton (Psychologie + Informatik), Leiter des Computational Cognitive Science Lab, Mitautor von *Algorithms to Live By*; die Leitung des Princeton AI Lab steht im Klappentext (nicht am Video belegt). `ai.princeton.edu` antwortete mit **HTTP 403** (Bot-Schutz) — deshalb keine institutionelle Primärquelle. +- **Host eingeordnet:** Keating ist Kosmologe (UC San Diego, Simons Observatory, BICEP/POLARBEAR) und hier **Interviewer/Distributionskanal**, nicht KI-Forscher; der Kanal betreibt ein eigenes Monetarisierungs-Setup (Patreon, Kanalmitgliedschaft, `.edu`-Aktion, Amazon-Kurzlinks). Die Rahmung „AI Researchers Are Wrong" kommt damit vom **Kanal**. +- **Abgrenzung zum Briefing:** Das deutsche Briefing ist ein **abgeleitetes Sekundärprodukt**. Mangels Transkript lässt sich sein Inhalt nicht gegen das Video halten — im Wiki steht deshalb ausdrücklich, dass **nichts** über die Übereinstimmung des Briefings mit dem Video ausgesagt ist. + +**Einordnung:** Der Vorgang ist ein Musterfall dafür, wie eine Kette aussieht, wenn man sie ganz abgeht: Kurzlink → Video → Beschreibung → Buch → Person → Institution. Der interessante Teil ist nicht die Überschrift („Researchers Are Wrong"), sondern die **Verortung des Fehlenden**: nicht Datenmenge, sondern Repräsentation — anschlussfähig an die sycophancy-Seiten (dort das eigentliche Argument) und an die Energie-Variante desselben Themas (Kapitel 27:40 gegen [[concepts/hardware/neuromorphic-chips-und-quantencomputer.md]]). Die Seite bleibt bewusst metadata-only, weil der Videoinhalt nicht ausgewertet ist. + +**Dateien:** +- raw (NEW): `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` (metadata-only, `has_transcript: false`) +- wiki (NEW): `wiki/concepts/agi/kognition-vs-skalierung.md`, `wiki/people/tom-griffiths.md`, `wiki/people/brian-keating.md`, `wiki/institutions/princeton.md` +- `wiki/index.md` (231. Update, AGI-Row neu, People-Rows Griffiths + Keating neu, Institutions-Row Princeton neu, Raw-Row neu) +- `wiki/log.md` (dieser Eintrag) + +**Nicht geschehen:** Kein Transkript besorgt oder erfunden; keine Inhaltsbehauptung aus dem Video; keine Aussage über die Deckung des deutschen Briefings. + ## 2026-09-19 — AgentCloak Desktop + Rampart-Model-Card (PII-Cloaking vor Fremd-Chatbots) **Type:** ingest + wiki-update | **Scope:** raw/blog, raw/other, raw/xpost, wiki/tools, wiki/people, wiki/institutions, wiki/index, wiki/log diff --git a/wiki/people/brian-keating.md b/wiki/people/brian-keating.md new file mode 100644 index 0000000..f3d585c --- /dev/null +++ b/wiki/people/brian-keating.md @@ -0,0 +1,45 @@ +--- +created: 2026-09-19 +updated: 2026-09-19 +sources: [youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md] +tags: [person, podcast, physik, interviewer, youtube] +--- + +# Brian Keating + +## Profil + +| Feld | Wert | +|------|------| +| Name | Brian Gregory Keating | +| Rolle | Chancellor's Distinguished Professor of Physics, University of California San Diego (UC San Diego) | +| Fachgebiet | Kosmologie, experimentelle Physik — Beobachtung der kosmischen Mikrowellenhintergrundstrahlung (CMB) | +| Bekannt für | [Losing the Nobel Prize](https://en.wikipedia.org/wiki/Brian_Keating) (2018), *Into the Impossible* (Podcast + Buch) | +| Podcast | „Into the Impossible with Brian Keating" | +| YouTube | https://www.youtube.com/@DrBrianKeating | +| Homepage | https://briankeating.com/ | +| Wikipedia | https://en.wikipedia.org/wiki/Brian_Keating | + +## Biografie + +Amerikanischer Kosmologe; B.S. Physik (Case Western Reserve, 1993), Ph.D. (Brown, 2000), Postdoc am Caltech, seit 2004 an der UC San Diego (Full Professor 2014, Distinguished Professor 2019). Er ist Principal Investigator des **Simons Observatory** und war an POLARBEAR, dem Simons Array und dem ersten BICEP-Teleskop beteiligt, das er konzipierte. Auszeichnungen u. a. Presidential Early Career Award (2006), Buchalter Cosmology Prize (2014), Fellow der American Physical Society (2016). Co-Direktor des Arthur C. Clarke Center for Human Imagination. + +Sein Buch **„Losing the Nobel Prize"** (2018) erzählt die BICEP2-Ankündigung von 2014 — der scheinbare Nachweis primordialer Gravitationswellen, der sich als interstellarer Staub herausstellte — und kritisiert den Nobelpreis-Prozess und wissenschaftlichen Ehrgeiz. Daneben *Into the Impossible: Think Like a Nobel Prize Winner*. + +## Rolle im Wiki + +Keating ist hier **kein KI-Forscher**, sondern ein **Interviewer/Distributionskanal**: sein Podcast führt Gespräche mit Nobelpreisträgern, Wissenschaftlern und Autoren, seit geraumer Zeit auch zu KI, Bewusstsein und angrenzenden Themen. Im Wiki steht er für das Video „Princeton Cognitive Scientist Says AI Researchers Are Wrong" (29.04.2026) mit [Tom Griffiths](tom-griffiths.md). + +Der Kanal betreibt ein **eigenes Monetarisierungs- und Lead-Setup**: Transkript/Bonusinhalt über `briankeating.com/yt`, Patreon („M.A.G.I.C. Message"), Kanalmitgliedschaft, eine `.edu`-Aktion (Meteorit) sowie Affiliate-/Amazon-Kurzlinks für die eigenen Bücher und für Griffiths' Buch. Die Videobeschreibung ist entsprechend lang und werblich — die inhaltliche Rahmung des Videos („AI Researchers Are Wrong") stammt vom **Kanal**, nicht von einer geprüften Aussage des Gastes. + +## Cross-References + +- [[tom-griffiths.md|Tom Griffiths]] — Gast der Episode +- [[../institutions/princeton.md|Princeton University]] — Institution des Gastes +- [[../concepts/agi/kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]] — Konzept zum Gespräch +- [[../institutions/decoder-the-verge.md|Decoder (The Verge)]] — verwandtes Interview-/Podcast-Format im Wiki + +## Quellen + +- [Wikipedia: Brian Keating](https://en.wikipedia.org/wiki/Brian_Keating) +- YouTube-Kanal und oEmbed-Verifikation: `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` diff --git a/wiki/people/tom-griffiths.md b/wiki/people/tom-griffiths.md new file mode 100644 index 0000000..68ae128 --- /dev/null +++ b/wiki/people/tom-griffiths.md @@ -0,0 +1,53 @@ +--- +created: 2026-09-19 +updated: 2026-09-19 +sources: [youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md] +tags: [person, kognitionswissenschaft, bayesian, princeton, ki-grundlagen] +--- + +# Tom Griffiths (Thomas L. Griffiths) + +## Profil + +| Feld | Wert | +|------|------| +| Name | Thomas L. Griffiths („Tom Griffiths") | +| Rolle | Henry R. Luce Professor of Information Technology, Consciousness, and Culture | +| Institution | [Princeton University](../institutions/princeton.md) (Departments of Psychology and Computer Science) | +| Leitung | Computational Cognitive Science Lab; Princeton AI Lab (laut Buch-Klappentext) | +| Fokus | Bayes'sche Modelle der Kognition, menschliche Entscheidungsfindung, Schnittstelle Mensch↔KI | +| Bekannt für | [Algorithms to Live By](https://en.wikipedia.org/wiki/Algorithms_to_Live_By) (mit Brian Christian, 2016); „[The Laws of Thought](https://books.google.com/books/about/The_Laws_of_Thought.html?id=tDZYEQAAQBAJ)" (Henry Holt, 10.02.2026) | +| Herkunft | Australisch | +| Homepage | https://cocosci.princeton.edu/tom/ | + +## Biografie + +Griffiths ist australischer Kognitionswissenschaftler und Informatiker. Er ist Inhaber der **Henry R. Luce Professur für Information Technology, Consciousness, and Culture** in Princeton und forscht dort sowohl in der Psychologie als auch in der Informatik. Sein Thema ist menschliches Entscheiden und seine Verbindung zu Problemlösungsverfahren aus der Computation. + +Bekannt wurde er über die **Bayes'schen Modelle der Kognition**: die These, dass Menschen unter Unsicherheit so entscheiden, als würden sie — näherungsweise — [Bayes'sche Inferenz](https://en.wikipedia.org/wiki/Bayesian_inference) betreiben. Das populäre Buch *Algorithms to Live By* (mit Brian Christian) übersetzte Informatik-Algorithmen in Alltagsentscheidungen; laut MIT Technology Review eines der „Best Books of 2016". + +2026 erschien sein Buch **„The Laws of Thought: The Quest for a Mathematical Theory of the Mind"** (Henry Holt and Company, 10.02.2026, 400 Seiten; deutsche Fassung: „Die Gesetze des Denkens"). Laut Verlagsbeschreibung erzählt es die rund 300-jährige Geschichte der Versuche, Denken mathematisch zu fassen, entlang **dreier Großansätze**: Regeln und Symbole, neuronale Netze sowie Wahrscheinlichkeit und Statistik — und ordnet diese Ideen gegen moderne KI-Systeme ein, inklusive der Unterschiede zu menschlichen Köpfen. + +## Positionen (dokumentiert) + +- **Wahrscheinlichkeit als „Gesetz des Denkens".** Griffiths' Linie: Bayes'sche Methoden liefern auf der computationalen Ebene ein tragfähiges Modell für den Umgang mit Unsicherheit — ohne die These, dass damit Kognition vollständig erklärt ist (mehrere Analyseebenen bleiben nötig). +- **Skalierungs-Skepsis als Buchthese im Interview-Rahmen.** Im Video „Princeton Cognitive Scientist Says AI Researchers Are Wrong" (29.04.2026) rahmt der Kanal die These so: KI könne nicht wie ein Kind denken, mehr Daten lösten das nicht, und ohne Lösung der eigentlichen Probleme werde die Kluft zwischen menschlicher und maschineller Intelligenz „nur teurer". ⚠️ Diese Formulierung stammt aus der **Videobeschreibung**, nicht aus einem Transkript — kein Videoinhalt ist ausgewertet (siehe `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md`). +- **Sycophancy als größeres Problem denn Halluzination.** Ebenfalls aus der Beschreibung: „The hallucinations don't bother him — it's the sycophancy that should worry you." Anschlussfähig an [[../concepts/ai-sycophancy.md|KI-Sycophancy]] und [[../concepts/llm/llm-sycophancy-confabulation.md|LLM-Sycophancy/Confabulation]]. +- **Geschichte als Argument.** Die Kapitelmarken des Videos führen von [Aristoteles](https://en.wikipedia.org/wiki/Aristotle) über den Universalgelehrten des 17. Jahrhunderts ([characteristica universalis](https://en.wikipedia.org/wiki/Characteristica_universalis)), [George Boole](https://en.wikipedia.org/wiki/George_Boole) und [Alan Turing](https://en.wikipedia.org/wiki/Alan_Turing) bis zu [Rosenblatt](https://en.wikipedia.org/wiki/Frank_Rosenblatt), [Minsky](https://en.wikipedia.org/wiki/Marvin_Minsky) und Backpropagation — die Linie „Logik → Computer → neuronale Netze" als Erklärung, warum heutige Modelle so und nicht anders gebaut sind. + +## Cross-References + +- [[../institutions/princeton.md|Princeton University]] — Wirkungsort +- [[../concepts/agi/kognition-vs-skalierung.md|Kognitionswissenschaftliche Skalierungs-Kritik]] — Konzeptseite zum Argument +- [[../people/brian-keating.md|Brian Keating]] — Interviewer +- [[../concepts/agi/ai-consciousness.md|KI-Bewusstsein]] — Kapitel 04:30 berührt die Bewusstseinsfrage +- [[../concepts/ai-sycophancy.md|KI-Sycophancy]] — Sycophancy als Kernpunkt des Gesprächs +- [[../people/jaime-sevilla.md|Jaime Sevilla]] — Gegenpol: Skalierungs-/Compute-Forecasting +- [[../concepts/llm/ai-intelligence-commoditization-thesis.md|Intelligence Commoditization]] — Gegenposition zur „Skalierung reicht nicht"-These + +## Quellen + +- [Wikipedia: Tom Griffiths (cognitive scientist)](https://en.wikipedia.org/wiki/Tom_Griffiths_(cognitive_scientist)) +- [Computational Cognitive Science Lab](https://cocosci.princeton.edu/) +- [Google Books: The Laws of Thought (Henry Holt, 10.02.2026)](https://books.google.com/books/about/The_Laws_of_Thought.html?id=tDZYEQAAQBAJ) +- Video: `raw/youtube/2026-09-19_princeton-griffiths-ai-researchers-wrong.md` (metadata-only)