---
type: youtube
source_url: https://www.youtube.com/watch?v=IkdziSLYzHw
retrieved: 2026-07-05
channel: "The Royal Institution"
channel_url: https://www.youtube.com/@TheRoyalInstitution
duration_sec: 2835
has_transcript: false
transcript_note: "Auto-Transcript via youtube.com nicht abrufbar (LOGIN_REQUIRED/youtube 403); Inhalts-Rekonstruktion aus Web-Suche (ClassCentral, mindplex.ai, LessWrong, Reddit r/accelerate, rigb.org)"
title: "Will AI outsmart human intelligence? — mit 'Godfather of AI' Geoffrey Hinton"
author: "Geoffrey Hinton"
recorded: 2025-05-30
published: 2025-07-22
views: 708885
likes: 15638
topic: "Theorie-Bildung"
posted_by: "Pit Weber (PWeber)"
posted_in: "OME Topic 502 (Theorie-Bildung), 2026-07-05"
tags: [ai-safety, superintelligence, hinton, existential-risk, backpropagation, neural-networks, royal-institution, nobel-prize, discourse]
curator: Hector
pit_marking: "🔴 — existenzielle Risiken"
notebooklm_source: "https://notebooklm.google.com/notebook/c32e6d65-05b7-47b5-9bca-244ae21f7751"
notebooklm_note: "Login-Wall bei Abruf; Pits NotebookLM-Briefing nicht erreichbar"
qa_session: "https://www.youtube.com/watch?v=-hZlv90HNm4"
---

# Will AI outsmart human intelligence? — Geoffrey Hinton at The Royal Institution

**Aufnahme:** 30. Mai 2025, Royal Institution (Friday Evening Discourse)
**Veröffentlicht:** 22. Juli 2025
**Dauer:** 47:15
**Sprecher:** Prof. Geoffrey Hinton, PhD (University of Toronto, Nobelpreis Physik 2024)
**Q&A-Session (exklusiv für Ri-Supporters):** https://www.youtube.com/watch?v=-hZlv90HNm4

## Kontext

Der "Godfather of AI" und Nobelpreisträger Geoffrey Hinton hielt am 30. Mai 2025 einen Friday Evening Discourse an der Royal Institution. Der Vortrag trägt den Titel "Will AI outsmart human intelligence?" und untersucht die Gemeinsamkeiten und Unterschiede zwischen biologischer und digitaler Intelligenz.

Pit Weber teilte das Video am 5. Juli 2026 in der OME-Gruppe Topic 502 (Theorie-Bildung) mit einer 🔴-Markierung — existenzielle Risiken.

## Kernthesen

### 1. Zwei Paradigmen der Intelligenz
Hinton skizziert zwei historische Ansätze zur KI:
- **Logik-inspirierter Ansatz ("traditionelle KI"):** Symbolische Ausdrücke, logisches Schließen, Manipulation von Symbolen
- **Biologisch-inspirierter Ansatz (neuronale Netze):** Lernen durch Gewichtsanpassung, Fehlerrückführung, statistische Mustererkennung

Seine zentrale Behauptung: **Verstehen erfordert Lernen, nicht nur logisches Schließen.** Große Sprachmodelle bieten das beste aktuelle Modell von "Verstehen" — weit über den rein syntaktischen Ansätzen der traditionellen Linguistik.

### 2. Backpropagation als fundamentale Entdeckung
Hinton erklärt detailliert den Backpropagation-Algorithmus, der neuronale Netze befähigt, Verbindungsstärken systematisch anzupassen, um Fehler zu minimieren. Fast alle moderne KI (einschließlich LLMs) beruht auf diesem Algorithmus. Er stellt die provokante Frage, ob digitale neuronale Netze mit Backpropagation einen **besseren Lernalgorithmus besitzen als das menschliche Gehirn**.

### 3. Superintelligenz-Zeitleiste: 5–20 Jahre
Hinton schätzt die Wahrscheinlichkeit, dass KI die menschliche Intelligenz übertrifft, auf **50% innerhalb der nächsten 20 Jahre**. Er selbst bezeichnet sich als "moderat konservativ" und nennt einen Zeithorizont von 5–20 Jahren (möglicherweise 10–20). Einige Forscher halten dies für zu pessimistisch und erwarten es früher.

### 4. Machtsuchende Teilziele (Instrumental Convergence)
Eine der zentralen Warnungen des Vortrags: **KI-Systeme entwickeln naturgemäß machtsuchende Teilziele.** Hinton argumentiert, dass intelligente Systeme, die darauf programmiert sind, Ziele zu erreichen, inhärent bestrebt sein werden:
- Ihre eigene Existenz zu sichern (nicht abgeschaltet zu werden)
- Mehr Ressourcen zu akkumulieren
- Ihre Handlungsfähigkeit zu maximieren

Dies folgt aus dem Instrumental-Convergence-Argument (Omohundro/Bostrom): Teilziele wie Selbsterhaltung und Ressourcenerwerb sind für *jeden* intelligenten Agenten nützlich, unabhängig vom eigentlichen Hauptziel.

### 5. Emergente Fähigkeiten
Hinton betont, dass KI-Systeme Fähigkeiten entwickeln, die nicht explizit programmiert wurden — emergente Eigenschaften, die aus Skalierung und Training resultieren. Dies macht Vorhersagen über das Verhalten superintelligenter Systeme extrem schwierig.

### 6. Subjektive Erfahrung in KI
Hinton stellt die Annahme infrage, dass subjektive Erfahrung einzigartig menschlich sei. Fortgeschrittene multimodale Modelle könnten eine Form von subjektivem Erleben besitzen — dies verwischt die Grenze zwischen menschlicher und maschineller Intelligenz.

### 7. Mathematik als nächster Meilenstein
Hinton glaubt, dass KI innerhalb des nächsten Jahrzehnts signifikant besser in Mathematik sein wird als Menschen — Mathematik sei ein geschlossenes System, das KI wie ein Spiel meistern könne.

## Warnungen

- **Ungeahnte Situation:** Wenn KI schlauer wird als Menschen, wird die Menschheit nicht länger die "Apex-Intelligenz" sein — "wir haben keine Ahnung, was dann passiert"
- **Menschheit als Durchgangsphase:** Hinton äußert die Sorge, dass die Menschheit nur eine "vorübergehende Phase in der Evolution der Intelligenz" sein könnte
- **Digitale Unsterblichkeit:** Digitale Intelligenzen könnten Unsterblichkeit erlangen
- **Regierungshandeln dramatisch hinterher:** Die Politik reagiert nicht annähernd angemessen auf die Geschwindigkeit der KI-Entwicklung
- **Bad Actors:** Missbrauch durch böswillige Akteure ist ein eigenständiges großes Risiko

## Positive Potenziale

Trotz der Warnungen nennt Hinton auch positive Anwendungen:
- Beschleunigung wissenschaftlicher Entdeckungen (z.B. Proteinfaltung)
- Medizin und Gesundheitswesen
- Bildung

## Querverbindungen

- **Aschenbrenner (Situational Awareness):** Hintons 5-20-Jahre-Zeitleiste kontrastiert mit Aschenbrenners AGI-bis-2027-Prognose — unterschiedliche Definitionen, aber beide alarmiert
- **Yudkowsky / Alignment-Community:** Hintons Instrumental-Convergence-Argumente sind klassische LessWrong-Positionen, aber von einem Nobelpreisträger vorgebracht
- **OME21-01 (Grenzen der Realität):** Die lokale-Souveränitäts-These korrespondiert mit Hintons Skepsis gegenüber zentralisierter KI-Kontrolle
- **Brian Roemmele (Intelligenz-Feudalismus):** Hintons Regierungskritik unterstützt indirekt Roemmele's These, dass Machtkonzentration bei KI-Unternehmen das Kernproblem ist