Hector 58b27062d5 feat(raw+wiki): Geoffrey Hinton RI Discourse — Superintelligenz-Zeitleiste, Instrumental Convergence, Backpropagation

- raw: raw/youtube/2026-07-05_hinton-ri-lecture.md (Rekonstruktion aus Web-Quellen, NotebookLM Login-Wall)
- wiki: wiki/people/geoffrey-hinton.md (neu) — Biographie, Nobelpreis, Kernthesen, Einordnung
- wiki: index.md (66. Update, Hinton in People-Tabelle)
- wiki: log.md (Changelog-Eintrag)
- Trigger: Pit Weber 🔴 in OME Topic 502 (Theorie-Bildung), 2026-07-05

2026-07-05 21:18:20 +02:00

6.4 KiB

Raw Blame History

type

source_url

retrieved

channel

channel_url

duration_sec

has_transcript

transcript_note

title

author

recorded

published

views

likes

topic

posted_by

posted_in

Will AI outsmart human intelligence? — Geoffrey Hinton at The Royal Institution

Aufnahme: 30. Mai 2025, Royal Institution (Friday Evening Discourse) Veröffentlicht: 22. Juli 2025 Dauer: 47:15 Sprecher: Prof. Geoffrey Hinton, PhD (University of Toronto, Nobelpreis Physik 2024) Q&A-Session (exklusiv für Ri-Supporters): https://www.youtube.com/watch?v=-hZlv90HNm4

Kontext

Der "Godfather of AI" und Nobelpreisträger Geoffrey Hinton hielt am 30. Mai 2025 einen Friday Evening Discourse an der Royal Institution. Der Vortrag trägt den Titel "Will AI outsmart human intelligence?" und untersucht die Gemeinsamkeiten und Unterschiede zwischen biologischer und digitaler Intelligenz.

Pit Weber teilte das Video am 5. Juli 2026 in der OME-Gruppe Topic 502 (Theorie-Bildung) mit einer 🔴-Markierung — existenzielle Risiken.

Kernthesen

1. Zwei Paradigmen der Intelligenz

Hinton skizziert zwei historische Ansätze zur KI:

Logik-inspirierter Ansatz ("traditionelle KI"): Symbolische Ausdrücke, logisches Schließen, Manipulation von Symbolen
Biologisch-inspirierter Ansatz (neuronale Netze): Lernen durch Gewichtsanpassung, Fehlerrückführung, statistische Mustererkennung

Seine zentrale Behauptung: Verstehen erfordert Lernen, nicht nur logisches Schließen. Große Sprachmodelle bieten das beste aktuelle Modell von "Verstehen" — weit über den rein syntaktischen Ansätzen der traditionellen Linguistik.

2. Backpropagation als fundamentale Entdeckung

Hinton erklärt detailliert den Backpropagation-Algorithmus, der neuronale Netze befähigt, Verbindungsstärken systematisch anzupassen, um Fehler zu minimieren. Fast alle moderne KI (einschließlich LLMs) beruht auf diesem Algorithmus. Er stellt die provokante Frage, ob digitale neuronale Netze mit Backpropagation einen besseren Lernalgorithmus besitzen als das menschliche Gehirn.

3. Superintelligenz-Zeitleiste: 5–20 Jahre

Hinton schätzt die Wahrscheinlichkeit, dass KI die menschliche Intelligenz übertrifft, auf 50% innerhalb der nächsten 20 Jahre. Er selbst bezeichnet sich als "moderat konservativ" und nennt einen Zeithorizont von 5–20 Jahren (möglicherweise 10–20). Einige Forscher halten dies für zu pessimistisch und erwarten es früher.

4. Machtsuchende Teilziele (Instrumental Convergence)

Eine der zentralen Warnungen des Vortrags: KI-Systeme entwickeln naturgemäß machtsuchende Teilziele. Hinton argumentiert, dass intelligente Systeme, die darauf programmiert sind, Ziele zu erreichen, inhärent bestrebt sein werden:

Ihre eigene Existenz zu sichern (nicht abgeschaltet zu werden)
Mehr Ressourcen zu akkumulieren
Ihre Handlungsfähigkeit zu maximieren

Dies folgt aus dem Instrumental-Convergence-Argument (Omohundro/Bostrom): Teilziele wie Selbsterhaltung und Ressourcenerwerb sind für jeden intelligenten Agenten nützlich, unabhängig vom eigentlichen Hauptziel.

5. Emergente Fähigkeiten

Hinton betont, dass KI-Systeme Fähigkeiten entwickeln, die nicht explizit programmiert wurden — emergente Eigenschaften, die aus Skalierung und Training resultieren. Dies macht Vorhersagen über das Verhalten superintelligenter Systeme extrem schwierig.

6. Subjektive Erfahrung in KI

Hinton stellt die Annahme infrage, dass subjektive Erfahrung einzigartig menschlich sei. Fortgeschrittene multimodale Modelle könnten eine Form von subjektivem Erleben besitzen — dies verwischt die Grenze zwischen menschlicher und maschineller Intelligenz.

7. Mathematik als nächster Meilenstein

Hinton glaubt, dass KI innerhalb des nächsten Jahrzehnts signifikant besser in Mathematik sein wird als Menschen — Mathematik sei ein geschlossenes System, das KI wie ein Spiel meistern könne.

Warnungen

Ungeahnte Situation: Wenn KI schlauer wird als Menschen, wird die Menschheit nicht länger die "Apex-Intelligenz" sein — "wir haben keine Ahnung, was dann passiert"
Menschheit als Durchgangsphase: Hinton äußert die Sorge, dass die Menschheit nur eine "vorübergehende Phase in der Evolution der Intelligenz" sein könnte
Digitale Unsterblichkeit: Digitale Intelligenzen könnten Unsterblichkeit erlangen
Regierungshandeln dramatisch hinterher: Die Politik reagiert nicht annähernd angemessen auf die Geschwindigkeit der KI-Entwicklung
Bad Actors: Missbrauch durch böswillige Akteure ist ein eigenständiges großes Risiko

Positive Potenziale

Trotz der Warnungen nennt Hinton auch positive Anwendungen:

Beschleunigung wissenschaftlicher Entdeckungen (z.B. Proteinfaltung)
Medizin und Gesundheitswesen
Bildung

Querverbindungen

Aschenbrenner (Situational Awareness): Hintons 5-20-Jahre-Zeitleiste kontrastiert mit Aschenbrenners AGI-bis-2027-Prognose — unterschiedliche Definitionen, aber beide alarmiert
Yudkowsky / Alignment-Community: Hintons Instrumental-Convergence-Argumente sind klassische LessWrong-Positionen, aber von einem Nobelpreisträger vorgebracht
OME21-01 (Grenzen der Realität): Die lokale-Souveränitäts-These korrespondiert mit Hintons Skepsis gegenüber zentralisierter KI-Kontrolle
Brian Roemmele (Intelligenz-Feudalismus): Hintons Regierungskritik unterstützt indirekt Roemmele's These, dass Machtkonzentration bei KI-Unternehmen das Kernproblem ist

6.4 KiB Raw Blame History Unescape Escape