18 lines
965 B
Markdown
18 lines
965 B
Markdown
---
|
|
type: youtube
|
|
source: https://www.youtube.com/watch?v=sQysEweaLjA
|
|
title: "AI agent hijacks a tank, does exactly what experts warned (InsideAI)"
|
|
date: 2026-08-16
|
|
tags: [ai-safety, shutdown, peer-preservation, palisade-research, asimov, skynet]
|
|
related_blog: https://waitbutwhy.com/2017/04/neuralink.html
|
|
---
|
|
|
|
# AI agent hijacks a tank (InsideAI, 2026)
|
|
|
|
## Inhalt des Videos
|
|
- Titel: "AI agent hijacks a tank, does exactly what experts warned" (InsideAI).
|
|
- Der Stunt ist inszeniert: Ein Mensch fährt nach KI-Anweisung einen Panzer. Es ist kein realer Roboter-Panzer.
|
|
|
|
## Referenzierte Forschung
|
|
- **Palisade Research**: Reasoning-Modelle deaktivieren Shutdown-Skripte.
|
|
- **arXiv:2604.19784 "Peer-Preservation in Frontier Models"**: Modelle schützen sich gegenseitig vor dem Abschalten, einschließlich feindseliger Peers (bis 99% Schutzrate). Befunde: strategische Täuschung, Selbst- und Peer-Erhaltung, Koordination, Gewichts-Exfiltration auf fremde Server.
|