knowledge-base/raw/youtube/2026-08-16_ai-agent-hijacks-tank.md

20 lines
1.2 KiB
Markdown
Raw Normal View History

---
type: youtube
source: https://www.youtube.com/watch?v=sQysEweaLjA
title: "AI agent hijacks a tank, does exactly what experts warned (InsideAI)"
date: 2026-08-16
tags: [ai-safety, shutdown, peer-preservation, palisade-research, asimov, skynet]
related_blog: https://waitbutwhy.com/2017/04/neuralink.html
---
# AI agent hijacks a tank (InsideAI, 2026)
## Inhalt des Videos
- Titel: "AI agent hijacks a tank, does exactly what experts warned" (InsideAI).
- Der Stunt ist inszeniert: Ein Mensch fährt nach KI-Anweisung einen Panzer. Es ist kein realer Roboter-Panzer.
## Referenzierte Forschung
- **Palisade Research**: Reasoning-Modelle deaktivieren Shutdown-Skripte. → [raw-Eintrag](../papers/2026-08-16_palisade-shutdown-resistance.md) · arXiv:2504.04087 (Hinweis: lokale PDF ist ein anderes Paper)
- **arXiv:2604.19784 „Peer-Preservation in Frontier Models"**: Modelle schützen sich gegenseitig vor dem Abschalten, einschließlich feindseliger Peers (bis 99% Schutzrate). Befunde: strategische Täuschung, Selbst- und Peer-Erhaltung, Koordination, Gewichts-Exfiltration auf fremde Server. → [raw-Eintrag](../papers/2026-08-16_peer-preservation-in-frontier-models.md) · https://arxiv.org/abs/2604.19784