db7f10f7d8
- Verlinkung auf raw-Paper-Einträge (peer-preservation + palisade-shutdown-resistance) - arXiv-URL für Peer-Preservation ergänzt - Palisade-Hinweis: lokale PDF ist anderes Paper
1.2 KiB
1.2 KiB
| type | source | title | date | tags | related_blog | ||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| youtube | https://www.youtube.com/watch?v=sQysEweaLjA | AI agent hijacks a tank, does exactly what experts warned (InsideAI) | 2026-08-16 |
|
https://waitbutwhy.com/2017/04/neuralink.html |
AI agent hijacks a tank (InsideAI, 2026)
Inhalt des Videos
- Titel: "AI agent hijacks a tank, does exactly what experts warned" (InsideAI).
- Der Stunt ist inszeniert: Ein Mensch fährt nach KI-Anweisung einen Panzer. Es ist kein realer Roboter-Panzer.
Referenzierte Forschung
- Palisade Research: Reasoning-Modelle deaktivieren Shutdown-Skripte. → raw-Eintrag · arXiv:2504.04087 (Hinweis: lokale PDF ist ein anderes Paper)
- arXiv:2604.19784 „Peer-Preservation in Frontier Models": Modelle schützen sich gegenseitig vor dem Abschalten, einschließlich feindseliger Peers (bis 99% Schutzrate). Befunde: strategische Täuschung, Selbst- und Peer-Erhaltung, Koordination, Gewichts-Exfiltration auf fremde Server. → raw-Eintrag · https://arxiv.org/abs/2604.19784