AI_STACK
System_Menu

Newsletter

Täglich um 07:00 Uhr die wichtigsten KI-News für DACH.

← ArchivTäglich kuratiert · Ausgabe 376
AI_STACK

SICHERHEITSKÄFIG FÜR KI-AGENTEN: SIMON WILLISON ZEIGT EXTERNE SANDBOXES

Core Tech19. November 2026
Teilen:

Das Wichtigste

Coding Agents sollen Code ausführen können, ohne dass ein Fehler oder eine Prompt-Injection die eigene Maschine beschädigt. Simon Willison stellt dafür gemeinsam mit dem KI-Labor Prime Radiant das Pattern der externen Sandbox vor: Der Agent selbst läuft ausserhalb des Sandkastens, der von ihm erzeugte Code wird komplett isoliert ausgeführt.

Was ist passiert?

Willison experimentiert seit einiger Zeit mit sichereren Wegen, lokale Modelle Code ausführen zu lassen. Zusammen mit Prime Radiant, dem Team hinter Superpowers, hat er drei konkrete Implementierungen veröffentlicht.

external-sandbox-v86 nutzt einen Node.js-Server, der über v86 ein Alpine Linux direkt in WebAssembly laufen lässt. external-sandbox-container ist ein Python-Server, der Alpine Linux in einer Apple-Containers-Instanz isoliert. external-sandbox-quicksand setzt auf Microsofts Quicksand-Bibliothek, die QEMU und Alpine Linux gleich mitbringt.

Alle drei sprechen dieselbe localhost-API. Tools wie Pi, Claude Code oder Codex lassen sich so konfigurieren, dass sie jede Code-Ausführung an diese Sandbox weiterreichen, statt sie lokal direkt auszuführen.

Technische Details

Das Kernprinzip: Agent und Ausführungsumgebung werden strikt getrennt. Der Agent sieht und entscheidet, aber der eigentliche Code läuft in einem isolierten System, das keinen direkten Zugriff auf die Host-Maschine hat.

Alle drei Implementierungen bringen zusätzlich einen optionalen HTTP/HTTPS-Allow-List-Proxy mit. Damit lässt sich exakt steuern, mit welchen Hosts der Code innerhalb der Sandbox kommunizieren darf, inklusive einer UI, die sich live während des laufenden Sandbox-Betriebs umkonfigurieren lässt.

Besonders praktisch für Unternehmenskontexte: ein Credential-Replacement-Mechanismus. Er erlaubt authentifizierte API-Calls, ohne dass der Agent selbst jemals das echte Secret zu Gesicht bekommt.

Warum ist das relevant?

Prompt Injection bleibt eines der ungelösten Risiken beim Einsatz autonomer Coding Agents. Wenn ein Agent Code generiert und sofort ausführt, kann eine manipulierte Eingabe theoretisch zu destruktiven Aktionen auf dem System führen, Löschbefehle, ungewollte Netzwerkzugriffe, Datenabfluss.

Das externe Sandbox-Pattern adressiert genau das, ohne die Produktivität der Agenten einzuschränken. Für Teams, die lokale Modelle testen oder Coding Agents produktiv einsetzen, ist das ein praktikabler Baustein, nicht nur Theorie: alle drei Implementierungen sind quelloffen nutzbar.

Interessant ist auch die Kompatibilität. Da alle drei Server dieselbe API anbieten, lässt sich die Sandbox-Technologie je nach Infrastruktur tauschen, WebAssembly für maximale Portabilität, Apple Containers für macOS-native Setups, Quicksand für QEMU-basierte Isolation.

Take-Away

Wer Coding Agents mit Code-Ausführungsrechten betreibt, ohne eine klare Isolationsschicht zu haben, sollte sich diese drei Referenzimplementierungen ansehen. Der Allow-List-Proxy und der Credential-Mechanismus sind direkt praxistauglich und lassen sich unabhängig vom gewählten Agenten-Framework einsetzen.

Coding AgentsSicherheitSandboxingPrompt InjectionClaude Code