Limitare ciò che un agente può fare
Una sandbox per agenti AI limita le risorse accessibili ai processi che eseguono codice o strumenti per conto del modello. Quando i controlli sono applicati dal kernel, il processo non può semplicemente ignorarli come potrebbe fare con un'istruzione testuale.
Il ruolo del kernel
Su Linux, Landlock permette ai processi di restringere i propri accessi a risorse gestite dal sistema operativo. I controlli disponibili dipendono dalla versione e dalla configurazione del kernel.
Difesa a più livelli
Permessi ridotti, credenziali limitate e separazione dagli ambienti operativi possono contenere i danni di un agente compromesso. Queste misure completano i controlli dell'applicazione.
Limiti
Una sandbox non è una garanzia assoluta contro evasione, configurazioni errate o vulnerabilità del sistema operativo. Una restrizione non revocabile dal processo non implica che l'intera piattaforma sia invulnerabile.