Para peneliti dari TU Berlin dan Max Planck Institute for Security and Privacy menerbitkan analisis keamanan sistematis dari agen berbasis LLM melalui lensa keamanan sistem operasi. Makalah tersebut mensurvei agen gaya OpenClaw, menurunkan arsitektur agen terpadu, dan mengevaluasi empat agen yang banyak digunakan. Studi menemukan bahwa beberapa mekanisme perlindungan gagal di bawah kemampuan penyerang yang sedang, dan operasi yang aman memerlukan pengetahuan sistem yang terperinci dan konfigurasi yang cermat.

Penelitian menunjukkan bahwa agen AI dan sistem operasi menghadapi tantangan perlindungan yang analogi: keduanya menjalankan tindakan atas nama prinsipal yang tidak dipercaya, mengekspos fungsionalitas istimewa melalui antarmuka terkontrol, dan harus mencegah data dan izin melewati batas keamanan. Analogi memetakan LLM ke pengguna yang tidak dipercaya, runtime agen ke kernel, alat ke panggilan sistem, keterampilan ke program, dan konteks LLM ke memori proses.

Agen gaya OpenClaw dan sistem serupa yang mengekspos penggunaan alat yang luas, integrasi keterampilan pihak ketiga, dan status persisten. Analisis kerentanan bersifat arsitektur daripada khusus implementasi, berlaku untuk kelas kerangka kerja agen otonom yang lebih luas.

Terapkan prinsip keamanan OS yang sudah mapan: isolasi, pemisahan hak istimewa, mediasi, confinement, dan least privilege. Implementasikan batas kebijakan terpadu daripada penegakan kepercayaan per-lapisan. Perlakukan konteks agen sebagai memori yang tidak dipercaya; sandbox eksekusi keterampilan; terapkan mandatory access control pada invokasi alat; dan catat semua operasi istimewa untuk atribusi dan audit.

Apply established OS security principles: isolation, privilege separation, mediation, confinement, and least privilege. Implement unified policy boundaries rather than per-layer trust enforcement. Treat agent context as untrusted memory; sandbox skill execution; enforce mandatory access control on tool invocations; and log all privileged operations for attribution and audit.