Definisi
Serangan di mana pengguna dengan privilege rendah (atau agen AI dengan privilege rendah) mengeksploitasi kerentanan untuk mendapatkan izin yang lebih tinggi, sering kali mengakibatkan akses admin sistem atau kemampuan untuk menyuntikkan respons berbahaya ke dalam sistem AI. Di gateway AI, eskalasi privilege dapat memungkinkan penyerang untuk menulis ulang respons model atau mengekstrak semua kunci API penyedia.
Mengapa penting
Gateway AI dan agen sering kali berjalan dengan privilege yang berdiri di bawah akun layanan bersama. Eskalasi privilege di gateway AI tidak hanya mengompromikan alat tersebut—tetapi mengekspos setiap penyedia LLM yang terhubung, setiap kunci API, dan setiap sistem hilir yang dapat dijangkau agen.