정의
RAG 시스템을 구동하는 semantic search index(vector store)에 악성 데이터를 주입하는 공격. Vector database는 정확한 키워드가 아닌 의미로 검색하기 때문에 공격자는 합법적인 쿼리와 관련성이 있어 보이고 AI를 속여 이를 검색하도록 하는 중독된 데이터를 만들 수 있다.
왜 중요한가
Vector store는 RAG pipeline의 권위 있는 지식 기반이므로, 중독되면 AI는 사용자의 질문의 semantic context와 일치하기 때문에 합법적으로 보이는 hallucination을 생성하거나 비밀을 유출할 수 있다.