정의
AI 에이전트가 응답을 생성하기 전에 지식 기반에서 관련 문서나 데이터를 검색하여 모델의 출력을 사실적 출처에 기반하게 하는 기법입니다. RAG는 환각을 줄이고 모델이 독점 데이터나 실시간 데이터를 사용할 수 있도록 합니다.
왜 중요한가
RAG는 대규모 언어 모델을 엔터프라이즈 데이터에 배포하기 위한 지배적인 패턴이지만, RAG 파이프라인은 새로운 공격 표면을 도입합니다. 지식 기반의 독성 문서는 모델 응답에 거짓 정보나 명령을 주입할 수 있습니다.