Concept  ·  术语库

Retrieval-Augmented Generation (RAG)

一种技术,其中AI代理在生成响应之前从知识库中检索相关文档或数据,将模型的输出基于事实来源。RAG减少了幻觉现象,使模型能够使用专有或实时数据。
RAG是将大型语言模型部署到企业数据的主导模式;然而,RAG管道引入了新的攻击面——知识库中的毒化文档可能会向模型响应中注入虚假信息或指令。
参考资料
NIST AI Risk Management FrameworkLewis et al. - Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →