RAG 应用架构是什么
RAG(Retrieval-Augmented Generation)应用架构是一种混合系统架构,在用户提问与模型生成之间插入检索步骤:先从知识库或向量数据库中检索相关文档片段,再将检索到的上下文与问题一起提交给大语言模型生成答案。
核心架构组件
### 索引管线
- ·文档解析与分块:将原始文档解析并切分成合适大小的 Chunk
- ·向量化嵌入:使用 Embedding 模型将每个 Chunk 转换为向量
- ·向量存储:存入向量数据库(Milvus、Pinecone、pgvector 等)
### 检索与生成管线
- ·查询重写:对用户问题进行改写以提高检索命中率
- ·混合检索:结合向量检索 + 关键词 BM25 检索
- ·重排序:使用 Cross-encoder 精排模型对结果重新打分
- ·上下文组装与生成:将检索结果组装成 Prompt 提交给 LLM 生成答案
进阶优化
HyDE、Agentic RAG、Graph RAG 等进阶技术进一步提升了 RAG 系统的能力。