小白程序员必看:9种RAG架构一次讲清,轻松入门大模型知识库构建
本文详细介绍了RAG(检索增强生成)的9种主流架构,从基础的Naive RAG到复杂的多模态RAG,逐步深入解析了每种架构的功能、解决的问题及适用场景。文章强调了RAG并非单一技术,而是一个技术家族,选择合适的架构取决于具体需求。对于初学者,建议从Naive RAG开始,逐步过渡到Advanced RAG和Modular RAG,最终根据实际应用选择更高级的架构,如Self-RAG、CRAG、Adaptive RAG、GraphRAG、Agentic RAG和Multi-modal RAG。
最近总有人问我,RAG 到底怎么做。
我说你具体想做什么。
十有八九,对方描述的是同一个东西:把文档切块、做向量化、存进向量数据库,用户提问的时候检索出最相关的几段,拼进 prompt 丢给大模型。
我说,这叫 Naive RAG,是最基础的那种。
然后对方通常会愣一下:啊?RAG 还分种类?
分。而且光是主流的架构,就至少有 9 种。
每一种背后,都是在解决上一种解决不了的问题。
所以今天我想把这 9 种架构一次讲清楚。不讲论文里的公式和术语,就讲它们各自在干什么、解决了什么问题、什么时候该用。
你只要看完这一篇,以后再有人跟你聊 RAG,你能清楚地知道他在说哪一层。
一、Naive RAG(朴素 RAG)
所有故事都从这里开始。
Naive RAG 的流程,就是教科书里写的那一套:文档分块 → 向量化 → 相似度检索 → 拼 prompt → 生成回答。
简单粗暴,跑得起来。
但问题一堆。
最致命的是,检索这一步是“瞎”的。用户问“去年的销售额对比前年怎么样”,它可能检索回来一堆包含“销售额”的片段,但没有按时间排序,也没有跨片段做对比的能力。大模型拿到这些零散的片段,硬着头皮生成,结果就是一本正经地胡说八道。
所以后来的人,都是在给它打补丁。
二、Advanced RAG(高级 RAG)
打补丁的第一步,是把检索这个环节拆开,前后都加东西。
检索前:先对用户的问题做改写、扩展、分解。比如把“那个事”改写成具体指代,把“对比 A 和 B”拆成两个子查询。
检索中:不光用向量检索,还加上关键词检索(BM25),两个一起用,互补。
检索后:把检索回来的东西重新排序。因为向量检索的“相似”经常不等于“有用”,用一个专门的 rerank 模型再筛一遍。
Advanced RAG 就是这一整套优化手段的合集。
它没有改变 Naive RAG 的骨架,只是把每个关节都磨亮了。对于大多数场景,做到这一步效果就已经不错了。
Naive RAG vs Advanced RAG 流程对比
三、Modular RAG(模块化 RAG)
到了这一步,有人发现一个问题:不同的场景,需要的组件完全不一样。
问答类的场景,需要强检索;摘要类的场景,检索不重要;多轮对话,需要记忆模块;有些场景还需要路由,先判断问题类型再决定走哪条路。
于是 RAG 被拆成了乐高。
检索、路由、记忆、融合、合成……每一个环节都是独立的模块,可以插拔、可以替换、可以重新组合。
换句话说,Modular RAG 更多是一种工程哲学。它告诉你:把 RAG 看作一条流水线,每个工序都可以按需定制。
后面所有的架构,其实都可以看作是 Modular RAG 的某种特例。
到这里为止,前三种解决的都是“怎么检索得更准”。
但有人发现了一个更尴尬的问题:检索回来的东西,模型根本不知道该不该信。
这就引出了下一波。
四、Self-RAG(自反思 RAG)
核心思想一句话:让大模型自己判断。
不是所有问题都需要检索。你问“1+1 等于几”,模型本来就会,硬塞一堆检索结果进去反而干扰。也不是所有检索结果都靠谱,模型得能判断这段内容到底相不相关。
Self-RAG 训练模型生成一种叫“反思 token”的东西,在关键节点上自己做决策:这个问题要不要检索?检索回来的东西有没有用?最后生成的回答有没有依据?
简单说,它给模型装了一个“自检开关”。
好处是可控性大幅提升,模型不再无脑地用检索结果。代价是得专门训练,成本不低。
五、Corrective RAG / CRAG(纠正性 RAG)
思路类似,但走的是另一条路。
CRAG 加了一个“检索评估器”。检索回来的文档,先打分。分高的是“正确”知识,精炼后使用;分低的是“噪声”,直接扔掉;如果全都不行,就触发 web 搜索,重新找。
它的逻辑是:与其让模型硬吞一堆不靠谱的内容,不如先过滤一遍。
Self-RAG 是模型自己反思,CRAG 是外部加个质检员。目的都是一样的——别让烂检索毁了最终回答。
六、Adaptive RAG(自适应 RAG)
又往前走一步。
前面所有的架构,不管问题简单还是复杂,走的都是同一条流水线。问题是有代价的:简单问题也走完整流程,又慢又费钱;复杂问题走单步检索又不够。
Adaptive RAG 会先给查询分类。简单的事实性问题,直接让模型答;中等复杂度的,单步检索;需要多跳推理的复杂问题,走多步检索甚至迭代检索。
它像一个智能的分诊台,根据病情轻重把患者送到不同的诊室。
Self-RAG / CRAG / Adaptive RAG 决策流程
到这里,前 6 种 RAG 处理的还都是“文本对文本”的世界。
但知识从来不只是文本。这就有了后面三种。
七、GraphRAG(图 RAG)
传统的 RAG 有一个死穴:它回答不了“全局性”的问题。
你问“这本书的核心观点是什么”,向量检索会找回几个看起来相关的片段,但它拼不出全貌。因为向量检索本质上是局部匹配,它看不到文档和文档之间的结构关系。
GraphRAG 把这件事彻底换了思路。它先从文档里抽取实体和关系,构建成一张知识图谱,然后在这张图上做社区发现,给每个社区生成摘要。回答问题的时候,它沿着图的脉络去走,能看到全局的结构。
代价是构建图谱又慢又贵。但遇到那种需要“纵观全局”的问题,它是目前最靠谱的解法之一。
八、Agentic RAG(智能体 RAG)
这是目前最火的方向。
前面的 RAG,无论怎么优化,本质都是“一次性的流水线”:检索一次,生成一次,结束。
但真实世界里,很多问题不是一次检索就能解决的。比如“帮我分析一下这家公司今年的财务状况,并对比它的三个主要竞争对手”,这种问题需要规划、需要多轮检索、需要调用不同的工具(查财报、查新闻、算指标)、需要中间推理。
Agentic RAG 把 RAG 变成了 Agent 的一个工具。大模型作为大脑,自主决定:现在该不该检索?检索什么?用哪个数据源?检索结果够不够?不够就再来一轮。
这一次,流水线变成了一个会思考、会行动的助手。
能力最强,复杂度也最高。光是延迟和成本这两件事,就够工程团队头疼一阵了,稳定性更是新的考验。
九、Multi-modal RAG(多模态 RAG)
最后一种,把 RAG 从纯文本拓展到了所有模态。
文档里有图表、有图片、有 PDF 里的表格、有视频里的画面,这些都能被检索、被理解、被生成。
实现路径有很多种:可以用多模态 embedding 统一检索,可以把图片转成文字描述再走文本 RAG,也可以直接用多模态大模型端到端处理。
它解决的是“真实世界的信息本来就是多模态的”这件事。
GraphRAG / Agentic RAG / 多模态 RAG 能力象限
九种讲完了。
最后我给你一个总结性的判断,免得你看完还是懵的。
如果你刚开始做 RAG,先从 Naive RAG 起步,能跑就行。
跑起来之后效果不好,就上 Advanced RAG 的那套优化(查询改写、混合检索、rerank),这是性价比最高的一步。
如果你的场景需要灵活组合不同能力,用 Modular RAG 的思路来组织系统。
如果你发现检索结果经常不靠谱、模型乱用,考虑 Self-RAG 或 CRAG 的思路,加一道“质量检查”。
如果你的问题复杂度差异很大,Adaptive RAG 帮你做分流。
如果你要回答全局性、结构性的问题,上 GraphRAG。
如果你的任务需要多步规划、多轮检索,Agentic RAG 是目前的天花板。
如果你的数据不止是文字,Multi-modal RAG。
就这么简单。
不要一上来就 Agentic RAG、GraphRAG,那是杀鸡用牛刀,又贵又慢还不一定稳。
也不要永远停留在 Naive RAG,然后抱怨“RAG 效果真差”。
RAG 不是一个东西,它是一整个方案的家族。
你选哪一种,取决于你要解决什么问题。
至于哪个最新、哪个最酷,那是另一回事。
以上,既然看到这里了,
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
为什么要学习大模型?
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
大模型入门到实战全套学习大礼包
1、大模型系统化学习路线
作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!
2、大模型学习书籍&文档
学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。
3、AI大模型最新行业报告
2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
4、大模型项目实战&配套源码
学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。
5、大模型大厂面试真题
面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
适用人群
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。