RAG系统如何选对LLM？RAG-Interview-Questions-and-Answers-Hub梳理框架选型、提示词设计与推理超参数考点

RAG-Interview-Questions-and-Answers-Hub 是一个收录了100+ RAG 面试真题及参考答案的开源题库。今天我们从其中提炼出新手最容易踩坑的一组考点：RAG 系统如何选择 LLM、RAG 框架选型、提示词（Prompt）设计与推理超参数调优。读完这篇指南，你就能建立起一套清晰的 RAG 选型决策框架，面试或实战都能直接套用。

🎯 选对 LLM：RAG 系统的三个核心决策维度

很多新手选 LLM 只看"模型跑分"，但 RAG 场景下的选型逻辑完全不同。题库中的 Q16 给出了三个最关键的考量维度：

此外，基础设施兼容性与许可证（Licensing）条款也是生产环境落地的隐藏考点。

⚠️Q23 高频追问：如果生成器 LLM 太"弱"会怎样？即使检索到的上下文质量很高，弱模型也可能生成不完整甚至幻觉内容，让整条 RAG 链路失去价值——所以"强生成器"是 RAG 系统的必要条件。

完整解析见：Interview_QA/QA_16-18.md

📝 RAG 提示词设计：与普通提示词有何本质区别？

RAG 提示词不是"把文档贴上去"这么简单。Q17 点出了两者的结构差异：

RAG 提示词的核心是"接地（Grounding）"：指令要明确要求模型只依据给定上下文回答，这样才能有效抑制幻觉。掌握这一设计思想后，建议进一步学习 Zero-shot、Few-shot、Chain of Thought 等系统化提示工程技巧：

⚙️ 推理超参数速查：Temperature、Max Tokens 与 Top-k 怎么调

Q18 把 RAG 管线的关键超参数分成了"检索侧"和"生成侧"两组，这是面试必答点：

• 检索侧：chunk size（分块大小）、chunk overlap（分块重叠）、embedding 维度、retrieval top-k（返回条数）、相似度阈值
• 生成侧：temperature（随机性）、max output length（最大输出长度）

调参实战口诀（Q21）：

1. Temperature 调低→ 回答更聚焦、更确定，适合技术类、事实型 RAG 问答；调高则更有创意，但会放大幻觉风险
2. Max tokens 按需收紧→ 在回答完整性与响应延迟之间取平衡
3. 最优取值依赖具体应用场景，通过迭代实验确定，没有万能公式

Q20 进阶考点：LLM 上下文窗口越大，你越能塞入更多 chunk——但超过一定规模后，"lost in the middle"（中间内容被忽视）问题与延迟上升会让收益递减。上下文窗口大小本质上会反向影响你的 chunk size 和 top-k 取值。

详细答案见：Interview_QA/QA_19-21.md

🧰 RAG 框架选型指南：LangChain、LlamaIndex 还是 Haystack？

Q19 是框架选型的经典考题，三大主流框架各有主场：

题库给出的推荐答案是LangChain，理由正是其生态与社区优势。但记住面试加分项：说出"为什么适合你的场景"比"它有什么功能"更重要。

Q22 追加分考点——推理型 vs 非推理型 LLM：

• 推理型 LLM（如 GPT-4o1、DeepSeek R1）具备 test-time compute 与思维链能力，能做多步推理，是更强的 RAG 生成器
• 非推理型 LLM 更便宜、更快，适合大量简单查询
• 结论：按查询复杂度决定，而非一刀切

完整解析见：Interview_QA/QA_22-24.md

📚 延伸学习：按主题定位题库文件

题库按题号分段组织，建议按主题组合阅读：

• 总览与全部题目录：README.md
• LLM 选型 + RAG 提示词 + 关键超参数（Q16–Q18）：Interview_QA/QA_16-18.md
• RAG 框架选型 + 上下文窗口影响 + 推理超参数取值（Q19–Q21）：Interview_QA/QA_19-21.md
• 推理型/非推理型 LLM 对比 + 弱生成器问题（Q22–Q24）：Interview_QA/QA_22-24.md
• 检索与评估指标深挖（Q40–Q105）：Interview_QA/QA_40-42.md

如果想在模型与工具层面补齐知识版图，作者还有两个姊妹项目值得收藏——分类整理的 200+ 篇 LLM 综述论文集，以及按训练、推理、Agent 等类别梳理的 120+ LLM 工程库清单：

总结：选 RAG 的 LLM，看阅读理解、上下文窗口与推理速度三件套；设计 RAG 提示词，核心是"指令 + 查询 + 上下文"的接地结构；调超参数，记住"低温求稳、top-k 求召回、窗口反推 chunk"。掌握这三步，你的 RAG 面试与工程决策都稳了一半。