AI导航

RAG 是什么?大模型先查资料再回答的原理讲清

AI百科
2 min read
1 次阅读

RAG(检索增强生成)是一种让大模型先查资料、再开口回答的技术:用户提问后,系统先从外部知识库里找出最相关的几段文字,把它们连同问题一起交给大模型,大模型再依据这些资料组织答案。它不改动模型参数,只给模型临时补课,回答因此能用上训练截止日期之后的新知识、私有文档和实时数据。

RAG 是怎么把资料塞进回答里的

流程分两步走。第一步是离线准备:把文档切成几百字一段的小块,用向量嵌入模型转成数字坐标,存进向量数据库,每段都保留原文出处。第二步是实时检索:用户提问也被转成向量,系统在库里找出语义最接近的几段,按相似度排序后拼进提示词,大模型照着这些材料作答,并能标出答案来自哪段原文。检索质量决定成败:切块太粗会混进无关内容,太细又会丢掉上下文。

RAG 和微调、直接提问有什么区别

直接提问只靠模型训练时记住的知识,遇到训练后才出现的事就容易编造;RAG 把答案的依据摆在眼前,幻觉明显减少,资料更新也不用重新训练。微调是把知识写进模型参数,适合改说话风格、学固定格式,但成本高、更新慢,知识一变就得重练;RAG 换资料只要更新知识库,适合知识常变、讲究出处的场景。两者也能叠加:先微调定风格,再用 RAG 供事实。

用 RAG 常踩的三个坑

一是以为接了知识库就万无一失:检索到的材料如果过时、矛盾或本身就是错的,模型会照着错答案说,查资料只能降低幻觉,不能根除。二是资料切块和嵌入模型没调好,问法稍换就搜不到关键段,答案看着通顺却答非所问。三是把 RAG 当成万能方案:问题不需要外部知识时,硬塞资料反而干扰模型,简单问题直接问更快更准。

最适合 RAG 的地方是企业内部问答、客服知识库、法规与产品文档查询:资料明确、出处重要、内容常更新。它也常和AI Agent搭配:智能体遇到不懂的问题先检索,再决定下一步动作。写小说、做头脑风暴、聊开放话题时不需要它。动手之前先准备好干净的资料源,资料本身混乱,再好的检索也救不回来。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 弱鸡AI AI视频 低价AI视频生成聚合平台,seedance2.0,seedance2.5,minimax h3,wan,muse等视频生成模型,支持在线创作与 API 接入。 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。