AI百科

投机解码让小草稿模型先猜几步、大模型并行验算，在不改变输出的前提下加快逐词生成。本文讲清接受与回退的原理、与量化和KV缓存的区别、常见误解和适用场景，适合想看懂推理提速的入门读者。

DPO直接用人类挑好的成对回答训练大模型，不再单独训练奖励模型，也不跑强化学习。本文讲清它与RLHF的流程差异、β参数的作用和偏好数据的局限，适合刚读完RLHF、想看懂对齐训练为何变简单的入门读者。

LoRA冻结预训练模型的全部原参数，只训练注入的低秩小矩阵，就能完成领域适配。本文讲清低秩为什么成立、秩该怎么选、它与全参数微调和QLoRA的区别与常见误解，适合想用普通显卡微调开源模型的入门读者。

函数调用让大模型能按结构化参数点名外部工具查数据、订服务、办业务，把聊天变成做事。本文讲清一次调用的完整流程、它与结构化输出、MCP和智能体的区别，以及误调用与越权等风险边界，适合想理解AI为何能动手的入门读者。

RLHF是用人类偏好训练大模型的后训练方法：先示范、再排序、最后按分数强化学习。本文讲清它与预训练、微调的先后区别，奖励投机与谄媚等局限，以及直接偏好优化等替代路线，适合想看懂聊天助手为何听话的读者。

KV缓存是大模型生成时把前文算过的键和值存住、后续直接复用的机制，省去重复计算，也吃掉大量显存。本文讲清它如何加速生成、与注意力机制和上下文窗口的区别、常见误解，以及长对话变慢和显存不够时的实际边界，适合想看懂推理速度的读者。

预训练是大模型在海量通用数据上自监督学习语言、知识与推理雏形的阶段，决定了模型的能力上限和知识截止时间。本文讲清预测下一个词为何能学会语言、它与微调和对齐的先后区别、常见误解与成本边界，适合刚开始系统理解大模型训练流程的读者。

扩散模型是文生图和视频生成的主流方法：它先学会把清晰画面逐步加噪、再逆向去噪，生成时从纯噪声里一步步还原出符合文字的画面。本文讲清它与大语言模型逐词生成、与GAN的区别、常见误解，以及出图慢和文字难控等限制，适合想看懂AI绘图原理的读者。

混合专家模型（MoE）先由路由器为每个 Token 挑选少数专家，再完成计算。本文讲清总参数与激活参数的区别、它与稠密模型和量化的边界、常见误解，以及省计算却不省显存的限制，适合想看懂模型参数表的读者。

模型量化是把大模型权重从 FP16 换成 INT8、INT4 低精度保存和计算的做法。本文算清它省多少显存、为什么精度降了效果没有同比例变差、与蒸馏和剪枝的区别，以及本地部署该选哪一档、哪些任务不该量化，适合第一次接触本地大模型的读者。