预训练

预训练是大模型在海量通用数据上自监督学习语言、知识与推理雏形的阶段，决定了模型的能力上限和知识截止时间。本文讲清预测下一个词为何能学会语言、它与微调和对齐的先后区别、常见误解与成本边界，适合刚开始系统理解大模型训练流程的读者。

微调是拿现成大模型用领域数据继续训练、把它变成行业专家的方法。本文讲清微调的定义、两种做法、与提示词工程/RAG/蒸馏的区别，以及何时值得做，适合想真正理解大模型训练的入门读者。

Transformer 是几乎所有大语言模型的底层架构。本文讲清自注意力机制如何工作、编码器与解码器的分工、它和 RNN/CNN 的本质区别，以及普通人用好大模型最该记住的三个边界，帮你从零建立对大模型的正确认知。