语言模型

语言模型的核心任务是估计一段文字之后最可能出现什么。训练让它从海量文本中学会语法、事实搭配与行文习惯，推理时再用这些概率逐词生成内容，是今天大模型的基础。理解语言模型，才能分清它是在预测文字，还是在真正理解问题。