规模定律

规模定律描述的是语言模型在参数量、训练数据和算力同步扩大时，测试损失按幂律平稳下降的经验规律。专题会讲清这条规律如何指导训练预算的分配、为何存在算力最优的参数与数据配比，以及它只能预测平均损失、不能直接保证某项具体能力会在何时出现的边界。