监督微调
用人工写好的问答示例继续训练大模型,让它学会按指令回答:讲清数据、训练目标与它在预训练和对齐之间的位置。
专题介绍
监督微调拿人工写好的指令与回答示例继续训练已预训练的大模型,教它一问一答的形态、任务做法与输出格式。本专题拆解数据、训练目标与评估方法,讲清它与预训练、通用微调、RLHF 的区别,以及数据质量为何比数量更重要。
用人工写好的问答示例继续训练大模型,让它学会按指令回答:讲清数据、训练目标与它在预训练和对齐之间的位置。
监督微调拿人工写好的指令与回答示例继续训练已预训练的大模型,教它一问一答的形态、任务做法与输出格式。本专题拆解数据、训练目标与评估方法,讲清它与预训练、通用微调、RLHF 的区别,以及数据质量为何比数量更重要。