跳到主要内容

2 篇文档带有标签「instruction-tuning」

查看所有标签

SFT 指令微调

数据格式、chat template 与 loss mask,把 base model 训成能听指令的 instruct model

总览

本章节范围:把 06 章训出来的 base model 变成能听懂指令、回答有用、行为安全的 instruct/aligned model。两步:SFT (instruction tuning) 教模型听指令,RLHF / DPO 等对齐方法让回答符合人类偏好。