DPO

• 大模型对齐训练实战：RLHF与DPO偏好优化方案要点解析

  大模型对齐训练的目标是把模型输出行为约束到人类偏好上，解决回答有害、事实编造、拒绝执行等问题。当前工业界两条主流路线分别是RLHF（基于人类反馈的强化学习）和DPO（直接偏好优化）…

  人工智能 1天前