从生成式输出到结构化决策:Unsloth 决策模型的微调机制与评测
将大语言模型用于结构化判定任务时,生成式输出会带来额外的解析成本。本文依据 Unsloth 官方文档与基准数据,梳理决策模型的机制要点:模型不生成文本,而是通过附加的决策头(decision head)读取各问题与选项位置上的表示,直接给出选项概率分布,单次前向即可回答多个问题。文中同时整理官方基准在准确率、显存占用与训练时长上的结果,概率校准(calibration)与模型持久化的接口,推理、评测与部署环节的工程约束,并说明该方案的适用范围与 GPU 依赖等限制。