提示词和 RAG 都调过了,模型还是错?先判断这件事值不值得训练
模型 API 接进业务之后,问题会变得很具体:工单能不能分对,关键字段能不能抽全,工具调用能不能走通,每次成功处理到底花多少钱。
提示词改了好几版,知识检索也接上了,流程来回顺过。常规工单处理得还行,但一碰到相近产品、行业缩写,或者一张工单里混着两三个诉求,模型就开始错分,字段也会漏。
这时候值得考虑一件事:是不是该做模型训练了。 阿里云百炼提供 SFT、DPO、CPT、强化学习和 OPD 蒸馏等训练方式,覆盖文本、视觉理解、图像、视频和语音模型。它还能训练通义系列里未开源的模型,企业不用只盯着开源基座。
先判断,别急着训练
拿工单处理来说,系统要做的是识别问题类别、提取关键字段,再分派给对应团队。现有模型对常见工单没问题,但在相近产品、缩写和多诉求混杂的工单上出错。
用三个问题判断值不值得训:
问题能不能说清楚。 哪些类别容易混,哪些字段绝对不能漏,要有一份明确的清单。说不清楚“错在哪”,训练就没有靶子。
样本够不够学。 历史工单、分类规则、人工确认过的结果,能不能整理成训练数据。样本太少或者太脏,训了也白训。
改进能不能量出来。 要有一份独立的评测集,先把现有模型的表现记下来作为基线。没有基线,训完你无法判断是真的变好了,还是碰巧。
同时要排除不该训练的情况。产品知识更新不及时,先修检索;接口报错或流程本身设计有问题,先改应用系统。训练解决的是模型在明确任务上的识别、生成和决策能力,不是修流程 bug 的工具。
选训练方式,看数据长什么样
工单任务的“输入—正确分类与字段”天然就是 SFT 样本。其他方式的对应关系可以直接对照数据条件来判断:
SFT 监督微调。 手里有业务输入和期望输出,用来做分类、抽取、业务问答和指令遵循。
DPO 偏好优化。 同一输入下有优劣不同的回答对。适合调整回答偏好、表达方式,或者纠正某个反复出现的错误行为。
CPT 继续预训练。 有充足且清洗过的领域文本。适合让模型适应领域的语言分布和知识背景。
RL 强化学习。 有任务数据、可执行的奖励评分和交互环境。适合提升推理、代码和工具调用的完成能力。
OPD 在线策略蒸馏。 需要教师模型和学生模型同系列,且教师能力更强。目的把大模型在特定任务上的能力迁移到小模型,降低推理成本。
这些方式可以组合,部分模型支持全参训练和 LoRA 高效训练。有一个选择容易被忽略:如果模型同时支持全参和高效训练,费用相同的情况下,官方推荐优先选全参,因为全参训练的效果比高效训练更好,性价比更高。
另外还有专项训练:视觉理解走千问 VL 的 SFT,图像和视频生成走 LoRA,语音合成走 CosyVoice,决策模型面向分类、评分、路由这类高频判断任务,不生成文本,需要联系商务经理开通。OPD 蒸馏目前仅限邀测客户使用。
平台管工程,企业管两件事
决定训练之后,剩下的环节可以拆成“平台做的”和“企业做的”。
平台负责训练资源、任务管理、日志指标查看、产出模型管理。SFT、DPO、CPT 这些都有 API,可以接进已有工程流程。文本生成模型在控制台提供自定义评测和基线评测,能用业务数据把原模型和调优模型拉出来对比,评分方式支持规则、模型或人工。调优后的模型可以部署成推理服务,通过 API 接进业务系统。
有一个现实限制需要提前知道:百炼调优后的模型不支持下载到本地部署,只能部署在百炼平台上调用。如果业务对数据驻留或本地部署有硬性要求,选型时要先把这条放进评估里,不要等训完了才发现走不通。
企业负责的是另外两件事:业务目标定得够不够窄,数据质量够不够支撑学习。这两件事平台替不了。
验证:先跑一个任务,别一上来就铺开
建议从一个明确的业务范围开始。保留独立测试集,完成小规模训练,部署训练好的模型,和原始模型做对比。
验收看几个数:分类准确率、关键类别的召回率、字段提取准确率,以及每次有效处理的成本。如果有人工兜底的环节,还要看人工修正的比例有没有降下来。达标之后灰度上线,持续收集失败样本做下一轮迭代。
如果目标是用小模型承接任务,要同时验证业务效果、响应延迟和部署成本。划不划算,得把调用量、资源利用率和人工兜底的成本放在一起算,不能只看单次推理价格。
启动之前,把这几样准备好
业务负责人和技术负责人坐在一起,把下面几件事对齐:
业务任务和基线。 现在用的什么模型,主要问题是什么,攒一批有代表性的失败样本。
数据条件。 数据类型、规模、标注情况、使用权属。
验收和分工。 目标指标是什么,评测集怎么来,数据、训练评测、系统接入分别谁负责。
上线计划。 部署在哪个地域,预计调用量多少,什么时候上,验证预算多少。
部署方式。 是否接受只能在百炼平台上调用、不能下载模型权重。
这几样齐了,就可以选模型和训练方式,先拿一个任务跑通验证。涉及商务开通的能力,比如决策模型和 OPD 蒸馏,联系阿里云客户经理时把上面这些信息一并带上,沟通会快很多。
模型训练不是万能药。但它解决的是提示词和 RAG 碰不到的那层问题:当任务足够明确、样本足够扎实、评测足够清楚的时候,把业务逻辑直接写进模型参数里,比在提示词里反复打补丁要稳。

