单一准确率为什么不够
同一个总体准确率,可能掩盖少数关键类别上的严重错误,也无法说明模型在弱光、遮挡、设备变化或新数据上的表现。企业真正关心的通常是错误会造成什么后果,以及系统能否稳定运行。
验收指标的四个层次
- 数据层:测试集来源、覆盖范围、样本版本和标注质量
- 模型层:准确率、召回率、误报率以及关键类别指标
- 系统层:响应时间、吞吐、资源占用、稳定性和降级策略
- 业务层:人工复核成本、可接受错误和上线后的监控方式
在项目开始前形成共同基线
建议在研发前冻结一版评测数据和指标定义,研发过程中记录模型、数据和代码版本,交付时再使用约定方法复测。这样可以减少双方对“效果是否达标”的理解差异。