运营开需求会时说了两句话:「帮我预测哪些用户下个月会流失」和「帮我预测下个月能收多少钱」。产品同学觉得这是同一件事,都是「预测」,于是让算法同学用同一个模型跑。结果分类模型输出 0.83 这样的数,运营问这是八十三个人还是要收八十三万;回归模型输出 128.6,运营又问这到底是金额还是概率。
问题不在模型,而在需求没有被拆成正确的任务类型。分类和回归是监督学习的两大分支,它们都用带标签的数据训练,但预测的东西根本不同:分类预测「属于哪一类」,回归预测「一个连续数值」。输出形式不同,评估方式不同,出错后的补救方式也不同。
这篇要讲清楚:分类到底在输出什么,为什么它给的分数不能直接当概率用;回归预测的为什么是平均值而不是某个人的真实值;监督学习成立需要哪些前提;以及哪些问题看起来像预测,实际上不该用监督学习解决。读完你应该能在需求评审时,把一句模糊的「预测一下」拆成可训练的任务。
同一个需求,两种任务
「会不会流失」的答案是是或否,属于分类;「会花多少钱」的答案是一个金额,属于回归。这两类任务的标签形态不同,模型输出也不同。分类的标签是离散类别,回归的标签是连续数值。
分类
标签是类别:流失或不流失、垃圾或正常、猫或狗。模型通常先给出每个类别的分数,再按阈值或取最大值变成最终类别。评估看混淆矩阵、精确率、召回率,而不是看误差大小。
回归
标签是数值:下月消费金额、房价、剩余寿命。模型直接输出一个数。评估看平均绝对误差、均方根误差等,关心的是「离真实值多远」,而不是「分对了几个」。
分类还可以细分为二分类、多分类和多标签。二分类只有一个决策边界;多分类要在多个类别之间选一个;多标签则是一条样本可以同时属于多个类别,比如一张图片既含「人」又含「车」。这三类的评估方式不一样,不能拿二分类的准确率套到多标签上。
回归也有变体。有的回归预测一个点值,有的预测一个区间,有的预测计数。预测区间和点值的区别很大:点值告诉你「最可能是多少」,区间告诉你「大概在什么范围内」。业务上需要备货时,区间往往比点值更有用。
分类预测的是一条边界
分类模型真正学到的,是把特征空间切成几块的那条边界。边界一侧判为流失,另一侧判为不流失。模型输出的 0.83 不是「这个人有 83% 的概率流失」,而是一个分数,表示它认为这条样本离边界有多远。只有经过校准,这个分数才可以近似当成概率使用。
为什么这个区别重要?因为阈值是人选的。模型说 0.83,业务规定超过 0.8 就发挽留券,那这个人才会被挽留。换个团队把阈值定在 0.9,同一个人就被放过。模型没变,决策变了。很多「模型效果不好」的争论,其实是在争阈值定在哪里。
边界的位置由训练数据决定,但边界形状由模型决定。线性模型只能画一条直线或超平面,遇到「中间是正类、两边是负类」的数据就无能为力;树模型可以画很多个矩形块;核方法能把边界弯起来。选模型,本质上是在选「允许边界长成什么样」。
二分类的边界只有一条,多分类则是一组边界互相竞争。常见做法是「一对多」:每个类别训练一个「是不是我」的二分类器,最后取分数最高的那个。这样做简单,但类别多时容易出现类别不平衡,某些类别的样本被其他类淹没。
回归预测的是条件均值
回归模型输出的那个数,通常不是「这个人的真实答案」,而是「在给定特征下,所有类似样本的平均答案」。训练时最小化平方误差,模型会向条件均值靠拢。也就是说,它预测的是平均值,不是某一个具体个体的结果。
这带来一个反直觉的结论:一个拟合很好的回归模型,在单条样本上仍然可能错得很离谱。比如预测下月消费,模型说 128 元,实际有人花 0 元、有人花 3000 元,这两个极端都会让单条误差很大。评估时看的是整体平均误差,不是某一条准不准。
最小化平方误差会让模型特别在意大误差。一个实际消费 3000 元的样本,误差被平方后权重很高,模型会为了照顾它而把整体预测往上抬。如果业务更在意普通用户的误差,或者数据里有很多异常值,用平均绝对误差训练会更稳。损失函数的选择,直接决定模型偏向哪一类样本。
还有一个常见误解:回归输出可以随便截断。预测金额为负数,截成 0 看起来合理,但如果大量样本被截断,说明模型没学好,截断只是把问题藏起来。正确做法是先检查特征和标签分布,再决定是否需要对标签做变换,比如取对数。
回归还要区分「预测一个点」和「预测一个范围」。业务说「预估下月销量」,真正要的是备货区间,不是一个小数点后的精确值。点值模型给出 128 台,如果实际在 60 到 220 之间波动,按 128 备货就会缺货或压货。需要区间时,要么用分位数回归,要么用残差分布估一个范围,不能拿点值当区间用。
监督学习成立的四个前提
监督学习不是万能工具。它的名字里的「监督」,指的是每条训练样本都有标准答案。这个前提不成立,整套方法就无法启动。
四个前提里,最容易被忽略的是第二个。训练集往往来自历史数据,而线上面对的是未来数据。历史里没有的新品类、新渠道、新攻击手法,模型一概不认识。分布漂移不是异常,是常态。上线前要问:如果下个月用户结构变了两成,这个模型还成立吗?
第三个前提也经常被破坏。训练表里填好的字段,在预测时刻可能还没产生。比如用「最终成交金额」预测「是否成交」,用「审核结果」预测「是否违规」。这类字段看起来相关性极强,实际上是答案的另一种写法。
第四个前提则决定了很多项目的天花板。如果业务规则本身就决定了结果,比如「未满十八岁不能购买」,那不需要模型;如果结果主要由随机因素决定,模型也只能给出一个接近基准率的猜测。判断有没有可学的信号,可以先看特征和标签之间是否存在稳定的统计关联。
什么时候不该用监督学习
有四种情况,看起来像预测问题,实际上不该交给监督学习。
第一种是没有标签。比如「这批新评论里哪些是垃圾」,如果没有任何已标注样本,监督学习无从训练。可以先做规则、聚类或异常检测,再逐步积累标签,而不是硬编一个标签出来。
第二种是因果问题。运营问「为什么转化率下降」,这是归因,不是预测。模型能告诉你「哪些特征和转化相关」,但相关不等于因果。要回答「改哪一处会让转化上升」,需要实验或因果推断,而不是训练一个预测模型。
第三种是硬性规则。合规、安全、权限这类问题必须可审计、可解释,不能交给一个概率模型去猜。可以保留规则做最终裁决,模型只负责排序或提示,不能替代规则。
第四种是标签严重延迟或不可得。比如预测「用户十年后的终身价值」,标签要等十年,训练周期无法闭环。这时要么换一个更短的代理目标,要么接受这是一个长期研究问题,而不是可上线的监督学习任务。
标签少但并非完全没有时,也不必立刻放弃监督学习。可以先人工标一小批,训练一个弱模型,再用它挑出「最不确定」的样本让人复核,这叫主动学习。核心思路是把标注预算花在边界附近,而不是随机撒在所有样本上。它仍然是监督学习,只是把标注过程变成了迭代的。
跑起来对不上,按这张表查
下面用一个阈值分类器和均值基线做演示。分类任务只有 9 条样本,回归任务用 6 个数值。代码只用标准库。
import math
# 分类:9 条样本,特征只有「外链数」,标签 1 表示垃圾
data = [(1, 0), (2, 0), (2, 0), (3, 0), (4, 0),
(5, 0), (5, 1), (6, 1), (7, 1)]
for threshold in (4, 5, 6):
correct = sum(1 for x, y in data if (x >= threshold) == (y == 1))
print("阈值", threshold, "准确率", correct, "/", len(data),
"=", round(correct / len(data), 3))
# 回归:6 个真实值,用「训练集均值」作为最笨的基线
ys = [3.2, 4.0, 5.5, 2.8, 6.1, 4.4]
mean_y = sum(ys) / len(ys)
mae = sum(abs(y - mean_y) for y in ys) / len(ys)
rmse = math.sqrt(sum((y - mean_y) ** 2 for y in ys) / len(ys))
print("均值基线:", round(mean_y, 2), "MAE:", round(mae, 2), "RMSE:", round(rmse, 2))
本机实际输出:
阈值 4 准确率 7 / 9 = 0.778
阈值 5 准确率 8 / 9 = 0.889
阈值 6 准确率 8 / 9 = 0.889
均值基线: 4.33 MAE: 1.0 RMSE: 1.17
两个阈值并列 0.889,因为外链数为 5 的样本里同时有正例和反例,单靠这一个特征无法把它们分开。这就是分类任务的边界之争:模型只能做到这个程度,再调阈值也只是在两类错误之间换位置。回归的均值基线 MAE 是 1.0,意思是「什么都不做,全猜平均值」平均也会错 1.0。新模型如果没有明显低于这个基线,就还没有学到东西。
实际排查时,按现象倒查通常更快:
| 现象 | 真实原因 | 第一步查什么 |
|---|---|---|
| 分类准确率和基准率一样 | 模型没学到信号,或标签与特征无关 | 先算「全猜多数类」的准确率,作为必须超过的底线 |
| 精确率很高、召回率很低 | 阈值定得太高,模型只敢在很有把握时判正 | 画阈值与精确率、召回率的关系,确认业务更需要哪一种 |
| 回归误差很大但分布正常 | 存在少数极端值,平方损失被它们主导 | 看误差分位数,确认是否要换绝对误差或对标签做变换 |
| 分类输出被当成概率直接用 | 模型分数未校准,和真实频率不一致 | 按分数分桶,统计每桶实际正例率,看是否贴合 |
| 训练集好、验证集差 | 模型记住了训练样本,或切分有泄漏 | 检查切分方式,按用户或时间切,而不是随机切行 |
| 多分类总有一类被忽略 | 类别不平衡,模型偏向多数类 | 看每类样本量,按类别分别算召回率 |
| 回归预测值全挤在均值附近 | 特征没有信息量,模型退化成均值基线 | 计算特征与标签的相关系数,确认是否真的相关 |
边界与代价
分类的代价主要在阈值和两类错误的非对称性。漏掉一个会流失的用户,和误发一张挽留券,成本不同。评估时不能只报一个准确率,要分开报精确率和召回率,让业务方选一个可接受的位置。阈值一旦定了,还要随业务变化复查。
回归的代价主要在误差的分布,而不是平均值。整体 MAE 是 1.0,可能大部分样本误差只有 0.2,少数样本误差 8.0。如果业务按最坏情况做预算,平均值会严重低估风险。要同时看误差的分位数和最大值,必要时给出预测区间。
两类任务都需要警惕「指标好看但业务无用」。分类的 F1 很高,可能只是因为正例极少、模型几乎不判正;回归的 R² 很高,可能只是因为标签本身方差很小。指标要和业务收益对齐,而不是和算法排行榜对齐。
最后是维护成本。分类阈值、回归损失、标签定义,任何一项变了,历史结果都不可直接比较。上线前把这些定义写清楚,改的时候同步更新,比事后解释「为什么这个月和上个月不一样」省事得多。
上线后的监控也要分类型。分类模型要监控预测为正的比例、各分数段的实际正例率、以及不同渠道的召回差异;回归模型要监控预测均值、误差分位数和异常大误差的样本比例。只监控一个总体准确率,等于把分布漂移藏在平均值里。监控指标和离线评估指标应当能对得上,否则线上报警和离线报告会各说各话。
当天能自验的五个练习
- 把阈值分类器的 9 条样本改掉一条,让最佳准确率变成 1.0,再改一条让它掉到 0.667。记录哪条样本决定了边界。
- 把回归的 6 个值加一个 100.0,重新算均值基线、MAE 和 RMSE,观察哪个指标被极端值拉得最厉害。
- 分别用「全猜不流失」和「阈值 5」两种策略,在同一批样本上算准确率。说清楚为什么基准率是分类任务的第一道门槛。
- 把回归目标取对数后再算一遍 MAE,比较和原始尺度的差异。想一想什么时候该在什么尺度上评估。
- 列一个你身边「看起来像预测」的需求,用四个前提逐条检查,写出它最可能卡在哪一条。
小结
分类预测的是类别边界,模型分数要经过阈值才变成业务动作;回归预测的是条件均值,单条样本的误差可能远大于整体平均误差。两者都依赖可靠标签、同分布数据和预测时可得特征,缺一条就不成立。
当没有标签时,监督学习就失灵了。下一篇讲无监督学习:在没有答案的情况下,聚类、降维和异常检测分别能发现什么,以及为什么聚类出来的组不能直接当成类别用。