运营开需求会时说了两句话:「帮我预测哪些用户下个月会流失」和「帮我预测下个月能收多少钱」。产品同学觉得这是同一件事,都是「预测」,于是让算法同学用同一个模型跑。结果分类模型输出 0.83 这样的数,运营问这是八十三个人还是要收八十三万;回归模型输出 128.6,运营又问这到底是金额还是概率。

问题不在模型,而在需求没有被拆成正确的任务类型。分类和回归是监督学习的两大分支,它们都用带标签的数据训练,但预测的东西根本不同:分类预测「属于哪一类」,回归预测「一个连续数值」。输出形式不同,评估方式不同,出错后的补救方式也不同。

这篇要讲清楚:分类到底在输出什么,为什么它给的分数不能直接当概率用;回归预测的为什么是平均值而不是某个人的真实值;监督学习成立需要哪些前提;以及哪些问题看起来像预测,实际上不该用监督学习解决。读完你应该能在需求评审时,把一句模糊的「预测一下」拆成可训练的任务。

同一个需求,两种任务

「会不会流失」的答案是是或否,属于分类;「会花多少钱」的答案是一个金额,属于回归。这两类任务的标签形态不同,模型输出也不同。分类的标签是离散类别,回归的标签是连续数值。

分类

标签是类别:流失或不流失、垃圾或正常、猫或狗。模型通常先给出每个类别的分数,再按阈值或取最大值变成最终类别。评估看混淆矩阵、精确率、召回率,而不是看误差大小。

回归

标签是数值:下月消费金额、房价、剩余寿命。模型直接输出一个数。评估看平均绝对误差、均方根误差等,关心的是「离真实值多远」,而不是「分对了几个」。

分类还可以细分为二分类、多分类和多标签。二分类只有一个决策边界;多分类要在多个类别之间选一个;多标签则是一条样本可以同时属于多个类别,比如一张图片既含「人」又含「车」。这三类的评估方式不一样,不能拿二分类的准确率套到多标签上。

回归也有变体。有的回归预测一个点值,有的预测一个区间,有的预测计数。预测区间和点值的区别很大:点值告诉你「最可能是多少」,区间告诉你「大概在什么范围内」。业务上需要备货时,区间往往比点值更有用。

分类预测的是一条边界

分类模型真正学到的,是把特征空间切成几块的那条边界。边界一侧判为流失,另一侧判为不流失。模型输出的 0.83 不是「这个人有 83% 的概率流失」,而是一个分数,表示它认为这条样本离边界有多远。只有经过校准,这个分数才可以近似当成概率使用。

为什么这个区别重要?因为阈值是人选的。模型说 0.83,业务规定超过 0.8 就发挽留券,那这个人才会被挽留。换个团队把阈值定在 0.9,同一个人就被放过。模型没变,决策变了。很多「模型效果不好」的争论,其实是在争阈值定在哪里。

从特征到业务动作
特征订单数、登录天数、投诉次数
模型分数一个连续值,比如 0.83
阈值业务定的分界线,比如 0.80
类别与动作判为高风险,发挽留券

边界的位置由训练数据决定,但边界形状由模型决定。线性模型只能画一条直线或超平面,遇到「中间是正类、两边是负类」的数据就无能为力;树模型可以画很多个矩形块;核方法能把边界弯起来。选模型,本质上是在选「允许边界长成什么样」。

二分类的边界只有一条,多分类则是一组边界互相竞争。常见做法是「一对多」:每个类别训练一个「是不是我」的二分类器,最后取分数最高的那个。这样做简单,但类别多时容易出现类别不平衡,某些类别的样本被其他类淹没。

回归预测的是条件均值

回归模型输出的那个数,通常不是「这个人的真实答案」,而是「在给定特征下,所有类似样本的平均答案」。训练时最小化平方误差,模型会向条件均值靠拢。也就是说,它预测的是平均值,不是某一个具体个体的结果。

这带来一个反直觉的结论:一个拟合很好的回归模型,在单条样本上仍然可能错得很离谱。比如预测下月消费,模型说 128 元,实际有人花 0 元、有人花 3000 元,这两个极端都会让单条误差很大。评估时看的是整体平均误差,不是某一条准不准。

最小化平方误差会让模型特别在意大误差。一个实际消费 3000 元的样本,误差被平方后权重很高,模型会为了照顾它而把整体预测往上抬。如果业务更在意普通用户的误差,或者数据里有很多异常值,用平均绝对误差训练会更稳。损失函数的选择,直接决定模型偏向哪一类样本。

还有一个常见误解:回归输出可以随便截断。预测金额为负数,截成 0 看起来合理,但如果大量样本被截断,说明模型没学好,截断只是把问题藏起来。正确做法是先检查特征和标签分布,再决定是否需要对标签做变换,比如取对数。

回归还要区分「预测一个点」和「预测一个范围」。业务说「预估下月销量」,真正要的是备货区间,不是一个小数点后的精确值。点值模型给出 128 台,如果实际在 60 到 220 之间波动,按 128 备货就会缺货或压货。需要区间时,要么用分位数回归,要么用残差分布估一个范围,不能拿点值当区间用。

监督学习成立的四个前提

监督学习不是万能工具。它的名字里的「监督」,指的是每条训练样本都有标准答案。这个前提不成立,整套方法就无法启动。

有可靠标签:答案要能获取、口径一致、噪声可控。标签错了,模型学到的就是错的映射。
训练与线上同分布:训练样本要能代表预测时会遇到的数据。渠道、时间、用户结构变了,关系就可能失效。
特征在预测时可得:训练时用的字段,预测时必须已经确定。否则就是特征泄漏。
问题本身可学:输入和输出之间要有稳定的统计关系。纯随机或纯人为规则的结果,学不出来。

四个前提里,最容易被忽略的是第二个。训练集往往来自历史数据,而线上面对的是未来数据。历史里没有的新品类、新渠道、新攻击手法,模型一概不认识。分布漂移不是异常,是常态。上线前要问:如果下个月用户结构变了两成,这个模型还成立吗?

第三个前提也经常被破坏。训练表里填好的字段,在预测时刻可能还没产生。比如用「最终成交金额」预测「是否成交」,用「审核结果」预测「是否违规」。这类字段看起来相关性极强,实际上是答案的另一种写法。

第四个前提则决定了很多项目的天花板。如果业务规则本身就决定了结果,比如「未满十八岁不能购买」,那不需要模型;如果结果主要由随机因素决定,模型也只能给出一个接近基准率的猜测。判断有没有可学的信号,可以先看特征和标签之间是否存在稳定的统计关联。

什么时候不该用监督学习

有四种情况,看起来像预测问题,实际上不该交给监督学习。

第一种是没有标签。比如「这批新评论里哪些是垃圾」,如果没有任何已标注样本,监督学习无从训练。可以先做规则、聚类或异常检测,再逐步积累标签,而不是硬编一个标签出来。

第二种是因果问题。运营问「为什么转化率下降」,这是归因,不是预测。模型能告诉你「哪些特征和转化相关」,但相关不等于因果。要回答「改哪一处会让转化上升」,需要实验或因果推断,而不是训练一个预测模型。

第三种是硬性规则。合规、安全、权限这类问题必须可审计、可解释,不能交给一个概率模型去猜。可以保留规则做最终裁决,模型只负责排序或提示,不能替代规则。

第四种是标签严重延迟或不可得。比如预测「用户十年后的终身价值」,标签要等十年,训练周期无法闭环。这时要么换一个更短的代理目标,要么接受这是一个长期研究问题,而不是可上线的监督学习任务。

标签少但并非完全没有时,也不必立刻放弃监督学习。可以先人工标一小批,训练一个弱模型,再用它挑出「最不确定」的样本让人复核,这叫主动学习。核心思路是把标注预算花在边界附近,而不是随机撒在所有样本上。它仍然是监督学习,只是把标注过程变成了迭代的。

判断要不要用监督学习,可以先问三句:每条样本有答案吗?答案在预测时拿得到吗?答案和输入之间有稳定关系吗?三句里有一句答不上来,就先别训练。

跑起来对不上,按这张表查

下面用一个阈值分类器和均值基线做演示。分类任务只有 9 条样本,回归任务用 6 个数值。代码只用标准库。

import math

# 分类:9 条样本,特征只有「外链数」,标签 1 表示垃圾
data = [(1, 0), (2, 0), (2, 0), (3, 0), (4, 0),
        (5, 0), (5, 1), (6, 1), (7, 1)]

for threshold in (4, 5, 6):
    correct = sum(1 for x, y in data if (x >= threshold) == (y == 1))
    print("阈值", threshold, "准确率", correct, "/", len(data),
          "=", round(correct / len(data), 3))

# 回归:6 个真实值,用「训练集均值」作为最笨的基线
ys = [3.2, 4.0, 5.5, 2.8, 6.1, 4.4]
mean_y = sum(ys) / len(ys)
mae = sum(abs(y - mean_y) for y in ys) / len(ys)
rmse = math.sqrt(sum((y - mean_y) ** 2 for y in ys) / len(ys))
print("均值基线:", round(mean_y, 2), "MAE:", round(mae, 2), "RMSE:", round(rmse, 2))

本机实际输出:

阈值 4 准确率 7 / 9 = 0.778
阈值 5 准确率 8 / 9 = 0.889
阈值 6 准确率 8 / 9 = 0.889
均值基线: 4.33 MAE: 1.0 RMSE: 1.17

两个阈值并列 0.889,因为外链数为 5 的样本里同时有正例和反例,单靠这一个特征无法把它们分开。这就是分类任务的边界之争:模型只能做到这个程度,再调阈值也只是在两类错误之间换位置。回归的均值基线 MAE 是 1.0,意思是「什么都不做,全猜平均值」平均也会错 1.0。新模型如果没有明显低于这个基线,就还没有学到东西。

实际排查时,按现象倒查通常更快:

现象真实原因第一步查什么
分类准确率和基准率一样模型没学到信号,或标签与特征无关先算「全猜多数类」的准确率,作为必须超过的底线
精确率很高、召回率很低阈值定得太高,模型只敢在很有把握时判正画阈值与精确率、召回率的关系,确认业务更需要哪一种
回归误差很大但分布正常存在少数极端值,平方损失被它们主导看误差分位数,确认是否要换绝对误差或对标签做变换
分类输出被当成概率直接用模型分数未校准,和真实频率不一致按分数分桶,统计每桶实际正例率,看是否贴合
训练集好、验证集差模型记住了训练样本,或切分有泄漏检查切分方式,按用户或时间切,而不是随机切行
多分类总有一类被忽略类别不平衡,模型偏向多数类看每类样本量,按类别分别算召回率
回归预测值全挤在均值附近特征没有信息量,模型退化成均值基线计算特征与标签的相关系数,确认是否真的相关

边界与代价

分类的代价主要在阈值和两类错误的非对称性。漏掉一个会流失的用户,和误发一张挽留券,成本不同。评估时不能只报一个准确率,要分开报精确率和召回率,让业务方选一个可接受的位置。阈值一旦定了,还要随业务变化复查。

回归的代价主要在误差的分布,而不是平均值。整体 MAE 是 1.0,可能大部分样本误差只有 0.2,少数样本误差 8.0。如果业务按最坏情况做预算,平均值会严重低估风险。要同时看误差的分位数和最大值,必要时给出预测区间。

两类任务都需要警惕「指标好看但业务无用」。分类的 F1 很高,可能只是因为正例极少、模型几乎不判正;回归的 R² 很高,可能只是因为标签本身方差很小。指标要和业务收益对齐,而不是和算法排行榜对齐。

最后是维护成本。分类阈值、回归损失、标签定义,任何一项变了,历史结果都不可直接比较。上线前把这些定义写清楚,改的时候同步更新,比事后解释「为什么这个月和上个月不一样」省事得多。

上线后的监控也要分类型。分类模型要监控预测为正的比例、各分数段的实际正例率、以及不同渠道的召回差异;回归模型要监控预测均值、误差分位数和异常大误差的样本比例。只监控一个总体准确率,等于把分布漂移藏在平均值里。监控指标和离线评估指标应当能对得上,否则线上报警和离线报告会各说各话。

当天能自验的五个练习

  1. 把阈值分类器的 9 条样本改掉一条,让最佳准确率变成 1.0,再改一条让它掉到 0.667。记录哪条样本决定了边界。
  2. 把回归的 6 个值加一个 100.0,重新算均值基线、MAE 和 RMSE,观察哪个指标被极端值拉得最厉害。
  3. 分别用「全猜不流失」和「阈值 5」两种策略,在同一批样本上算准确率。说清楚为什么基准率是分类任务的第一道门槛。
  4. 把回归目标取对数后再算一遍 MAE,比较和原始尺度的差异。想一想什么时候该在什么尺度上评估。
  5. 列一个你身边「看起来像预测」的需求,用四个前提逐条检查,写出它最可能卡在哪一条。

小结

分类预测的是类别边界,模型分数要经过阈值才变成业务动作;回归预测的是条件均值,单条样本的误差可能远大于整体平均误差。两者都依赖可靠标签、同分布数据和预测时可得特征,缺一条就不成立。

当没有标签时,监督学习就失灵了。下一篇讲无监督学习:在没有答案的情况下,聚类、降维和异常检测分别能发现什么,以及为什么聚类出来的组不能直接当成类别用。