几年前给一个内容平台做评论审核。最初的做法很直接:维护一张敏感词表,命中就折叠。表从三十个词涨到两百个,又加了「同一个词出现三次才处理」「指量词后面不算」「图片里的文字单独识别」这些补丁。每加一条,就有一批正常评论被误伤;每撤一条,又有一批漏网。规则表变成了一个没人敢动的迷宫。

真正让人崩溃的不是规则多,而是规则之间开始互相打架。运营加的「足球博彩一律屏蔽」把正常球迷讨论也扫了进去,技术只好再加一条「包含球队名则放行」,结果赌球文案开始主动带上球队名。这不是谁写得不好,而是用「人预先想清楚所有情况」的办法,去对付一个每天都在变化的问题。

机器学习是另一条路:不再要求人把每种情况都写成 if,而是给一批已经判断过的例子,让程序自己从里面找出一组可调的数字,使判断尽量贴合这些例子。这组数字就是模型。它不保证理解了什么,只保证在见过的数据上表现不错,并且希望在新数据上也别太差。

这篇要讲清楚四件事:规则和模型到底差在哪;一次训练从数据到可用模型经过哪几步;模型学到的「参数」为什么不能当成知识;以及哪些问题压根不该用机器学习解决。读完你至少能判断,手上的需求是规则问题还是学习问题。

规则表是怎么涨到两百条的

回到评论审核。第一版规则通常是这样的:命中敏感词就折叠。它准确、可解释,出了问题能立刻定位到哪条规则。缺点是覆盖有限,用户换个写法就绕过去了。

于是开始加特征:连续重复字符、外链数量、账号注册时长、历史违规次数。每加一个特征,判断就更细一点,也更难维护一点。到某个临界点,规则之间不再独立,而是成组地相互作用。调一条,别处的误判率跟着动。没有人能完整说出当前系统对一条新评论会走哪条分支。

这时候还会出现一个更隐蔽的问题:规则的维护成本会随时间上升。黑产在变,正常用户的表达方式也在变,规则需要持续追加。追加得越多,系统越僵化,误伤越多。这不是执行问题,而是方法本身的上限:人只能枚举已知情况,而真实分布里总有没被枚举到的角落。

机器学习换了一个假设:与其让人写全规则,不如让人提供「什么样的输入应该对应什么输出」的样本,让算法去拟合一个连续的函数。规则表是离散的、人工枚举的;模型是连续的、从样本里估出来的。两者不是替代关系,但在「情况太多、边界太模糊、分布会漂移」的场景里,后者的维护方式更省力。

模型不是更聪明的规则

很多人第一次接触机器学习,会以为模型是一堆自动生成的 if 语句。方向对了一半:模型确实在做「输入到输出」的映射,但它的表达方式不是规则列表,而是一组权重或树结构。输入经过这组参数计算后得到一个分数,分数再被阈值切成类别。

规则系统

由人写出判断条件,每条规则都能单独解释。覆盖范围取决于作者想到了多少情况,维护方式是不断追加和打补丁。适合边界清晰、必须可审计的场景,比如「金额超过五万必须人工复核」。

学习模型

由数据决定参数,人只负责选特征、定目标和挑算法。它能覆盖作者没写到的组合,但很难逐条解释「为什么这条被判成垃圾」。适合模式模糊、样本充足、允许概率性判断的场景。

两者的代价方向相反。规则的问题是写不完、改不动;模型的问题是说不清、会漂移。实际系统里最常见的做法不是二选一,而是模型先给分数,规则负责兜底和拦截硬性条件。比如模型判断「疑似垃圾,置信度 0.62」,规则再规定「账号新注册且置信度超过 0.6 才折叠」。

还有一点容易被忽略:模型输出的不是一个确定的是非,而通常是一个分数。把分数变成业务动作,需要人选阈值。阈值定高了漏判多,定低了误伤多。这个取舍不在算法里,在业务里。很多「模型不准」的抱怨,追到最后其实是阈值放错了位置。

一次训练到底发生了什么

把训练拆开,它并不神秘。整个过程是一条固定的流水线:准备带答案的样本,选出用于判断的字段,定义一个衡量「错得多离谱」的指标,然后不断调整参数让这个指标变小,最后用没参与调整的数据检查效果。

一次训练的五步
收集样本每条记录包含输入字段和已知答案
选特征与标签决定用什么判断、预测什么结果
定义损失把预测和答案的差距变成一个数
搜索参数沿让损失下降的方向反复微调
留出验证用没见过的数据检查是否真学会

「特征」是喂给模型的输入字段,比如评论长度、外链数、账号年龄;「标签」是这条样本的标准答案,比如人工确认的「垃圾」或「正常」。模型要做的,是找到一组参数,让特征经过计算后尽量接近标签。

以最简单的形式为例:只有一个特征「外链数量」,模型就是一个阈值。外链数超过阈值判为垃圾,否则判为正常。训练就是在一堆已标注样本上,把阈值从 0 试到 13,挑一个让判断错误最少的数。下面这段只用标准库,可以本机直接跑:

rows = [
    (1, 0), (2, 0), (2, 0), (3, 0), (3, 0), (4, 1), (4, 0), (5, 1),
    (6, 1), (7, 1), (8, 1), (9, 1), (10, 1), (11, 1), (12, 1), (13, 1)
]
# 每行是 (外链数量, 是否垃圾),1 表示垃圾邮件

best = None
for threshold in range(0, 14):
    correct = sum(1 for x, y in rows if (x >= threshold) == (y == 1))
    acc = correct / len(rows)
    if best is None or acc > best[1]:
        best = (threshold, acc)

print("样本数:", len(rows))
print("正例(垃圾):", sum(y for _, y in rows))
print("最佳阈值:", best[0], "准确率:", round(best[1], 3))
for threshold in (3, 5, 7, 9):
    acc = sum(1 for x, y in rows if (x >= threshold) == (y == 1)) / len(rows)
    print("阈值", threshold, "准确率", round(acc, 3))

本机实际输出:

样本数: 16
正例(垃圾): 10
最佳阈值: 4 准确率: 0.938
阈值 3 准确率 0.812
阈值 5 准确率 0.938
阈值 7 准确率 0.812
阈值 9 准确率 0.688

注意两个阈值 4 和 5 的准确率一样。这不是程序写错了,而是这两条分界线之间没有样本。模型只能保证在给定样本上最优,无法区分这两种切法在新数据上谁更好。这就是为什么训练完必须拿另一批数据验证:单看训练集,很多不同的参数会并列第一。

模型学到的是参数,不是知识

阈值 4 看起来像一个「规律」:外链多就是垃圾。但它只是这十六封邮件里的一条分界线。如果换成一个重度使用外链的资讯站,同样外链数的正常邮件会被大量误判。模型没有理解「垃圾」的含义,它只学到了「在这个样本集合里,外链数和标签的统计关系」。

所以评估模型时,真正关心的不是它在训练样本上多准,而是它在没见过的数据上还能不能保持。这个能力叫泛化。训练集上的高分很容易拿到,只要模型足够复杂,它可以把每条训练样本都记住。难的是把记住的东西推广到新样本。

这也解释了一个常见误解:模型效果差,不一定是算法不行。如果样本只覆盖了某几个渠道的邮件,模型学到的关系就带着渠道烙印;上线后用户结构一变,关系失效。数据决定的不是模型的上限,而是模型能看见的世界范围。换算法解决不了样本偏差。

把模型参数当成「学到的知识」是一种危险的简化。更准确的说法是:它是一组为了减小训练损失而拟合出来的数字,是否可信取决于训练数据与线上数据是否同分布。

什么时候别急着上模型

机器学习有明确的适用条件,不是所有「判断」都值得用。至少先过四道检查:有没有可靠的标签;样本是否覆盖线上真实情况;误判的代价是否可接受;业务是否允许一个概率性的结果。

如果规则本身只有三五条、边界清楚、几乎不变,写规则更快也更稳。比如「未满十八岁禁止购买」这种硬性合规条件,不该交给模型去猜。如果标签要靠人工逐条标注、成本极高,而规则已经能覆盖九成情况,先做规则、把模型留给剩下的模糊地带,通常更划算。

还有一种情况常被忽略:问题根本不是预测问题。比如「为什么这个月转化率下降」,这是一个归因问题,需要实验设计和因果分析,而不是训练一个模型去预测转化率。模型能告诉你「哪些用户更容易转化」,但不能自动告诉你「改哪一处会导致转化上升」。

另外,如果线上数据分布会剧烈变化,而模型更新频率跟不上,效果会快速衰减。这时要么建立持续标注和重训的流程,要么把模型限制在稳定的子问题上。只上线不维护的模型,本质上是在借未来的债。

上线后对不上,按这张表查

「训练集准确率 95%,上线后一塌糊涂」是机器学习里最常见的报案。下面这张表把高频原因和第一步该看什么列出来,遇到问题时按顺序排查,别一上来就换模型。

现象真实原因第一步查什么
训练集几乎全对,线上一半错模型记住了训练样本,或训练集与线上分布不同先看是否留了独立验证集,再对比训练集和线上数据的特征分布
线上指标整体下滑,但不是全错阈值按训练集调,线上正例比例变了统计线上预测为正的比例,和业务实际正例率对比
某个渠道效果特别差训练样本里该渠道占比过低,模型没学到按渠道拆分样本量和准确率,看是否存在覆盖空洞
离线评估很好,上线后逐渐变差数据分布随时间漂移,模型没有更新按周对比特征均值、预测分布和人工抽检结果
模型对某个特征极度敏感该特征与标签存在泄漏,训练时拿到了线上拿不到的信息检查特征生成时间,确认预测时该字段是否真的可用
换了个随机种子,结果波动很大样本量太小,或评估集太小看验证集样本数,做多次切分取平均而不是只看一次
离线指标涨了,业务指标没动优化的指标和业务目标不一致确认离线指标是否能代表业务收益,比如误伤成本是否被计入

这张表里最值得记住的是第三行和第五行。渠道覆盖空洞和特征泄漏都不会在训练集上暴露,因为训练集里它们看起来一切正常。排查时不要只看总指标,要按维度拆开看,否则平均值会把问题抹平。

边界与代价

机器学习不是免费的。第一层代价是数据:要有足够多的样本,标签要可靠,特征要在预测时真实可得。标注一条评论是否垃圾看起来简单,但要做到标注者之间口径一致,成本并不低。标签噪声会直接变成模型噪声,再怎么调参也补不回来。

第二层代价是工程。模型不是训练完就结束,它需要特征管道、离线评估、线上服务、监控、回滚和定期重训。一个准确率提升两个百分点的模型,如果带来三倍的维护复杂度,未必值得上线。很多团队低估的不是算法难度,而是把模型变成稳定服务的工作量。

第三层代价是解释和合规。有些场景必须能说清「为什么拒绝」,比如信贷、招聘、医疗。这时纯黑箱模型会带来法律和信任风险。可行的做法是限制特征、保留规则兜底,或者用本身可解释的模型,而不是事后硬编一个解释。

第四层代价是误判的非对称性。漏判一条垃圾评论和误封一个正常用户,代价完全不同。评估时不能只看总体准确率,要分别看两类错误各自发生在谁身上、造成什么后果。这个判断必须由业务方参与,算法同学单独定不了。

还有一笔容易被漏掉的账:模型退化后的反馈渠道。线上效果变差,谁来发现?靠用户投诉通常已经太晚。比较可靠的做法是保留人工抽检,把抽检结果按周回灌成新标签,形成「预测、抽检、修正」的闭环。没有这条闭环,模型只是把一次性的历史经验固化下来,时间越久越不准。

所以,引入模型前先把这几笔账算清楚:数据够不够、标签稳不稳、线上能不能维护、错了谁承担。算不清就先做规则或人工,等条件成熟再换。这不是保守,是避免用一个更复杂的系统去掩盖一个没想清楚的问题。

当天能自验的五个练习

这一篇的概念都可以用标准库验证,不需要装任何机器学习框架。建议按顺序做,每个练习都能在半小时内看到结果。

  1. 把上面的阈值实验改成「外链数大于等于 6 判为垃圾」,手动计算准确率,再和程序输出的最佳阈值对比,说清楚差在哪几条样本上。
  2. 把样本顺序打乱,重复跑十次阈值搜索,观察最佳阈值是否每次都是 4。如果出现 5,解释为什么。
  3. 从十六条样本里抽走所有外链数为 4 的记录,重新训练,看阈值变成多少。这模拟了「线上没有这类样本」的覆盖空洞。
  4. 构造一个新样本「外链数 4、账号注册一天」,分别用阈值 4 和 5 判断,写出两种判断的业务后果。
  5. 列出你手上一个真实的判断需求,用四道检查逐条打勾:有标签、覆盖线上、误判可接受、业务允许概率结果。任何一项不满足,先别上模型。

小结

机器学习做的事,是用样本拟合一组参数,让输入到输出的映射尽量贴合已知答案。它擅长处理规则写不完、边界模糊的问题,但它学到的只是统计关系,不是因果知识。训练集上的高分没有意义,没见过的数据上的表现才有意义。

判断要不要用模型,先看数据、标签、维护成本和误判代价,而不是先看算法排行榜。下一篇会进入最基础的一步:一行训练数据里到底有什么,特征和标签分别从哪里来,以及标签错了会怎样把后面所有工作一起带偏。