凌晨两点,值班同学被「每分钟请求数超过 210」的告警叫醒。这个 210 是照着正态分布算出来的:日均值 120,标准差 30,均值加三个标准差。按正态的规律,超过 3σ 的概率是 0.00135,大约七百四十分钟才该碰到一次,也就是十几个小时响一回。可上线之后,晚高峰一天要响四五次,大促当天连着响了十几次。

问题不在阈值调得低,而在于「每分钟请求数」根本不是正态分布。它是计数数据:取值只能是非负整数,方差往往比均值大,尾部比正态厚得多。拿正态的 3σ 去估尾部,等于用一把刻度错的尺子量长度。同一个坑还有另一种踩法:明明是在固定时间段里数事件,却硬套二项分布,把分钟数当成试验次数,把「每一刻都可能来请求」当成独立同分布的成功概率,算出来的方差和实际差了一个量级。

这篇把四个最常用的分布摆在一起:伯努利、二项、泊松、正态。重点不是背公式,而是弄清每个分布对数据提了什么要求、期望和方差怎么来的、什么时候可以互相近似,以及选错了会在哪个指标上先露馅。

伯努利分布:一次试验,只有两种结果

伯努利分布(Bernoulli distribution)描述的是「一次试验,只有两种结果」。扔一次硬币、点一次广告看有没有点击、一个请求有没有超时,都是这种结构。把其中一种结果记作 1(成功),另一种记作 0(失败),参数 p 就是取 1 的概率。

P(X = 1) = p
P(X = 0) = 1 − p

期望的推导只有一行:E[X] = 0·(1−p) + 1·p = p。方差要先算二阶矩:E[X²] = 0²·(1−p) + 1²·p = p,再用 Var(X) = E[X²] − (E[X])² = p − p² = p(1−p)。这两个结果值得记住:伯努利的方差在 p=0.5 时最大,等于 0.25;p 靠近 0 或 1 时方差趋近 0,因为结果几乎已经确定了。

p(1−p) 这个形式还说明,只有两种结果的变量,方差有上限 0.25。这个上界后面会反复用到:它决定了单个 0/1 事件能提供多少信息,也解释了为什么样本量小的时候估计 p 会很不稳。

import random
random.seed(20261106)
p = 0.3
xs = [1 if random.random() < p else 0 for _ in range(1000)]
mean = sum(xs) / len(xs)
var = sum((x - mean) ** 2 for x in xs) / len(xs)
print(sum(xs), round(mean, 5), round(var, 5))
print(round(p * (1 - p), 5))

在本机 Python 3.15 上跑,输出是:

294 0.294 0.20756
0.21

一千次里成功 294 次,样本均值 0.294,和理论值 0.3 差 0.006;样本方差 0.20756,和 0.21 也接近。差值不是算错,是抽样波动。均值的标准误约为 √(p(1−p)/n) ≈ 0.0145,0.006 完全落在正常范围内。判断一个随机实验的结果是否合理,要拿标准误去比,而不是要求它和理论值分毫不差。

二项分布:数一数 n 次里成功了几次

二项分布(binomial distribution)是把伯努利试验重复 n 次,数成功了几次。前提有三条:每次试验只有两种结果;每次成功的概率 p 相同;各次试验相互独立。三条缺一条,二项分布就不成立。这三条里,独立性最容易被忽略,也最容易在真实数据里被破坏。

成功次数恰好为 k 的概率是

P(X = k) = C(n, k) · p^k · (1 − p)^(n − k),  k = 0, 1, …, n

拆开看:C(n,k) 是从 n 次里挑出哪 k 次成功的方案数;p^k 是这 k 次都成功;(1−p)^(n−k) 是剩下 n−k 次都失败。三项相乘,是一种具体排列的概率,再乘方案数,就是所有排列的总概率。这也解释了为什么 n 变大后计算要用对数,组合数和幂次都会迅速变大。

期望是 np:把成功次数写成 n 个伯努利变量之和 X = X₁ + … + Xₙ,每个的期望是 p,期望的线性性直接给出 n·p。方差是 np(1−p),因为独立变量之和的方差等于方差之和,n 个 p(1−p) 相加即可。独立性在这里是实打实被用到的,不是装饰性条件。

下面是 n=10、p=0.3 的完整概率质量函数(pmf,probability mass function,即每个取值的概率)。

import math
n, p = 10, 0.3
pmf = [math.comb(n, k) * p ** k * (1 - p) ** (n - k) for k in range(n + 1)]
for k, v in enumerate(pmf):
    print(k, math.comb(n, k), round(v, 10))
print("sum =", round(sum(pmf), 12))
0 1 0.0282475249
1 10 0.121060821
2 45 0.2334744405
3 120 0.266827932
4 210 0.200120949
5 252 0.1029193452
6 210 0.036756909
7 120 0.009001692
8 45 0.0014467005
9 10 0.000137781
10 1 5.9049e-06
sum = 1.0

输出里用了 round(..., 10),末尾几位被截掉,求和后恰好显示 1.0。概率最大的 k 是 3,和 (n+1)p = 3.3 取整的结果一致,这是二项分布众数的一条经验规则。注意 k=10 的概率只有约 5.9×10⁻⁶,但绝不是 0;很多「不可能发生」的判断,其实是把极小的概率当成了零。

n=10、p=0.3 的二项分布,柱高即概率
0 1 2 3 4 5 6 7 8 k P(X=k)

泊松分布:单位时间里来了多少事件

泊松分布(Poisson distribution)描述单位时间或单位空间内,某类事件发生了多少次。比如一分钟内的请求数、一页纸上的错字数、一小时内到达柜台的人数。参数 λ 是单位时间里的平均发生次数,它可以是小数,因为平均次数本来就不必是整数。

P(X = k) = e^(−λ) · λ^k / k!,  k = 0, 1, 2, …

这个分布的期望和方差都等于 λ,是个很硬的特征。期望的推导思路是把求和拆开:E[X] = Σ k·e^(−λ)λ^k/k!,而 k/k! = 1/(k−1)!,于是 E[X] = λ·e^(−λ)·Σ λ^(k−1)/(k−1)! = λ,后面那个和正好是 e^λ 的展开。方差可以用阶乘矩:先算 E[X(X−1)] = λ²,得到 E[X²] = λ² + λ,再减去均值平方,剩 λ。看到「均值等于方差」的数据,第一反应可以是泊松;反过来,方差明显大于均值,就说明泊松的前提已经被破坏了。

泊松对现实提了三个要求:事件之间相互独立;发生率在观察窗口内稳定;同一瞬间不会有两个事件同时发生。这三条在真实系统里经常只是近似成立,所以泊松通常是「够用的第一模型」,而不是真理。把三条要求写在文档里,比记住公式更有用,因为出事时能直接对照着查。

import math
lam = 3.0
pmf = [math.exp(-lam) * lam ** k / math.factorial(k) for k in range(16)]
for k, v in enumerate(pmf):
    print(k, round(v, 10))
print("sum =", round(sum(pmf), 12))
0 0.0497870684
1 0.1493612051
2 0.2240418077
3 0.2240418077
4 0.1680313557
5 0.1008188134
6 0.0504094067
7 0.0216040315
8 0.0081015118
9 0.0027005039
10 0.0008101512
11 0.0002209503
12 5.52376e-05
13 1.27471e-05
14 2.7315e-06
15 5.463e-07
sum = 0.9999998759

λ=3 时,k=2 和 k=3 的概率都是 0.2240,两个峰一样高。求和得到 0.9999998759 而不是 1,是因为只加到 k=15,尾巴上还有约 1.2×10⁻⁷ 的概率被截掉了。这提醒一件事:算泊松尾部概率时不要只加几项,λ 越大,需要加的项越多。反过来,做容量规划时如果只看到「均值 3」,就以为「超过 10 的概率可以忽略」,那就低估了尾部:这里 k=10 还有 0.00081,k=11 还有 0.00022。

泊松是二项的极限:n 大、p 小、np 固定

二项和泊松之间有一条精确的桥梁:固定 λ = np,让 n 变大、p 变小,二项分布就趋近泊松分布。直观理解是,试验次数非常多,每次成功的概率又非常小,但平均成功次数保持稳定;这时「成功了几次」只取决于平均次数,而不再取决于试验被切成了多少份。

用 n=1000、p=0.003 验证。此时 np = 3,正好对上 λ=3 的泊松。

import math
n, p, lam = 1000, 0.003, 3.0
for k in range(5):
    b = math.comb(n, k) * p ** k * (1 - p) ** (n - k)
    q = math.exp(-lam) * lam ** k / math.factorial(k)
    print(k, round(b, 10), round(q, 10), f"{abs(b - q):.3e}")
diff = max(abs(math.comb(n, k) * p ** k * (1 - p) ** (n - k)
               - math.exp(-lam) * lam ** k / math.factorial(k)) for k in range(41))
print("max =", f"{diff:.6e}")
0 0.0495630828 0.0497870684 2.240e-04
1 0.1491366584 0.1493612051 2.245e-04
2 0.2241537439 0.2240418077 1.119e-04
3 0.2243785721 0.2240418077 3.368e-04
4 0.1682839291 0.1680313557 2.526e-04
max = 3.367645e-04

逐项差都在 10⁻⁴ 量级,最大绝对差 3.37×10⁻⁴,小于 0.001。作为对比,如果 n=10、p=0.3,虽然均值也是 3,但二项分布在 k=0 处是 0.0282,泊松是 0.0498,泊松这一项比二项高了约 76%,这个近似就不能用了。所以「np 相同」只是必要条件,还得 n 足够大、p 足够小;常见的经验门槛写成 np ≥ 10 且 p ≤ 0.1,但它是经验,不是定理。

工程上的选择标准更实际:n 固定且已知,用二项;n 不固定、只是在某个时间窗口里数事件,用泊松。把两者混用往往不是公式写错,而是把「试验次数」这个前提悄悄丢掉了。比如「一千次请求里有几次失败」适合二项,「一小时里发生了几次失败」更适合泊松,因为一小时里到底有多少次请求,本身也是随机的。

正态分布:三个部分各管一件事

正态分布(normal distribution)是连续分布,两个参数 μ 和 σ,前者是中心,后者是尺度。密度函数是

f(x) = 1/(σ√(2π)) · e^(−(x−μ)²/(2σ²))

这个公式可以拆成三部分看。前面的系数 1/(σ√(2π)) 只负责把曲线下的总面积归一成 1,σ 越大曲线越矮越宽,系数越小,正是为了保持面积不变。指数里的 −(x−μ)² 控制衰减:离中心越远,值下降得越快,而且左右对称。分母的 2σ² 控制衰减速度,σ 小则曲线陡峭,σ 大则平缓。三段各司其职,缺一段它就不再是正态密度。

任何正态变量都能标准化:令 z = (x − μ)/σ,就得到均值 0、方差 1 的标准正态。标准化的意义是,所有正态分布的问题都能换算成同一张表或同一个函数;μ 和 σ 只影响位置和刻度,不影响形状。反过来,如果一组数据的直方图不是钟形,标准化也救不了它,那说明正态假设本身不成立。

import math

def phi(x):
    return math.exp(-x * x / 2) / math.sqrt(2 * math.pi)

def trapz(a, b, steps):
    h = (b - a) / steps
    s = 0.5 * (phi(a) + phi(b)) + sum(phi(a + i * h) for i in range(1, steps))
    return h * s

print(f"{trapz(-8, 8, 200000):.12f}")
print(f"{trapz(-1, 1, 200000):.12f}")
print(f"{trapz(-2, 2, 200000):.12f}")
print(f"{phi(0):.12f}")
1.000000000000
0.682689492133
0.954499736096
0.398942280401

用 20 万段的梯形法,从 −8 积到 8 得到 1.000000000000,误差在小数点后十几位,说明系数确实把面积归一了。±1σ 之间是 0.6827,±2σ 之间是 0.9545,这两个数就是常说的 68% 和 95%。峰值的密度是 0.3989,注意密度不是概率,密度可以大于 1,只有对区间积分才得到概率,这一点在连续分布里必须分清。

标准正态密度:±1σ 覆盖约 68%,±2σ 覆盖约 95%
μ −σ +σ −2σ +2σ f(x)

中心极限定理:为什么到处都能看到钟形

中心极限定理(central limit theorem)说的是:一批独立同分布的随机变量,只要方差有限,它们的和(或平均值)经过标准化之后,分布会随着个数增加趋近标准正态。原来的分布是什么形状不重要,均匀、指数、甚至相当偏的分布都行。

关键限定词是「和」或「平均」。定理并不说原始数据会变成正态,单个样本的分布还是它本来的样子。做监控时把原始指标直接当正态,和把多批指标的均值当正态,是两回事。前者常常错得离谱,后者才可能有理论依据。

一个常用的构造是取 12 个均匀分布 U(0,1) 相加。单个均匀分布的均值是 0.5、方差是 1/12,12 个相加后均值是 6,方差正好是 1。下面用固定种子跑两万组。

import random
random.seed(20261106)
N = 20000
sums = [sum(random.random() for _ in range(12)) for _ in range(N)]
m = sum(sums) / N
v = sum((x - m) ** 2 for x in sums) / N
print(round(m, 5), round(v, 5))
smalls = [sum(random.random() for _ in range(2)) for _ in range(N)]
m2 = sum(smalls) / N
v2 = sum((x - m2) ** 2 for x in smalls) / N
print(round(m2, 5), round(v2, 5))
6.00209 0.99892
0.99610 0.16671

12 个相加的样本均值 6.00209、方差 0.99892,和理论值 6 与 1 对得上;2 个相加的理论均值是 1、方差是 0.1667,样本值 0.99610 和 0.16671 也对得上。差别在于形状:2 个均匀分布相加还是三角形,12 个相加已经非常接近钟形。这说明「趋近正态」靠的是个数,不是原始分布。

样本量要多大才够,取决于原分布的偏度和尾部。均匀分布很温和,几个就够;指数分布、幂律分布要更多。工程上常用的 30 只是经验值,遇到重尾数据,30 远远不够,这也是很多 A/B 实验拿正态近似做检验却得到离谱结论的原因之一。判断能不能用,最稳的办法是把样本均值的直方图画出来看一眼,而不是数样本量有没有到 30。

选分布的判断清单

选分布时,先问四个问题,答案基本能定位到唯一一类。判断顺序建议从支撑集开始,也就是这个变量可能取哪些值。

取值只有 0 和 1一次试验的成败,用伯努利。它只需要一个参数 p,期望 p、方差 p(1−p)。
0 到 n 的整数,n 固定且已知固定次数里数成功次数,用二项。要求每次试验独立、成功概率相同。
非负整数,没有固定上限单位时间或单位空间里数事件,用泊松。先检查均值与方差是否接近。
实数,围绕一个中心对称测量误差、连续指标,用正态。注意它的支撑集是整个实轴,会给出负值。

支撑集对不上,后面所有参数都白算。比如「每分钟请求数」只能是非负整数,硬套正态就等于允许 −3 个请求存在,这种模型在尾部一定不准。反过来,如果数据是连续的、又明显左偏(比如收入、响应时间),正态也不合适,应该考虑对数正态或伽马分布。

然后是矩的关系:二项有 Var = np(1−p) < np = E,方差一定小于均值;泊松有 Var = E = λ;正态的均值和方差是两个自由参数,没有绑定关系。拿样本均值和样本方差一比,就能判断哪个假设更离谱。方差远大于均值时,优先怀疑过度离散,而不是继续加参数硬拟合。

一张现象对照表

下面这些现象在监控、容量规划和实验分析里都出现过,原因各不相同,但基本都能回到分布的支撑集和矩的关系上。

现象真实原因第一步查什么
按 3σ 设的告警阈值频繁被击穿计数数据的尾部比正态厚,3σ 对应的真实概率远大于 0.00135取历史数据算经验分位数,把实际超阈值频率和正态预测值对比
方差大于均值,却仍然用了泊松事件不独立,或发生率在窗口内波动,导致过度离散按时间分桶算各桶均值与方差,看发生率是否稳定
事件明显不独立,还用二项算方差成功概率相关,方差被低估,置信区间过窄检查样本是否来自同一用户、同一批次或同一时段
把计数数据当连续变量处理支撑集不匹配,模型会给出非整数甚至负数的预测看取值集合和最小值,确认是否只能取非负整数
正态假设下算出负的预测量正态支撑集是整个实轴,左尾没有截断检查预测值的下界,必要时换对数正态或截断分布
参数估计和样本矩对不上分布选错,或样本有偏、混入了不同总体对比样本均值方差与理论关系,再按分组重算
二项和泊松混用,结果差很多n 是否固定没有确认,np 相同不代表可以近似确认试验次数 n 已知且固定,再检查 p 是否足够小

边界与代价

第一,分布假设是很强的。选了一个分布,等于同时声明了支撑集、尾部形状和矩的关系。数据只要在支撑集上不匹配,后面所有计算都建立在错误的地基上。现实里更常见的做法是先画经验分布,再挑一个能解释主要特征的模型,而不是先认定某个分布。

第二,泊松要求事件独立且发生率稳定。这两条在真实系统里经常不成立:请求会成串到达,失败会连锁触发,白天和夜里的速率能差十倍。这时候均值和方差不再相等,硬套泊松会把容量估得过于乐观。需要按时间段分层,或者换成能描述过度离散的模型。

第三,正态对尾部不鲁棒。正态的尾部衰减得极快,3σ 之外几乎为零,但真实数据的尾部常常厚得多。用正态估极端事件,往往会低估几倍甚至几个数量级。金融、延迟、故障间隔这些领域,尾部的误差比中心的误差更致命。

第四,中心极限定理要求样本量足够,而「足够」依赖原分布。偏度大、尾部厚的数据,收敛会慢很多;有限方差是定理的前提,方差不存在时定理直接失效。把 CLT 当成万能近似,是另一种形式的正态滥用。

第五,参数本身是估出来的。用样本均值代替 μ、用样本方差代替 σ,都会把估计误差带进后续计算,置信区间和尾部概率都会偏乐观。真实工程里最好留出余量,或者用自助法(bootstrap)核对一遍,别把公式给出的数字当成精确答案。

当天可以自己验证的练习

  1. 用 math.comb 算 n=10、p=0.4 的二项 pmf,打印每个 k 的概率,验证总和为 1,并找出概率最大的 k,和 (n+1)p 的取整结果对照。
  2. 用 math.exp 与 math.factorial 算 λ=2 的泊松 pmf,打印 k=0 到 10,再把 k 加到 30,观察总和与 1 的差距怎样缩小。
  3. 取 n=100、p=0.05,把二项分布与 λ=5 的泊松逐项对比,打印最大绝对差;再把 n 改成 10000、p 改成 0.0005,看误差是否按数量级下降。
  4. 写一个梯形法积分函数,验证标准正态密度在 −6 到 6 上的积分接近 1,并分别算 ±1σ、±2σ、±3σ 的面积,和 68%、95%、99.7% 对照。
  5. 用固定种子生成 12 个均匀分布之和,重复两万次,打印样本均值与方差;再改成 3 个相加,对比两者的直方图形状,说明为什么个数会影响接近正态的程度。

从分布到贝叶斯

把这篇压成三句话:伯努利描述的是一次 0/1 试验,二项是 n 次伯努利的成功计数,泊松是单位时间里的事件计数,正态是连续且对称的钟形;二项与泊松只在 n 大、p 小、np 固定时才能互换,中心极限定理说的是和与平均趋近正态,不是原始数据变成正态;选分布先看支撑集,再看均值与方差的关系。

分布给出的其实是一个似然:在某个参数下,观测到的数据有多大可能出现。但参数本身往往还有信念,比如「这个接口的失败率不太可能超过 1%」,或者「这批样本里垃圾邮件的比例应该是多少」。把这些信念和似然结合起来,就是下一篇要讲的贝叶斯。它要回答的问题是:看到证据之后,原来的判断应该修改多少,以及先验为什么会把结论带偏。