一次跨机房演练,把两个机房之间的专线断开 90 秒。断链期间,两边都还在正常接收写请求,各自写进了本地库。链路恢复后,同步程序开始合并数据,同一个账户的余额在用户面前来回跳了三次,最后停在哪个值,取决于合并程序先处理哪一边。

事后讨论时有人说,这是「没做强一致」。这个说法只对了一半。真正的问题是:断链的那 90 秒里,系统选择了继续服务,也就选择了让两边各自成为「真相」。分区不是配置项,它一定会来;能选的只有分区期间牺牲一致性还是牺牲可用性。

这篇把 CAP 这句话拆开,讲清楚它到底约束了什么、没约束什么。重点不是背三个字母,而是弄明白读写集合怎么决定你读到的是新值还是旧值,以及「一致性」其实是一排档位,不是一个开关。关于真实多机房的复制延迟与切换行为,未在本机实测,文中只讨论机制与参数。

CAP 说的是分区那一刻的选择

CAP 里的 C 指一致性,意思是任何一次读都能看到最近一次成功写入的结果;A 指可用性,意思是每个请求都能在有限时间内得到非错误响应;P 指分区容忍,意思是网络被切成两半、两边互相不通时,系统还能继续运转。

很多人把它理解成「三者只能选两个」,于是问「我们该选 CA 还是 CP」。这个问法有毛病。P 不是可选项,只要系统跨了机器、跨了机柜、跨了机房,网络就一定会断。你能决定的,是断的时候放弃 C 还是放弃 A。所以真正的选项是 CP 和 AP,CA 只在单机或「永远不会分区」的假设下成立。

再精确一点:CAP 的 C 是线性一致性,是强度很高的一种保证,不是日常说的「最终会一致」。而 A 也不是「永远秒回」,它允许慢,只要求不返回错误。所以「牺牲一致性」不等于「数据永远乱」,它往往意味着「这段时间读到旧值,过一会儿会追上」。这一点后面讲一致性模型时会展开。

为什么不能干脆选 CA。因为只要数据在两端各有一份,中间那条链路断了,两端的副本就没法在「写的时候」互相确认。你要么让其中一端停止服务,要么让它继续写、承认两边可能不一样。前一种牺牲可用性,后一种牺牲一致性,没有第三条路。单机数据库能同时给你 C 和 A,是因为它根本没有「另一端」。

分区发生时的两条路
分区出现两边互相不通,各自都活着
选 CP凑不够票就拒绝,宁可报错不给旧值
选 AP继续服务,允许读到旧值,事后合并

读写集合与 quorum:为什么你会读到旧值

要讲清楚取舍,得先把副本和票数说明白。假设一份数据有 N 个副本,一次写要成功落到 W 个副本才算写成功,一次读要能从 R 个副本拿到数据才算读成功。这三个数就是常说的 quorum 参数,W 叫写法定数,R 叫读法定数。

关键不等式是 W 加 R 大于 N。只要满足它,任何一次读的集合和任何一次写的集合必然有重叠,读就至少能碰到一个刚写过的新副本。反过来,W 加 R 小于等于 N 时,读写集合可能完全错开,读到的全是没更新过的旧副本。

W=2 R=1 | 多数派写: 成功 | 少数派读: 读到 [0] | 结论: 返回旧值,一致性被牺牲(AP)
W=2 R=2 | 多数派写: 成功 | 少数派读: 读到 [0,0] | 结论: 返回旧值,一致性被牺牲(AP)
W=3 R=3 | 多数派写: 成功 | 少数派读: 失败(可达节点 2 个,不足 R=3) | 结论: 报错,不返回旧值(CP)
W+R>N 保证读写集合有交集。交集存在时,少数派凑不够法定票数就只能报错;W+R<=N 时,读写可能完全不相交,旧值会被当成真值返回。

这组输出对应的场景是 5 个副本,分区把节点分成 3 个和 2 个两侧。写发生在 3 个那侧,2 个这侧拿不到新值。第一行 W=2、R=1,2 个这侧只要 1 个节点就能满足读,于是把旧值 0 返回了,系统仍然可用,这是一次 AP 选择。第二行把 R 提到 2,2 个节点都能读,返回两个旧值,还是旧值,仍然 AP。

第三行 W=3、R=3,写仍然落在 3 个那侧并成功;但 2 个这侧最多只有 2 个节点可达,凑不够 3 票,读直接失败。它没有返回旧值,而是明确报错,这就是 CP。代价是这段时间这部分用户读不了,收益是他们不会拿到一个看起来正常、其实是过期的数字。

所以「读到旧值」和「报错」不是实现好坏的区别,而是参数和策略的区别。想让读永远不返回旧值,就把 R 设到必须跨过写集合;想让它尽量可用,就接受某些分区下读到旧值。没有第三种魔法。

还有两个配套机制值得知道。读修复是指读的时候比较各副本的版本,发现落后就顺手把新值写回去,让数据慢慢自己追上。 hinted handoff 是指在某个副本暂时不可写时,先把这次变更记在别的节点上,等它恢复再补投。两者都不改变「分区期间可能读到旧值」这个事实,只是缩短旧值存在的时间。

一致性是一排档位,不是一个开关

「强一致」和「最终一致」之间还有很多档。按从强到弱排,最常见的有这么几档,理解它们比背名字有用。

线性一致所有读写像发生在一条时间线上,读一定看到最近一次成功写。实现代价最高,通常要跨节点协调。
顺序一致所有进程看到的操作顺序一致,但不保证和真实时间对齐。比线性弱,仍要求全局排序。
因果一致有因果关系的操作保持顺序,无关的可以乱。比如先看到「下单」再看到「发货」,不会反过来。
最终一致不再写入后,经过一段时间所有副本会收敛到同一个值。期间读到的可能是旧值。

还有一类很实用但常被忽略的保证,叫「读己之写」。它不要求所有人看到同一份最新数据,只要求同一个用户写完立刻读,能读到自己的写入。会话、购物车、个人资料这类场景,用这一档就够了,成本比全局强一致低得多。

这些档位的差别,本质是「允许谁在什么时间看到旧值」。线性一致谁都不许看到旧值;因果一致只保证有先后关系的操作不乱;最终一致允许一段时间内各看各的,只要最后收得住。选档位就是选「哪类用户、在多长时间内,可以接受看到旧数据」。

还有一个常被混淆的概念是「一致性」和「隔离性」。一致性说的是多个副本之间数据是否一致,隔离性说的是多个并发事务之间是否互相干扰。前者是分布式的问题,后者是数据库事务的问题。下一篇讲分布式事务时,会专门处理后者。

拿一个最简单的例子体会线性一致:两个人同时读同一个余额,一个读到 100,一个读到 80,而最新一次成功写入是 100,那么读到 80 的那个就是违反了线性一致。系统必须能给出一个全局顺序,让所有读都像排在这条线上。这个要求在大规模系统里非常昂贵,因为它意味着每次读都要能确认「没有更新的写在别处发生」。

最终一致要落地,通常得给每条数据配一个版本号或时间序号,否则副本之间根本分不清谁新谁旧,合并时只能靠猜。这个版本号就是后面分布式 ID 和幂等排序两篇会反复用到的同一类工具:一个能在多机之间比较先后、又不依赖物理时钟的标记。

分区时到底该选什么:看业务后果

CP 和 AP 没有绝对优劣,只有和业务后果对不对得上。判断方法很简单:问一句「这段时间给用户旧数据,和直接报错,哪个更糟」。答案不同,选择就不同。

现象真实原因第一步查什么
断链期间仍能下单,恢复后库存对不上分区时选了 AP,两边各自扣减,事后没有合并规则查分区期间的写入是否带版本或来源标识
少数派机房读到的余额是旧值R 设得太小,读集合没跨过写集合核对 N、W、R 是否满足 W 加 R 大于 N
分区时读接口全部报错选了 CP,少数派凑不够读法定数查 R 的值与分区后可达节点数
恢复后同一笔数据被覆盖两次合并用了最后写入获胜,而两边时钟不对齐查合并依据是时间戳还是版本号
用户刚改完资料,刷新又变回去读请求被路由到了没同步的从库查读写路由是否区分主从、是否有读己之写保证
写入明明成功,另一个机房查不到复制是异步的,写确认只代表本地落盘查写成功的定义是否包含跨机房确认
切换机房后大量重复主键两边独立生成 ID,没有全局唯一约束查 ID 生成是否依赖单点或分段
分区恢复后延迟越来越高积压的变更集中回放,压垮了同步链路查回放速率限制与积压监控

资金、库存、券码这类「算错了要赔钱」的数据,通常偏 CP:宁可让一部分用户暂时用不了,也不要给他们一个错误的数。商品详情、推荐、点赞数、在线状态这类「旧一点没关系」的数据,偏 AP:继续服务,允许短暂旧值,事后收敛。

同一个系统里也可以混着选。订单主链路用 CP,商品浏览用 AP,是常见组合。怕的是全系统一刀切,要么所有读都强一致把延迟拖垮,要么所有数据都最终一致,连扣款都敢返回旧余额。

混选的时候要特别注意「跨类读写」。比如用户刚下单(CP 数据),立刻去看订单列表(走 AP 读),列表可能是从从库读的,看不到刚下的单。这类体验问题不是一致性参数错了,而是读路由没有区分「用户自己的写」。给这类读加一个「读己之写」的路由,比把整个列表改成强一致便宜得多。

N、W、R 怎么定

这三个数不是拍脑袋来的,先看可用性要求,再看一致性要求。N 通常取 3 或 5,取奇数便于形成多数派。N 越大,容忍坏掉的节点越多,但写入要等的确认也越多,延迟和成本都上升。

如果要求「任何时刻读都不返回旧值」,就让 W 和 R 都大于 N 的一半,最典型的是 N=3、W=2、R=2。这样任意 2 个副本的读集合,和任意 2 个副本的写集合,在 3 个里必然重叠。代价是分区时只有一侧能凑够票,另一侧会拒绝读写。

如果更看重可用,可以把 R 调小,比如 N=3、W=2、R=1。读更快、更容易成功,但分区时可能读到旧值。很多系统再叠加一个「读修复」:读的时候发现副本版本不一致,就把新值写回旧副本,让下一次读更容易读对。

# 常见的三种组合(N=3)
strong:
  N: 3
  W: 2
  R: 2        # W+R=4>3,读不返回旧值,分区时少数派报错
read_heavy:
  N: 3
  W: 2
  R: 1        # 读快,但分区时可能读到旧值
write_heavy:
  N: 3
  W: 1
  R: 3        # 写快,但写确认只落一个节点,宕机就丢

# 写路径伪代码
fn write(key, value):
  acks = broadcast_to_replicas(key, value)
  if acks >= W: return ok
  else: return error

参数定完还要配超时。quorum 的等待时间应该覆盖「大多数副本正常响应」的耗时,而不是最慢那个。等最慢副本会让一次慢请求拖垮整次写;等得太短又会让本来能成功的写被判失败。实践里取副本响应耗时的 p99,再留一点余量。

还要注意「写成功」的定义。如果 W 只统计本地落盘,不管跨机房复制,那么写成功之后另一个机房仍然可能查不到。想让跨机房读也一致,就得把跨机房确认算进 W,代价是写延迟直接加上一条专线的往返时间。

N 取 3 还是 5,取决于你能接受几个节点同时坏。3 个副本能容忍 1 个坏,5 个能容忍 2 个。但每多一个副本,写就要多等一份确认,跨机房时这份确认可能值几十毫秒。很多团队最后选 3,不是因为理论最优,而是因为 5 个副本带来的写延迟和机器成本,业务不愿意付。

边界与代价

CAP 不适合拿来当架构评审的口号。它描述的是分区期间的一个极端取舍,不覆盖延迟、成本、运维复杂度。真实系统大部分时间没有分区,这时更该关心的是复制延迟、读写放大和故障恢复时间。只拿 CAP 三个字母讨论,容易把复杂问题简化成站队。

强一致很贵。每次写都要等多数派确认,跨机房还要等专线往返;节点越多、距离越远,延迟越明显。它还会把「一个节点慢」放大成「整次写慢」,对尾延迟很不友好。对高频、低价值的数据,强一致往往是过度设计。

最终一致不是「不用管」。它把复杂度从写入时推迟到了合并时。冲突检测、版本合并、删除标记、重复处理,一样都不能少。没有合并规则的最终一致,只是把错误延后暴露,恢复那天会更难收拾。

别把「读到旧值」当成 bug 去修。如果架构明确选了 AP,短暂旧值就是设计内 behavior。该做的是把旧值窗口量化、监控收敛时间,并在业务上给出「可能稍后更新」的提示,而不是在每个读接口上加锁,把 AP 硬改成 CP。

双写是最容易埋雷的折中。想同时写两个机房、又不想等对方确认,看起来兼顾了可用和「两边都有数据」。但两个写只要有一个失败,或者两边都成功却顺序不同,就需要一套合并规则。没有规则的双写,只是把一致性问题从「读的时候」挪到了「对账的时候」,而且更难查。

选择要能被观测。既然选了 AP,就要能回答「现在旧值多旧、多久能追上」。把复制延迟、未收敛副本数、积压变更量做成指标,比在评审会上争论 CAP 有用。没有这些指标,架构上写了最终一致,实际上只是「不知道什么时候一致」。

一个务实的起点:把数据按「算错要不要赔钱」分成两类,赔钱的走 CP 参数,不赔钱的走 AP 参数。先分两类,比先争论 CAP 定义有用得多。

当天可以自验的五件事

  1. 列出系统里所有多副本存储,写出它们的 N、W、R,检查是否满足 W 加 R 大于 N。
  2. 挑一个读接口,人为让它只读一个从库,观察是否能读到刚写入的数据,记录旧值窗口有多长。
  3. 把数据按「算错是否赔钱」分成两类,分别标注当前用的是 CP 还是 AP 策略。
  4. 在预发环境断开两个副本之间的网络 30 秒,观察读写是报错还是返回旧值,和预期是否一致。
  5. 检查合并或同步逻辑用的是时间戳还是版本号,若是时间戳,评估跨机时钟偏差会带来什么后果。

参数和档位定下来,马上会遇到一个具体问题:多副本、多机房、多实例,谁来生成全局唯一又不冲突的编号。下一篇《分布式 ID:自增、UUID、雪花算法各自的问题》就从这里接上,讲三种方案各自的坑,以及时钟回拨为什么会直接制造重复 ID。