去年帮一个同事配机器,他盯着参数页问了一句:这里写 8GB 内存,CPU 参数里又说有几十 MB 缓存,两个都叫内存,为什么不能把缓存做大一点,直接当内存用?这个问题听起来外行,其实问到了这台机器最核心的一处取舍。

我给他算了一笔账:一条 8GB 的 DDR5 内存条几百块钱,插上就能用;而 8GB 的 SRAM 你根本买不到,真做出来,光是硅片和良率的成本就要几万块起步,还要占几十平方厘米的地方。反过来,CPU 的 L1 缓存只有几十 KB,比一条 8GB 内存条小五个数量级,却偏偏不能换成便宜的 DRAM。

这两个东西都叫内存,是因为它们都用来存 CPU 正在用的数据;但它们从最底层的存储单元开始就是两种工艺、两种结构、两种活法。这篇就从一颗存储单元讲起,把容量、速度、功耗、价格这四笔账算清楚,让你以后再看到「内存」「缓存」这两个词时,知道它们各自身后站着什么。文中的延迟、面积和价格是公开资料的典型量级,未在本机实测。

先约定两个名字。DRAM 是动态随机存取存储器,Dynamic RAM,一个存储单元用 1 个晶体管加 1 个电容存一位,靠电容上的电荷表示 0 和 1。SRAM 是静态随机存取存储器,Static RAM,一个单元用 6 个晶体管互相锁住一位,只要通电就一直保持,不需要额外操作。

一颗 DRAM 单元:一个晶体管加一个电容

DRAM 的单元结构叫 1T1C:一个访问晶体管,串一个电容。写的时候把位线电压加到电容上,读的时候把电容上的电荷放到位线上,由灵敏放大器判断这是 0 还是 1。电容很小,典型只有几飞法,存的那点电荷少得可怜。

问题就出在这个电容上。电容会漏电,电荷会慢慢跑掉,所以 DRAM 必须周期性刷新:每隔一段时间把每一行读出来、放大、再写回去,把电荷补满。这个周期在常温下通常是几十毫秒要把全部行过一遍,行业里常见的口径是 64 毫秒刷完,温度越高漏得越快,所以高温下还要缩短间隔。

第二个麻烦是破坏性读。电容上的电荷一旦放到位线上,原来的状态就被破坏了,所以每次读都要紧接着回写。DRAM 内部把一行数据整体搬到灵敏放大器阵列里,这个暂存区叫行缓冲,读一行其实是「激活整行、放大、回写、再按列取数」。这也是为什么 DRAM 的访问有一套复杂的时序:行地址选通、列地址选通、预充电,每一步都要等。

好处也很直接:一个单元只要一个晶体管加一个电容,电容还可以叠在晶体管上面做成立体结构,单位面积能塞下的位数非常多。今天一条内存条上那几颗黑色颗粒,每颗里面是几十亿个这样的单元。

一颗 SRAM 单元:六个晶体管锁住一位

SRAM 的单元是 6T:四个晶体管组成两个反相器,首尾相接成一个环路,正反馈把电平锁死;另外两个晶体管是访问管,负责在读写时把单元接到位线上。因为没有电容,不需要刷新;读的时候也不破坏内部状态,只要位线电压不把环路掀翻,读多少次都一样。

代价是面积。六颗晶体管对一颗晶体管加一个电容,同样是存一位,SRAM 要多占好几倍的面积,而且这六颗管子都得做在硅片表面,不像 DRAM 的电容可以往上叠。面积直接换算成成本:同一片晶圆上,SRAM 能做出的位数少得多,每位的价格就高得多。

但 SRAM 快。它的读写就是几个晶体管翻转,不需要行激活、不需要放大回写,访问延迟通常在一个到几个纳秒的量级;DRAM 则要几十纳秒。这几十倍的差距,正是缓存存在的理由:把最常用的数据放在快的地方,让 CPU 大多数时候不用去等内存。

DRAM

一位一个晶体管加一个电容,密度高、每位便宜,适合做大容量。代价是需要刷新、读操作带破坏性、接口时序复杂,访问延迟在几十纳秒量级。主内存、显存颗粒都走这条路。

SRAM

一位六个晶体管,密度低、每位贵,但速度快、不用刷新、控制简单。容量做不大,几十 MB 已经是极限。CPU 的 L1、L2、L3 缓存和各类片上小缓冲都用它。

这里的「静态」和「动态」,说的是数据需不需要周期性维护,不是数据能不能长期保存。两者都是易失存储器,断电以后内容都会丢,这一点和闪存、硬盘完全不同。

为什么主存必须是 DRAM

先看容量。手机标 8GB,电脑常见 16GB、32GB,服务器动辄上百 GB。8GB 是 687 亿位,要按位存下来,存储单元的个数就是 687 亿这个量级。这个规模下,每位多花五个晶体管,代价不是百分比,而是几倍甚至十几倍的硅片面积。

做个粗算,只看存储阵列本身,不含外围电路。按较先进工艺下 6T SRAM 单元约 0.02 平方微米、DRAM 单元约 0.002 到 0.003 平方微米来估:8GB 的 SRAM 阵列大约要十几平方厘米,相当于一块 4 厘米见方的芯片,还没算译码器、灵敏放大器、布线这些必须的开销,也没算良率损失;同样 8GB 的 DRAM 阵列只要一两平方厘米。这个量级的差距,决定了 8GB 主存不可能是 SRAM。

顺带说清楚内存条是什么。它不是一块「内存芯片」,而是一块电路板,上面焊了多颗 DRAM 颗粒,加一颗很小的 SPD 芯片存厂商、时序、容量这些参数,再加上金手指和供电。常见的台式机条子是 64 位数据宽度,用 8 颗 8 位颗粒并联就能凑满;笔记本和手机则更多用焊死的颗粒或者更紧凑的封装。

所以「加内存」加的是 DRAM 颗粒的数量,「缓存大小」说的是片上 SRAM 的容量,两者根本不在一个采购清单上。把这条存储层级按速度和价格排出来,就一目了然了:

寄存器CPU 内部,几十到几百个,每个几字节。延迟不到一个时钟周期,由编译器分配。
SRAM 缓存L1、L2、L3,几十 KB 到几十 MB。延迟一到几十个纳秒,用 6T 单元。
DRAM 主存8GB 到几百 GB。延迟几十到上百纳秒,用 1T1C 单元,需要刷新。
闪存与磁盘几百 GB 到几 TB。延迟微秒到毫秒,断电不丢,属于持久存储。

越往上越快、越小、越贵,越往下越慢、越大、越便宜。这个金字塔不是设计出来的审美,而是被物理和成本逼出来的结果。

为什么 L1 不能用 DRAM

有人会想,既然 DRAM 便宜,那缓存也用 DRAM,容量还能更大,不是更好?不行,原因有三层。

第一是速度。CPU 一条指令可能每个周期都要读一次数据,L1 的延迟必须压到几个周期以内。DRAM 从发命令到数据回来要几十纳秒,按 3GHz 算就是上百个周期,中间 CPU 只能干等。缓存的全部意义就是避免这种等待,用 DRAM 做 L1 等于把缓存的意义取消了。

第二是接口和时序。DRAM 不是「给个地址就出数据」的器件,它要分行地址、列地址,要激活行、等行缓冲稳定、再发列命令,还要在预充电期间不能碰这一行。内存控制器得排调度、插入刷新、处理时序参数。把这套东西塞进每个 CPU 核心的 L1 旁边,面积和功耗都不划算。SRAM 的接口简单到几乎就是地址进来、数据出去。

第三是刷新开销。DRAM 要周期性地占用时间刷新,刷新期间不能正常服务访问;缓存却要求随时可用、延迟稳定。把需要定期维护的器件放在对延迟最敏感的位置,本身就是矛盾。

反过来也一样:为什么不用 SRAM 做 8GB 主存?除了前面算过的面积和成本,还有功耗和良率。同样容量下 SRAM 的静态漏电和单元数量都高得多,一颗芯片做不了那么大,得拆成很多颗,主板的布线和封装成本又会反过来压过 DRAM 的优势。

一次访问到底走了哪些步骤

理解了单元结构,再看一次真实的内存访问,就很容易明白为什么延迟是几十纳秒而不是几纳秒。

一次读请求的路径
CPU 发起给出虚拟地址,查 TLB 换成物理地址
查缓存L1 未命中转 L2,再未命中转 L3
内存控制器排进队列,按 bank 和行地址调度
激活行整行搬进行缓冲,放大并回写
读列按列地址取出 64 字节缓存行
回填数据沿总线回到 L3、L2、L1

注意最后一步取的是 64 字节,不是一个变量。CPU 和内存之间搬运的最小单位叫缓存行,典型 64 字节;你只读一个 4 字节的整数,内存也会给你一整行。这是为了利用空间局部性:既然已经付出了一次激活和传输的代价,就多拿一点邻居数据。这条规则后面讲缓存层级时会展开,它也是很多「明明只改了一个字段,性能却掉一半」的根源。

这条路径上每一层都可能成为瓶颈:TLB 未命中要再走一次页表,L3 未命中要等内存控制器,行冲突要重新激活。所谓「内存慢」,慢的是整条链路,不是某一个器件。

刷新、功耗和频率的账

DRAM 的刷新不是免费的。刷新一次要读一整行再写回去,占用的带宽虽然比例不大,但它是持续发生的;容量越大、温度越高,这部分开销越明显。手机待机时内存还要保持内容,就得定期刷新,这也是待机功耗里不可忽略的一块。LPDDR 在这方面做了不少优化,比如温度补偿刷新和部分阵列自刷新。

频率提升的代价同样真实。DDR5 的速率已经到几千兆传输每秒,位线之间的干扰、信号完整性、时序余量都越来越紧,于是有了片上纠错、更复杂的训练流程和更贵的电路板。你在参数页看到的频率数字,背后是功耗和稳定性的交换,不是白给的。

SRAM 的功耗则是另一套账:它不需要刷新,但单元多、漏电大,而且缓存越大,命中率提升越有限,查表和标签比对的开销却线性增长。所以缓存也不是越大越好,L1 停在几十 KB、L3 停在几十 MB,是命中率、延迟和面积折中后的结果,不是工艺做不上去。

不要把「内存频率高」直接等同于「程序更快」。真实程序受限于访存模式、缓存命中率和内存控制器的调度,频率只是其中一项。买机器时先看容量够不够,再看通道数和频率,顺序反了钱就花得冤枉。

还有一个常被忽略的点:DRAM 是易失的,SRAM 也是易失的。断电瞬间两者都保不住数据,所以任何「写了就要在」的需求,最终都要落到闪存、硬盘或者别的非易失介质上,再配合文件系统和刷盘策略。这条链路后面几篇会一层层拆开。

现象对照:这些症状先查哪儿

下面这些现象在选型、装机、排查性能问题时出现频率很高。表里给的是第一反应该查什么,不是完整手册,但能省下不少瞎猜的时间。

现象真实原因第一步查什么
内存容量大,程序还是卡容量够但带宽或延迟不够,访存模式差,缓存命中率低看任务管理器或性能计数器里的缓存未命中率、内存带宽占用
同样容量,机器价格差一大截颗粒类型、频率、通道数、是否焊死、品牌与保修不同核对颗粒代数、频率、单条容量和通道配置,别只看总容量
笔记本待机掉电快内存保持刷新、后台进程唤醒、睡眠策略不当看睡眠模式是待机还是休眠,查唤醒源和内存自刷新配置
断电后刚写的数据没了数据还在 DRAM 或页缓存里,没落到非易失介质确认是否有刷盘或落盘动作,而不只是写进了内存
缓存参数很大但性能没提升工作集本来就小,或访问模式不连续,缓存早就装得下量一下实际工作集大小和访问步长,再判断缓存是否白加
加了一条内存反而不稳两条颗粒时序不一致、插槽通道配错、超过控制器支持频率查主板插槽顺序、内存 QVL 列表和实际运行频率
「8GB 内存只显示 7.x GB 可用」核显共享内存、系统保留、硬件地址空间占用看集成显卡的共享显存设置和系统保留量,不是内存坏了

边界与代价

第一,DRAM 的便宜是有前提的。它需要内存控制器、需要刷新、需要复杂的时序训练,这些配套成本摊在主板和 CPU 上。如果只是几十 KB 的片上缓冲,配一套 DRAM 控制器反而比直接用 SRAM 贵得多。选型要看总量,不要只看单价。

第二,SRAM 的快也是有上限的。容量越大,译码和布线延迟越长,大容量 SRAM 的访问速度会下降,所以 L3 比 L1 慢,这不只是「离得远」,也是阵列变大后的必然。缓存层级的存在,本质是在速度和容量之间叠了几层折中。

第三,两者都易失。DRAM 和 SRAM 的通电保持能力,决定了它们只能做工作区,不能做仓库。真正要保住数据,必须有非易失介质和正确的落盘顺序,这部分后面会单独讲掉电与 fsync。

第四,频率和容量的提升都有代价。内存频率上去,功耗、发热、信号完整性、成本一起上去;缓存容量上去,面积、漏电、访问延迟一起上去。工程上不存在「全都更好」的选项,只有「在你的负载下哪一项更值」。

最后,别把参数当性能。容量、频率、时序、通道数、缓存大小,都是输入条件;真正的结果取决于你的程序怎么访问内存。这也是下一篇要解决的问题:同样是访问一个数组,为什么数组大一倍,耗时能翻好几倍。

今天就能验证的五个练习

  1. 查清自己设备的两个数字:系统设置里看内存总容量,再用系统信息或厂商工具查 CPU 的 L1、L2、L3 缓存容量,把两个数字并排写下来,感受一下数量级的差距。
  2. 按文中方法粗算一次:假设 6T SRAM 单元 0.02 平方微米,算 8GB 需要多少平方厘米的存储阵列,再和一颗 DRAM 颗粒的 Die 面积对比。
  3. 分别写下 DRAM 和 SRAM 的功耗来源:一边是刷新和接口,一边是漏电和阵列规模。想清楚为什么手机待机时内存还在耗电,而缓存不会单独出现在电池统计里。
  4. 画一张自己的存储层级表,从寄存器、L1、L2、L3、内存、硬盘,每层写上容量量级和延迟量级,标注哪些是易失的。
  5. 拆不了机器就查资料:找到自己内存条的颗粒型号和位宽,算一下这条内存是几颗颗粒拼成的,再对照 CPU 支持的最大通道数,看有没有插错通道。

收束:快和大的分工

DRAM 用一颗晶体管加一个电容换密度,代价是刷新、破坏性读和复杂时序;SRAM 用六颗晶体管换速度和简单控制,代价是面积和成本。主存必须是 DRAM,是因为容量和价格;缓存必须是 SRAM,是因为延迟和确定性。两者不是同一种东西的两个型号,而是存储金字塔上两个不同楼层。

理解了这一层,下一个问题自然就来了:既然缓存是分层的,那 L1、L2、L3 各自装什么、谁私有谁共享、一层层查下去到底要花多少时间?下一篇就把这几级缓存拆开,并用一个能真跑的小程序,量出你自己机器上的台阶。