为什么「暂停」比「杀死」难得多

杀死一个进程再启动一个新进程,操作系统有一整套成熟通道;但把一个跑了一半的进程原样冻起来、过段时间在别处解冻继续跑,就要面对一组完全不同的难题。进程的全部状态散落在内核的几十个数据结构里:寄存器与信号掩码在 task_struct,虚拟内存布局在 mm_struct 的 VMA 链,打开的文件在 fd 表与文件的偏移量里,还有套接字的对端状态、定时器、子进程关系、namespace 身份。快照工具要做的,是把这团散落的状态完整读出来写成文件,再在恢复侧原样摆回去——而且要求恢复后的进程觉得自己从未离开过。
CRIU(Checkpoint/Restore In Userspace)就是干这件事的标准工具,出身 OpenVZ,如今支撑着 HPC 断点续算、容器在线迁移、无服务器冷启动加速等一整条工程链。它的名字里带着 In Userspace,因为绝大多数工作不需要打内核补丁——但这有个前提:内核得把足够的观测与控制接口暴露出来。所以看 CRIU 的实现,其实是在看一份「进程状态究竟由哪些内核账本构成」的清单,这个视角对排查日常问题同样值钱。
flowchart TD
subgraph dump ["dump 侧:活进程到镜像文件"]
A["选择进程树<br/>criu dump -t PID"] --> B["freeze:cgroup freezer<br/>或 ptrace 按住全树"]
B --> C["注入 parasite:<br/>远端 syscall mmap 代码段<br/>经控制套接字指挥"]
C --> D["采集:/proc 读 maps、stat、<br/>fd 表、信号掩码、寄存器"]
D --> E["内存:/proc/pid/mem 逐 VMA 读出<br/>增量模式用 soft-dirty 只抓脏页"]
E --> F["镜像目录:每个对象一种 .img"]
end
subgraph restore ["restore 侧:镜像文件到活进程"]
G["criu restore"] --> H["按镜像重建 namespace<br/>写 ns_last_pid 精确复位 PID"]
H --> I["restorer 进程逐个 fork 出<br/>目标 PID 的子进程"]
I --> J["mmap 还原地址空间<br/>fd、信号、cgroup 逐项复位"]
J --> K["sigreturn 跳板一次性<br/>恢复寄存器并切入用户态"]
end
F -. "镜像文件" .-> G
checkpoint:把进程树按住再翻账本
dump 的第一步是让整棵进程树静止下来。进程在跑,账本就在变,边读边变的账本没有意义。CRIU 的冻结走两条通道:能用 cgroup freezer(第 84 篇讲挂载传播时提过 freezer 是 cgroup 家族的一员)就用它,整组进程一次性进入冻结态,开销小、粒度齐;不能用的场合退回 ptrace 路线,对每个进程 attach 上去拿控制权。冻结完成后,内核侧的进程状态就凝固了,接下来是纯粹的采集工作。
采集的原料几乎全部来自 procfs。/proc/<pid>/stat 给出寄存器快照需要的退出状态与调度参数,/proc/<pid>/maps 列出全部 VMA 的起止、权限与映射对象,/proc/<pid>/fd 枚举打开的描述符及其指向,/proc/<pid>/status 里躺着信号掩码与进程关系。这些在第 85 篇讲 procfs 时提过的伪文件,此刻成了快照的原始账本。寄存器本身的读取则借道 ptrace:PTRACE_GETREGS 一把抓出通用寄存器组,浮点与向量寄存器另有对应接口。
真正麻烦的是内存。最朴素的办法是通过 /proc/<pid>/mem 按 VMA 范围把内容整段读出来写进镜像,简单但量大:一个占 8 GB 物理内存的进程,镜像就 8 GB 起。CRIU 的两件优化武器都在这里。第一件是 parasite:通过 ptrace 把一小段 CRIU 自己编译的代码注入目标进程——远端调用 mmap 划出一小段内存、把代码与一个 unix 套接字控制通道塞进去、改 PC 跳过去——之后采集就在进程自己的身体里进行,避免了外头逐字节搬运的开销。第二件是增量抓取:pre-dump 模式先做一轮完整快照,之后利用 /proc/<pid>/pagemap 里的 soft-dirty 位识别这段时间真正变脏的页,下一轮只拷贝脏页。迁移场景靠它把「停机窗口」压缩到只剩最后一轮增量拷贝,前面几轮都在进程照常服务的同时后台完成。
套接字是另一块硬骨头。TCP 连接的对端状态在内核里,直接 dump 只能拿到五元组。CRIU 的方案是 TCP_REPAIR:把套接字切进 repair 模式后,内核允许用户态读出并回写序列号、窗口、拥塞状态这些平时看不见的字段,配合网络侧短暂的静默,连接可以带着完整状态搬家。这也是「在线迁移」里最体现工程浓度的部分。
fd 表的采集与还原是另一个看似简单、实则环环相扣的环节。采集侧从 /proc/<pid>/fd 读出编号与指向,再从 fdinfo 里拿偏移量与标志位,镜像里记录的是「第 5 号 fd 是某文件、读写位置在某处、带 O_APPEND」。还原侧的约束是编号必须精确复原:dup2 之类的调用只能从低往高搬,编号冲突时顺序不好安排,CRIU 的 restorer 代码用了一套「先占坑再换位」的小状态机——把所有 fd 先恢复到高位暂存区,再按镜像顺序精确落位。单独看每一步都是常识,拼在一起才知道「恢复一个进程」这五个字里藏着多少细节。
restore:回去的路比来的路难
恢复侧的难度普遍高于快照侧,原因只有一个:dump 时内核帮你账实相符,restore 时你得把账本重新写回内核,而很多内核状态只写不读、或者压根不允许外部进程随意设置。
第一道坎是 PID。恢复出的进程树必须拥有和原来一模一样的 PID,父子关系才对得上。PID 由内核分配,用户态 normally 不能指定——除了一个后门:/proc/sys/kernel/ns_last_pid。在新的 PID namespace 里,CRIU 先把这个 sysctl 写成「目标 PID 减一」,紧接着 fork,内核顺次分配就精确落在想要的号上。这也解释了为什么 CRIU 恢复强烈依赖独立 namespace:在自己的 namespace 里做主,不与宿主机上的其他进程抢号。
第二道坎是地址空间。镜像里记录了每个 VMA 的属性与内容,restore 侧按原样 mmap:文件映射重新打开对应文件做 MAP_FIXED,匿名内存则先匿名映射再把镜像里的字节灌进去。内存灌入同样借道 parasite——恢复早期往「准进程」里注入一小段 restorer 代码,它持有所有原始数据,负责在最后一刻摆好 fd 表、恢复信号处置与掩码。
第三道坎是寄存器,也是整个机制里最漂亮的一笔:内核不允许从外部「设定」另一个进程的完整寄存器组(ptrace 可以改,但要逐个寄存器来,而且时机难以原子化)。CRIU 的做法是搭一个 sigreturn 跳板——把目标的全部寄存器值预先填进一个信号帧,然后调用 rt_sigreturn。内核处理 sigreturn 时会把信号帧里的值成套装回寄存器并跳到帧里指定的 PC,一次系统调用完成「满血复活」,进程从它被冻结那一刻的下一条指令继续执行,仿佛什么都没发生。此后 parasite 代码自毁,进程回到原始语义。
它踩在哪些内核特性上
把前两节出现的依赖收拢成一张清单,每一项都值得单独记住,因为它们平时就能在别的场景里帮上忙:
- ptrace 全家:
PTRACE_SEIZE/PTRACE_INTERRUPT拿控制权、读写寄存器、注入代码。seccomp 或某些沙箱环境禁用 ptrace,CRIU 就直接失效——容器里用 CRIU 要检查这一点。 - procfs 账本:maps、stat、status、fdinfo。任何「进程状态采集」类工具的原料库。
- soft-dirty 位:pagemap 里标记「自上次清除后写过」的页,是增量快照与迁移预拷贝的地基,也是内存分析工具判断热点页的利器。
- cgroup freezer:整树冻结的标准通道;cgroup v2 下同样可用。
- ns_last_pid:namespace 内精确控制 PID 分配序号。
- TCP_REPAIR:套接字状态可读可写模式,迁移有状态连接的关键。
这份清单也反过来定义了 CRIU 的能力边界:凡是内核没把状态暴露出来的对象——某些设备文件描述符、部分异构计算上下文、跨主机的实时时钟语义——快照就会不完整或直接拒绝。工程上遇到 dump 报错,第一反应应该是查「哪类 fd 没法序列化」,而不是怀疑工具本身。
跑起来:一次完整的 dump 与 restore
CRIU 的命令行接口不复杂,下面这段可直接在有权限的 Linux 机器上复现(需要 root 或 CAP_SYS_ADMIN,内核要带 CONFIG_CHECKPOINT_RESTORE):
# 准备一个长跑进程
python3 -c 'import time; [print(i, flush=True) or time.sleep(1) for i in range(10**9)]' &
PID=$!
sleep 3
# 快照:-t 指定进程树,--shell-job 声明它挂在终端上
criu dump -t $PID --images-dir /tmp/cr-imgs --shell-job --log-file dump.log
# 此刻原进程已被终止,/tmp/cr-imgs 下是 core-*.img、mm-*.img、fds-*.img 等
# 等任意长时间,甚至换一台同架构机器
criu restore --images-dir /tmp/cr-imgs --shell-job --log-file restore.log
# 输出从断点继续打印,PID 与冻结前一致
镜像目录里最有意思的是文件粒度:CRIU 不做一个大文件,而是按对象种类拆——core 是寄存器与基本身份,mm 是地址空间布局,fds 是描述符表,pstree 是进程树骨架。这个粒度让调试快照问题成为可能:dump 失败时看最后写完的镜像文件,就能定位卡在哪一类对象上。
容器场景把它又推高一层。Podman 的 podman container checkpoint / restore 在底层调用 CRIU,把整棵容器进程树连同 mount、PID、network namespace 一起搬家,配合增量预拷贝可以把迁移停机窗口压到秒级以下。NVIDIA 生态近年也在推 GPU 场景的插件化支持,把显存状态纳入同一套镜像格式。
工程场景与能力边界
场景一:HPC 长任务断点续算。 一个跑三天两夜的仿真集群任务,中途因机房断电全灭——没有快照就只能从头来。这类场景的标准做法是按小时做一次 CRIU 快照到共享存储,故障后 criu restore 回到最近一次快照点,损失被限制在一个快照周期内。这里的工程要点是快照的存储成本:配合 pre-dump 与软硬链接去重,常用配置能把每轮快照的增量控制在百 MB 级。
场景二:无服务器的冷启动加速。 函数计算平台冷启动要拉起运行时、加载依赖,动辄数百毫秒到秒级。一些平台把「预热好的函数进程」周期性 CRIU 成镜像,冷启动变成 restore——恢复是纯内存操作,毫秒级完成。这与虚拟机级别的快照启动(Firecracker 的 snapshot)是同一思想在进程粒度上的版本:初始化成本高昂的东西,都可以用快照把「慢」一次性付清。
能力边界上要记住三件事。第一,有状态的 fd 是最大变数:设备文件、带绝对时间语义的定时器、某些共享内存段都可能 dump 不下来,工具会明确报错而不是静默出错。第二,安全机制是硬约束:gVisor、强 seccomp、某些 LSM 下 ptrace 被禁,CRIU 直接不可用。第三,恢复侧的内核版本不宜大幅新于 dump 侧:镜像里的内核状态语义跟着版本走,跨大版本恢复要提前验证。把 CRIU 用在生产前,先用真实进程树做一轮 dump-restore 灰度,比读任何文档都有效。
一句话带走
CRIU 的价值不在工具本身,而在它逼着回答的那个问题:一个进程在内核里到底由哪些状态构成。寄存器在 task_struct、内存账本在 mm 与 VMA、fd 在 files_struct、连接状态在 sock、身份在 namespace——快照工具把这本账摊开给你看,而读懂这本账的人,无论是排查僵尸、分析内存还是设计迁移,都会比只会用工具的人快一步。
读者留言
COMMENTS 暂无还没有留言,来说第一句?