操作系统内功 · 第 68 篇|内核锁全景:qspinlock、mutex 与 rwsem

一把自旋锁的进化史:从闹市抢答到排队叫号

内核三级锁体系:qspinlock、mutex 与 rwsem 分层图

内核里最底层的锁是自旋锁:拿不到就原地转圈,绝不让出 CPU。它适合临界区极短的场景——转圈的纳秒级开销远小于睡眠再唤醒的微秒级代价。但「原地转圈」的具体姿势,四十年来迭代了三代。第一代是原始的 test-and-set:所有竞争者反复原子读写同一个锁字,谁先抢到谁赢。它的致命弱点在缓存:几十个 CPU 反复读写同一根缓存行,锁字在 NUMA 机器的远端缓存之间来回弹跳,一次弹跳就是上百纳秒,竞争越激烈弹跳越凶。

第二代票号锁(ticket lock)给并发上了秩序:锁字拆成「当前叫号」与「下一个取号」两个字段,加锁者原子取号,轮到自己才能进,公平性有了 FIFO 保证。但所有等待者仍在盯着同一根缓存行上的「当前叫号」轮询——解锁的那一下,几十个 CPU 的轮询同时失效,集体冲向下一轮抢答,缓存行再次被踩成热点。秩序有了,弹跳没解决。

第三代 MCS 队列锁才是治本方案:每个等待者在自己的 CPU 上放一个队列节点,只盯着自己节点的标志自旋;前任持锁者解锁时精确地把接力棒递给队列里的下一位。每个人盯着各自缓存行,弹跳彻底消失。Linux 落地的 qspinlock(queued spinlock)是 MCS 思想的高度压缩版,下面展开看它怎么把一整条队列塞进四个字节。

qspinlock:四个字节里的队列

qspinlock 的全部状态是一个 32 位整数,布局大致分三层:低位字节是持锁标志,一位是 pending 位,高位编码队尾信息(CPU 索引与队列位)。无竞争时快路径极致简单:第一个到达者只需要一次原子操作把持锁字节置位,此时它甚至不是「锁」而只是一个字节的赋值,开销与缓存影响最小化。第二个竞争者看到持锁位已占,会先尝试置 pending 位——表示「已经有人排队了,后来的直接去入队」,避免两人同时盯着持锁字节较劲。

真正的排队从第三个竞争者开始:后来者把由自己 CPU 索引编码的队尾标记原子写入锁字,并在 per-CPU 数组里预留一个 MCS 节点,此后只盯着自己节点的指针自旋。持锁者解锁时沿队列传递持锁权,一人喊号一人应答,没有任何第三者参与轮询。这套设计把三种竞争强度(无人竞争、一人竞争、多人竞争)分别落在三个成本台阶上,每级都只付必要的钱。qspinlock 在 4.x 时代的内核里逐步成为 x86 等主流架构的默认自旋锁实现,如今已经是内核全局公平性的事实标准。

节点采用 per-CPU 静态数组而非动态分配,这一点值得单独说明:排队发生在锁竞争的路径上,此时很可能不允许睡眠、不允许再抢内存,per-CPU 数组保证每个竞争者「自带小板凳」,入队动作只是把预留节点的指针挂进链。也正因为每个 CPU 的节点可能同时被多把不同的锁借用,队尾编码里除了 CPU 索引还要区分位,防止两条队列错挂到同一个节点上。这些细节单看都琐碎,拼在一起体现了内核同步原语的通用设计取向:把最坏情况下的所有资源都提前备好,热路径上只做原子替换与指针读写。

flowchart TD
    subgraph 短临界区["短临界区层:qspinlock"]
        A1["无竞争:持锁字节一次置位"]
        A2["单竞争者:pending 位挡住后来者"]
        A3["多竞争者:per-CPU MCS 节点排队<br/>各自盯各自缓存行"]
    end
    subgraph 可睡眠层["可睡眠层:mutex"]
        B1["快路径:cmpxchg 抢 owner"]
        B2["乐观自旋:持锁者在跑就再等等<br/>osq 队列维持秩序"]
        B3["睡眠等待:挂 waiters 链表<br/>wake_q 批量叫醒"]
    end
    subgraph 读多写少层["读多写少层:rwsem"]
        C1["读者并发进入"]
        C2["写者活跃位排他"]
        C3["HANDOFF 防写者饿死"]
    end
    短临界区 --> 可睡眠层 --> 读多写少层

mutex 的两级人生:乐观自旋与睡眠等待

自旋锁的前提是「临界区短到转圈划算」,可很多临界区没有这么自觉——中间可能有内存分配、可能短暂等待。mutex 就是为此设计的两级原语。第一级是快路径:锁字本身编码了持锁者(owner 指针的低几位另存状态标志),无竞争时一次 cmpxchg 直接把 owner 换成自己,零内核开销。第二级是慢路径,而慢路径内部又分两层,这是 mutex 精巧的地方。

慢路径先进入乐观自旋:持锁者此刻正好在某个 CPU 上跑着,可能下一瞬就解锁,此时睡觉再去唤醒纯属浪费。于是竞争者在 osq 队列(乐观自旋队列,同样是 MCS 思想)上排好队,一边盯着持锁者的动向一边等——一旦发现持锁者需要调度出去了(要睡觉、要被抢占),乐观自旋立刻收摊,全员转入真正的睡眠等待。这个「看人下菜」的判定让 mutex 在轻中度竞争时表现出接近自旋锁的吞吐,在重度竞争时又自动退化为睡眠队列,不会空烧 CPU。

真睡眠路径上,等待者挂进 mutex 的等待者链表,解锁方用 wake_q 把一批等待者攒起来批量唤醒,减少单次唤醒的调度抖动。饥饿问题靠 HANDOFF 标志解决:竞争时间过长时,内核把锁的所有权直接指定给队首等待者,新来抢锁的对手被拒绝直接插队——这与自旋锁的 FIFO 排队一脉相承,都是「先来后到不可侵犯」的公平性承诺。

两种原语的本质区别:临界区里能不能睡

自旋锁与 mutex 的选择标准其实只有一条硬规则:持锁期间会不会睡眠。自旋锁持有者绝不能睡——它睡掉了,其他核的竞争者要原地转到天荒地老,还会连带死锁同一 CPU 上的调度线程;因此自旋锁只保护确定不含阻塞操作的极短路径,比如中断处理里的队列搬运、锁住某个哈希桶做一次查找替换。mutex 则允许持锁期间做任何「进程上下文里合法」的事,包括内存分配等可能间接睡眠的操作。中断上下文永远只能用自旋锁家族,而且要禁中断加解锁(spin_lock_irqsave 一类),防止拿锁路径被中断打断形成自锁。

rwsem:读多写少场景的防饿死设计

读写信号量 rwsem 解决的是另一个维度的矛盾:读侧要并发,写侧要排他。核心数据是一个长整型计数:读者按需叠加计数,写者用活跃位独占。听起来简单,难点全在公平性——如果一直放读者进来,写者理论上可以永远拿不到锁(写者饥饿)。内核的解法是写者倾向加 HANDOFF:一旦有写者到达并开始等待,后来的读者就会被挡在门外排队,等当前读者放锁后写者优先接管;接管完成后读者再恢复并发。等待时间过长时同样触发 HANDOFF 转交,避免后来者横插。

rwsem 还吸收了 mutex 的乐观自旋思想:读侧在写者尚未真正持锁的窗口内可以乐观进入,写侧在等待时也能自旋等待前一个写者交接。进程地址空间的大锁 mmap_lock(老名字 mmap_sem)是 rwsem 最著名的用户:fork、缺页、mprotect 全在它下面;XFS 与 ext4 的 inode 锁 i_rwsem 也是 rwsem,文件写入与截断的排他全靠它。这两处共同特点是读者多(缺页、读文件)而写者低频,正是 rwsem 的舒适区。

选型决策:三个问题定位该用哪把锁

第一问:临界区里有任何可能睡眠的调用吗?有——mutex 或更高级的同步机制,自旋锁直接出局。第二问:临界区时长是否稳定在纳秒到低微秒级、且竞争热点主要在无竞争快路径?是——qspinlock。第三问:读写比例是否严重倾斜、读侧访问是否可以并行而无需看到彼此?是——rwsem;读写都频繁则 rwsem 的写者代价会反噬,回头用 mutex。另外还有一个轻量替代值得记住:纯统计类数据(计数器、标志位)根本不需要锁,per-CPU 变量是第一选择——这正是下一篇的主题。

还有一个容易被忽略的元规则:锁的粒度与临界区时长比锁的种类更重要。把一把大锁拆成按哈希分片的多把小锁,往往比从 mutex 换成 qspinlock 多一个数量级的收益;而把锁的范围从「整个函数」缩小到「仅赋值语句」,收益同样立竿见影。种类选择解决的是「竞争时怎么等」,粒度设计解决的是「根本别让那么多人竞争」,后者才是大头。

观测:lock_stat 与 lockdep 两件套

内核为锁的诊与断准备了两件套。第一件是统计:编译期打开 LOCK_STAT 后,/proc/sys/kernel/lock_stat 是开关,/proc/lock_stat 输出每类锁的争用次数、等待时间分布、持锁时长——按 max hold 与 total wait 排序,锁热点立刻现形。第二件是正确性:lockdep(PROVE_LOCKING)在运行期跟踪锁的获取顺序历史,一旦出现可能的死锁序(包括读锁写锁的交叉反转),当场打印完整证据链。这两件的输出口径不同:前者回答「哪把锁慢」,后者回答「哪把锁危险」,排查锁问题时最好都用上。

# 1) 开启锁统计(需要内核编译了 CONFIG_LOCK_STAT)
echo 1 > /proc/sys/kernel/lock_stat

# 2) 跑一段有代表性的压力,然后查看统计
cat /proc/lock_stat | head -20
# 输出按争用排序,重点看 waittime-total 与 max-hold 两列:
# class name                 contentions  waittime-total  max-hold   acquisitions  holdtime-total
# &(&mm->mmap_lock)->rlock          1204      3.12 s        2.31 ms      98452        1.02 s

# 3) 清空重新统计另一段场景
echo 0 > /proc/lock_stat

# 4) lockdep 一旦发现死锁风险,dmesg 会有完整报告:
dmesg | grep -A 40 'possible deadlock'

perf 这边也有一条独立通路:perf lock record -- ./your_bench 采集,perf lock report 汇总,能在不重新编译内核的发行版内核上拿到锁竞争的粗粒度视图。与 /proc/lock_stat 相比它的开销模型不同,两个口径互相印证更稳妥。

两个真实调优案例

案例一是数据库代理进程的锁迁移:压测发现 64 线程下吞吐不升反降,/proc/lock_stat 里一条自旋锁的 waittime 占比过半——原来是一张全局连接哈希表的桶锁。解法不是换锁,而是把单表按连接哈希切成 64 个分片表,每片一把锁;改完同一压测吞吐翻倍,锁统计里各分片的争用均匀而低。教训:qspinlock 已经把等待成本优化到极致,但「所有人都得经过这一道门」的设计问题它救不了。

案例二是 rwsem 的写者反噬:某日志检索服务把每条索引段用读锁保护,索引滚动更新(写)每分钟一次,看似写极少,但每次写要等全部读者放锁,叠加 HANDOFF 之后反而造成读侧周期性长尾。改法是把大段拆小段、写时用 RCU 式替换整段指针(呼应第 67 篇),读锁只在段内元数据上短暂持有。rwsem 从「整段一把」退到「段内细粒度」,长尾随之消失。教训:读写锁的舒适区是「读极多写极少且写可以在业务低谷发生」,写有周期性硬延迟要求时,先考虑换数据结构而非换锁。

收官:三把锁的分工地图

把三把锁放回同一张地图:qspinlock 管最底层的短临界区互斥,公平排队、零弹跳;mutex 管可以睡眠的互斥,两级策略让轻竞争跑得快、重竞争睡得稳;rwsem 管读多写少的并发访问,写者倾向保公平。它们共享同一套设计母题——快路径极简、慢路径排队、队列用 MCS 思想防弹跳、公平性靠先来后到或 HANDOFF 兜底。理解了这一层,再看内核里任何一把锁,都不再是黑盒;下一篇我们离开锁的世界,去看第一根「不用锁的杠杆」:per-CPU 变量。

← 返回资讯列表

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?