操作系统内功 · 第 80 篇|稀疏文件与 fallocate:du 和 ls 为什么对不上

同一个文件的两本账

稀疏文件 hole 与 ls/du 两本账对比及打洞流程图

一个 10GB 的文件,ls 报 10GB,du 只报 1GB——两个命令都没错,错的是你假设它们量的是同一个东西。ls 读的是 inode 里的 st_size,即文件「宣称」的逻辑长度;du 数的是 inode 里的 st_blocks,即文件实际划走的数据块。当文件里存在大片「没有分配任何块」的区间(hole)时,两本账就拉开了差距:hole 区间读起来全是零,但一个物理块都不占。这样的文件叫稀疏文件(sparse file),它不是什么特殊格式,而是所有主流 Linux 文件系统(ext4、xfs、btrfs、tmpfs)的天然能力——ext4 的 extent 树里,一段没有对应 extent 记录的逻辑区间就是 hole,第 79 篇讲过那棵树怎么记映射,本篇补上「不记」的那一半。

稀疏性是「文件如何占盘」的机制,不是「内容如何编码」的压缩:零不省存储(写入显式零照样占块),省的是「根本没写过」的区间。这个区别决定了它的适用面:虚拟机磁盘镜像、数据库按需生长的表空间、日志轮转前预先撑长的文件、下载器预创建的目标文件——凡是「逻辑上很大、实际只用一小段」的文件,都值得稀疏。本文把 hole 的机制、盘点手段与操作工具链讲透,再算清两个真实场景里「对不上账」的成本。

flowchart LR
    A["写入逻辑区间 0..N<br/>只写过两端"] --> B["ext4 extent 树"]
    B --> C["extent:块 0..9 -> 物理段 A"]
    B --> D["hole:块 10..2097 无映射<br/>读作零、不占块"]
    B --> E["extent:块 2098..2100 -> 物理段 B"]
    F["ls 读 st_size"] --> G["账本一:逻辑 10GB"]
    H["du 读 st_blocks"] --> I["账本二:占块约 1GB"]
    J["fallocate 打洞"] --> K["指定区间映射摘除<br/>块归还文件系统"]
    K --> D

hole:没划地却读作零的区间

hole 的语义由内核统一兜底:任何对 hole 区间的读,内核直接返回零页,根本不下发 IO;对 hole 的写,按位置就近分配新块,文件在那一刻「长胖」。产生 hole 的途径有三条:其一,跳着写——在文件偏移 1TB 处写一小段,中间从未写过的区域自动成为 hole(dd seek 远跳是经典的制造方式);其二,truncate 扩展——把文件从 1GB 撑到 10GB,新增部分全是 hole;其三,反向操作「打洞」——把已占块的区间摘除映射、归还给文件系统,这是 fallocate 的职责,下一节展开。读作零是逻辑契约,块的分配状态才是物理事实,「逻辑大小」与「占用大小」从此必须分开记账。

有一个容易混淆的点要按住:hole 读作零,但「写满零」不等于 hole。往文件里 dd if=/dev/zero 写 5GB,这 5GB 实打实占块——文件系统没有义务检测「你写的是全零就自动转 hole」(部分场景 xfs 会在某些路径上做零块检测,但这是优化不是契约,不能依赖)。反过来,想要省空间必须在写入侧或事后用专门的工具显式制造 hole。还有兼容性提醒:非 Linux 文件系统(FAT/exFAT、部分网络文件系统)不支持稀疏语义,稀疏文件拷过去会被「充实」,du 与 ls 的差距瞬间归零——跨平台搬运稀疏文件永远要多想一步。

tmpfs 是理解稀疏语义的极好参照物:它的「块」就是内存页,未写过的区间不占任何页面,读 hole 同样返回零——/dev/shm 上放一个宣称 10G、只写 1G 的文件,真实内存占用就是 1G 加页账开销。这个特性让 tmpfs 上的稀疏文件成为临时大缓冲的便宜方案,也带来一个反直觉的坑:tmpfs 的容量统计与内存压力直接挂钩,稀疏文件突然被写满的瞬间,内存占用等量上涨,OOM 风险跟着上来——「磁盘上稀疏」与「内存里稀疏」的账本逻辑一致,但前者不心疼、后者会出人命,用量监控的紧迫度完全不同。

盘点手段:SEEK_DATA、SEEK_HOLE 与 FIEMAP

想程序化地弄清「哪些区间有块、哪些是洞」,内核给了两代接口。第一代是 lseek 的两个新指针(POSIX 2008,Linux 3.1 起完整支持):lseek(fd, offset, SEEK_DATA) 返回从 offset 往后第一个「有数据」的位置,SEEK_HOLE 返回第一个洞的起点;文件末尾永远算一个 hole 的边界,两个指针交替推进就能把文件切成「数据段 / 洞段」的完整清单。它简单可靠,是写稀疏感知工具的默认起点。第二代是 FIEMAP ioctl(第 79 篇的 C 示例用过):返回每个 extent 的物理起始块、长度与状态标志,能区分 unwritten(fallocate 预分配)与普通已写段,粒度最细;代价是接口繁琐、不同文件系统的标志位语义有差异。命令行里对应 filefrag -v(看 extent 形状)与 du/ls -s(看两本账),日常盘点足够。

# 用 SEEK_DATA/SEEK_HOLE 把文件的「数据段/洞段」清单走一遍
import os, sys

def segments(path):
    fd = os.open(path, os.O_RDONLY)
    size = os.fstat(fd).st_size
    segs, off = [], 0
    while off < size:
        d = os.lseek(fd, off, os.SEEK_DATA)     # 下一段数据的起点
        if d == -1:
            break
        h = os.lseek(fd, d, os.SEEK_HOLE)       # 这个洞/段在哪结束
        segs.append(("data" if d > off else "hole", off, h))
        off = h
    os.close(fd)
    return size, segs

size, segs = segments(sys.argv[1])
print(f"logical size: {size}")
for kind, s, e in segs:
    print(f"{kind}: {s} .. {e}  ({e - s} bytes)")

fallocate 全家桶:KEEP_SIZE、PUNCH_HOLE 与 ZERO_RANGE

fallocate(2) 是块分配的「瑞士军刀」,行为完全由 mode 位组合决定,四种常用组合的语义必须分清。默认模式(mode 为 0):把区间标记为已分配的 unwritten extent——空间实打实划走、读作零、后续写入不再触发块分配(预分配数据库文件与镜像的标准姿势,文件逻辑大小会被撑到区间末端)。默认模式加 KEEP_SIZE:划地但不改文件大小,适合在文件中间预留空间。PUNCH_HOLE(必须与 KEEP_SIZE 同用):把区间现有映射摘除、块归还文件系统、读回零——这是「打洞」回收空间的唯一正道,打完要 fsync 才落定。ZERO_RANGE:把区间的数据清零但保留占用(部分文件系统会把它实现成 unwritten 转换),与 PUNCH_HOLE 的区别是「还留着地、只是清空」。另有 COLLAPSE_RANGE 与 INSERT_RANGE 在文件中间删除或插入空间(改变文件大小、必须块对齐),属于少数场景的手术刀。

命令行工具 fallocate(util-linux)覆盖了这些 mode,最实用的是 -d/--dig-holes:把文件里所有「实际内容为零」的段自动转成 hole,专治「当初没稀疏、事后想回收」。注意它逐段读出比对再打洞,对超大文件是 IO 密集操作,别在业务高峰的线上盘上随手跑。与之呼应的还有一整族「稀疏感知」的搬运工具:cp 默认 auto 模式会尝试检测源文件的零段并生成 hole(--sparse=always 强制、never 关闭);tar 要加 -S/--sparse 才按洞归档(不加就是把零一字节不少地写进归档);rsync 对应 --sparse;dd 有 conv=sparse 跳过全零块。工具链记住一条主线:检测靠 SEEK_DATA/SEEK_HOLE 与 FIEMAP,制造靠 fallocate,搬运认准 sparse 参数。

一分钟实验场:亲手制造两本账

下面的 shell 序列在 ext4 或 xfs 上可直接跑,每一步都在给前文的机制盖章,建议亲手敲一遍建立手感:

# 造一个 1G 逻辑大小的稀疏文件:只在 1G 处写一个块
dd if=/dev/zero of=/tmp/sparse.img bs=1M count=1 seek=1024
ls -l  /tmp/sparse.img   # 1073745920 字节:逻辑账
ls -ls /tmp/sparse.img   # 实际占 1M 左右:物理账
du  -h /tmp/sparse.img   # 与 ls -ls 一致

# 中间写一段,hole 被就近分配的块「填」了一段
dd if=/dev/zero of=/tmp/sparse.img bs=1M count=2 seek=500 conv=notrunc
du -h /tmp/sparse.img    # 占用涨到 3M 左右

# 盘点区间:filefrag 看 extent 数与形状
filefrag -v /tmp/sparse.img

# 打洞回收刚写的那段,占用回落
fallocate --punch-hole --offset-range 500M 2M /tmp/sparse.img
du -h /tmp/sparse.img    # 回到 1M 左右

跑完这一轮,四个事实会刻进肌肉记忆:逻辑大小从头到尾纹丝不动;占用随真实写入涨落;filefrag 报出的 extent 数量就是碎片化的直接读数;打洞是唯一能在不动文件其余部分的前提下「就地缩占」的操作。线上遇到任何 du 与 ls 的分歧,都可以用这套最小实验复现与验证。

两个工程现场

现场 A:VM 镜像备份把备份盘撑爆

某虚拟化平台用 raw 格式稀疏镜像承载虚机盘:单盘宣称 500GB、实际写入不到 80GB,宿主机上 du 看着一切正常。备份任务用 tar 全量打包,没加 -S,归档文件按零逐字节堆——一夜之间备份盘写满,备份失败连锁引发第二天运维手忙脚乱。复盘暴露的是整条链路的稀疏盲区:tar 没加 -S;传输用的 rsync 没加 --sparse;备份脚本用 du --apparent-size 估算容量(把逻辑大小当真实占用),预估与实际差出数倍。整改三件套:归档 tar -cSf,传输 rsync -S(或先 fallocate -d 收紧镜像再走普通管道),容量预估统一用 st_blocks 口径;进一步的做法是把镜像格式换成 qcow2(本身按 cluster 稀疏,且 du 口径天然贴近实际)。这个现场的教训一句话:稀疏性是文件与文件系统之间的私下约定,跨工具搬运时任何一环「按逻辑大小办事」,整个链条就漏。

现场 B:云盘监控的乌龙与打洞回收

某日志平台发现监控容量曲线与人工核对严重不符:ls -l 报的日志逻辑大小是 du 的数倍——轮转工具为日志预撑了大小,但真正写过的是一小段,监控按逻辑大小配额、告警阈值全部失真。修复分两层。口径层:监控容量一律 st_blocks 口径(du 默认),逻辑大小只作参考列;配额与告警跟随占块口径。空间层:日志大文件定期滚动清理后,用打洞或删除回收——对「大文件不能删、中间大段过期」的文件(写满的 WAL、分段消息队列存储),PUNCH_HOLE 按区间回收是正解:fallocate --punch-hole 指定区间打洞,空间立刻还给文件系统而文件句柄与偏移全部不动,下游按偏移读的消费者无感知。这里有一个与 fstrim 的呼应值得点破:云盘与 SSD 上的删除,最终都要靠 discard 把空间还给下层——文件内打洞走 fallocate,文件删除后的回收走 fstrim,两个层次各司其职;「删了文件云盘账单还涨」这类投诉,多数是 discard 链路某一环没通。

这个现场还有一个延伸话题值得留一笔:容器与 overlayfs 场景下的稀疏表现。镜像层的 tar 解压如果不带稀疏参数,本该稀疏的大文件在容器可写层被逐字节充实;而把容器数据目录放在 thin pool 或精简置备的云盘上时,du 的「实际占用」又只是文件系统层的账,向下还要经过 discard 才真正落到池子——同一个文件从上到下有 inode 账、文件系统账、块池账三层,任何监控只取其中一层都会在某个场景翻车。容量治理的正确姿势是明确每一层账的归属与回收链路:应用层关心逻辑大小,运维层看文件系统占块,容量层盯池子水位与 discard 是否打通,三层口径分开建曲线,永远不要混用。

小结:稀疏是有代价的便利

  • 两本账永远分开看:st_size 是逻辑承诺,st_blocks 是物理占用;du 看后者,du --apparent-size 才看前者。
  • hole 读作零、不占块;「写过零」不等于 hole,稀疏必须显式制造或用稀疏感知工具搬运。
  • 盘点两代接口:SEEK_DATA/SEEK_HOLE 简单可靠,FIEMAP 信息最全,filefrag -v 是命令行默认。
  • fallocate 四组合:默认划地、KEEP_SIZE 保大小、PUNCH_HOLE 回收、ZERO_RANGE 清零留地;打洞后要 fsync。
  • 搬运工具链认准 sparse 参数:tar -S、rsync --sparse、cp --sparse、dd conv=sparse,漏一环就「充实」。
  • 监控与配额按占块口径建;跨文件系统(FAT、部分网络 FS)稀疏语义不保证,迁移前先确认。

下一篇从「空间的账」转向「名字的账」:硬链接与符号链接如何共享一个 inode、rename 凭什么承诺原子替换、RENAME_EXCHANGE 怎么把两条路径一步互换——文件系统里最常用的原子操作全在这篇里。

← 返回资讯列表

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?