GSM8K 的题目被背下来了会怎样——拆解污染的三条进入路径、n-gram 与 Min-K% 检测法，以及动态基准的军备竞赛。

FrontierMath 发布时最好的模型不到 2%，一年半后最高分冲到约 52%；可同一时期，GSM1k 证明部分模型的高分有背题成分，FrontierMath v2 修正了四成多题目，25 位菲尔兹奖得主联名批评「竞逐名题」。本文梳理数学评测五年演进、数据污染的实锤机制、FrontierMath 资助风波，以及 2026 年评测范式向证明题与开放问题的转向。

每个 LLM 基准都逃不过同一条生命周期曲线：出生时区分力强 → 大家刷分 → 分数挤在 90% 以上失去区分度 → 被质疑数据污染 → 退役换下一代。本文用 MMLU 的饱和与 Scale AI 的 GSM1k 对照实验拆解这条曲线的两个关键节点，并给出一套读分数的自查清单——看完你就知道哪些榜单数字可以直接划掉。

从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤，再到数据受限缩放定律，用实证数字回答「多干净的数据才值得训练」。

Leaderboard 分数与真实体验错位，主要来自四类坑：数据污染（考题漏进训练数据）、面向榜单的针对性刷分（Goodhart 定律）、评测方法本身不稳（提示词、判分与统计方差）、静态基准的饱和失效循环。本文用公开论文与官方博客证据拆解每类坑的机制，并给出读榜时的 7 条防坑检查清单。

「模型的能力上限由预训练数据决定」——但决定数据质量的是一条 rarely 被完整讲述的管线：采集、抽取、清洗、去重、过滤、配比。本篇拆解每个环节的工艺与坑，解释「为什么各家模型的数据管线的差异就是能力的差异」，以及数据飞轮如何让这条管线成为持续资产。

模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」，就能往模型里「放行为」。数据投毒研究证明：在网络级语料中混入极小比例的恶意样本，就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。

预训练数据墙（本库已有专篇）逼出了另一条路：用模型生成数据来训练模型。合成数据从「禁忌」（模型吃了自己会退化）进化为「主流」（前沿实验室的数据配方里都有它）。本篇拆解模型崩塌的警示、phi 系列的教科书路线、R1 式推理数据的可验证合成，以及合成数据的边界与风险。

用教育部官方公报逐条核查知乎热答「谁把大学生搞得这么廉价」：本科同龄占比从 2000 年的 5.2% 升至 2020 年的 26.9%，稀有度稀释 5.2 倍——数据方向正确、三处细节有误，结论稳健；但稀缺性不决定价格，学历溢价从 1.7 倍压缩到 1.27 倍才是「变廉价」的真证据。扩招、产业升级滞后、家庭合成谬误与雇主门槛通胀四股合力，没有主谋。

训练一个百亿级模型，单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行（数据并行、张量并行、流水线并行）的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

LIMA 用 1000 条精选数据就调出了能打的模型，「数据质量压倒数量」从此有了实锤。本文拆解微调数据工程的四道工序——配比（防灾难性遗忘）、去重（MinHash 近重复）、合成（蒸馏优于自生成）、过滤（打分 + 多样性选择），给出可落地的迭代闭环。

RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起，拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数，分析召回率、内存、延迟的三角权衡，给出按数据量分层的务实选型决策。

系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系，附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据，数据截至 2026 年 9 月。

多轮能力不是单轮能力的自然涌现——拆解多轮数据的三种构造法、loss 该算在哪一轮的关键决策与真实评测的坑。

显式与隐式反馈的采集口径、从信号到偏好对与 DPO 的数据管道、讨好循环与反馈偏差的陷阱，以及度量飞轮健康度的四项指标：把用户交互变成模型迭代引擎。

监控数据的特点：写入源源不断、按时间查、几乎不更新——这个特征催生了时序数据库（TSDB）的独特存储设计。Prometheus 的 TSDB、时间分片、索引结构与降采样——为什么监控系统都选 TSDB。

模型层被巨头锁死、应用层卷成红海，但 AI 基础设施层（Infra）的创业窗口反而变宽了：GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。

RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面（入库脱敏、检索权限、输出过滤）以及 GDPR 等法规的合规要求。

AI 的尽头是电力——训练要电、推理要电、冷却要电，数据中心正在成为全球电力需求增长最快的板块之一。科技公司签核电、买风电、自建电厂，电力公司成了 AI 产业链的隐形玩家。本文算清 AI 的能源账：电花在哪、账单有多大、以及「算力向电力富集区迁移」的产业重构。

「最新版的报销制度是什么」——语义检索能命中所有版本的报销制度，但只有元数据知道哪份是最新的。过滤条件（时间、部门、版本、类型）与语义检索是互补的两轴，合不好会出现「过滤后召回骤降」的经典翻车。本文讲清 pre/post-filter 的取舍、过滤条件的抽取与兜底。

模型不存数据，却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来；2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床（过拟合与记忆），以及差分隐私等防御的真实效果。

Epoch AI 估算公开人类文本有效存量约 300 万亿 token，按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半，以及 2026 年预训练数据策略的真实格局。

预训练 Scaling 撞上数据墙与算力墙：公共语料储量估算、推理感知的缩放修正、o1 之后测试时计算的新缩放曲线与三墙之下的产业走向。

2026 中期选举民主党大胜，10 个州 41 项数据中心公投几乎全部被选民限制或否决，AI 监管与建设节奏面临转向。

「给亿级大表加个字段」可以停机做，但业务不能停——不停机的 DDL、大表的数据回填、新旧结构的双写切换——数据迁移是把「结构变更」从手术台搬到跑步机上的工程学。

分布式系统的数据一致性永远有漏洞——缓存与 DB、主库与从库、双写系统之间——对账系统是「一致性的最后防线」：定时比对、差异发现、修复闭环。拆解对账系统的设计：对什么、怎么对、发现差异怎么办。

数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代：众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了：比的不是便宜，是「谁身边坐着的博士多」。

OpenAI 推出 Grid Protectors 计划，数据中心在电网紧张时让电，先在佐治亚州试点，号称可腾出约 70 万户家庭用电。

Google 为 TeraWulf 约 190 亿美元的 Anthropic 肯塔基数据中心租赁提供信用背书，并同步签署 Fluor EPC 协议。

企业最有价值的知识往往不在文档里，在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句，但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线：Schema 理解、SQL 生成、执行验证与错误恢复，以及它与向量 RAG 的本质差异。

AI 数据中心的耗电是传统机房的三倍以上：一张 H100 要 700W，一个 10 万卡集群就是一座小城市的用电。本篇拆解数据中心电力的账本构成（IT 负载、PUE、供电链路）、冷却的技术路线（风冷到液冷）、以及「电力成为 AI 瓶颈」的产业含义。

企业最有价值的知识往往不在文档里，在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句，但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线：Schema 理解、SQL 生成、执行验证与错误恢复，以及它与向量 RAG 的本质差异。

向量数据库是 RAG 的地基，开源方案有四巨头：Qdrant 的 Rust 性能、Weaviate 的模块化、Milvus 的云原生规模化、Chroma 的极简开发体验。本篇从架构、性能、生态与运维四个维度深度对比，帮你选对地基。

数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接，数据库会被认证风暴打垮。连接池通过复用连接解决这个问题，但池的参数（大小、超时、空闲回收）设计不当反而成为瓶颈。本文讲清连接池的原理与调优。

10 月 30 日，电科金仓在北京发布 AI 数据库产品，让大模型能够看懂企业私有数据。

进程内 OLAP 数据库 DuckDB：一条 SQL 直接查本地 CSV、Parquet 与远端对象存储，单文件落库，PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事（v2.0 在路上、DuckLabs 并入 AWS），以及上手要点与真实短板。

大语言模型吃的是万亿 token 网络文本，机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进，算一算遥操作采集的成本账，并分析人类视频、仿真与生成式合成三条补充路线。

O_DIRECT 让 IO 完全绕过 Page Cache，把缓存管理与刷盘时机还给应用。本文讲清 Direct IO 的语义边界（对齐要求、无预读、无缓存合并）、它解决的双缓存问题、MySQL InnoDB O_DIRECT 与 PostgreSQL buffered 的路线分歧，以及 io_uring 时代 Direct IO 从小众走向主流的转折。

「先更新数据库再删缓存」几乎是每个人的默认写法，但为什么是这个顺序、残余的不一致窗口长什么样、延迟双删和 binlog 订阅各自在补什么洞——本文把缓存与数据库双写的四种时序逐一推演，讲清 Cache-Aside 的规矩从哪来、窗口怎么收敛，以及生产环境的组合拳与避坑清单。

Google 正资助美国规模最大的虚拟电厂项目。该项目通过向家庭和企业提供经济激励，鼓励他们在电力需求高峰期间减少用电量，从而为数据中心提供更多的电网容量。该项目有望在中大西洋地区的 PJM 电网提供 1070 MW 的电力容量——相当于一…

IT之家 10 月 3 日消息，据《商业内幕》今天（3 日）凌晨报道，亚马逊云科技 CEO 马特 · 加尔曼警告，美国各地针对数据中心建设的反对声浪不断扩大，可能让美国在全球 AI 竞争中失去优势。 加尔曼发表了一篇 3000 多词的博文称…

根据发表在《Scientific Data》期刊上的一项研究，地球暖化正加速两大冰盖的融化。卫星数据显示，自 1979 年以来格陵兰岛和南极洲损失了 12.5 万亿吨冰量。这些冰融化为 11.3 千万亿升的水，导致 1979 年以来全球海平…

备份是数据库运维的「最后防线」——但很多团队的备份从未恢复过。全量、增量、日志备份的三层体系，PITR（时间点恢复）的原理，以及「备份的可用性」只有靠恢复演练来证明。

分布式锁是分布式系统的基础原语：多个实例竞争同一资源时，需要一个「跨进程的互斥机制」。Redis 的 SET NX、ZooKeeper 的临时顺序节点、数据库的唯一索引——三条路线各有性格。本文讲清三条路线的实现、各自的死锁风险与容错性、以及「到底选哪条」的决策框架。

禾赛于10月14日发布包括手持AI空间相机Kosmo One与云平台Kosmo World的三维世界数据引擎，可将真实空间扫描为可编辑的三维副本，并借此从车载激光雷达向具身智能领域拓展。

破晓智能与天珑移动发布SeePhys Hub数据采集系统，通过四目头环、腕部手环、腰腿部追踪器和触觉手套，将视觉与身体运动、触觉信号融合，为机器人学习全身移动操作补充Ego数据中缺失的交互信息。

从取模分片的痛点讲起：普通哈希为什么一扩容就让几乎全部数据搬家；哈希环与虚拟节点如何把迁移量压到 1/N 并治住数据倾斜；再用可运行的对照代码，对照 Ketama、Dynamo 与 Redis Cluster 槽位方案的真实取舍。

Agent 工程系统学习第 9 章：评测是把 Agent 开发从手工艺变成工程的分界线。给出场景作为评测基本单位与两类判定器分工，LLM-as-judge 的四类偏差与校准方法，pass^k 指标测量非确定性，轨迹评测捕捉过程性退化，分层回归测试与候选门禁，A/B 分桶与两比例 z 检验，以及连接改进闭环的数据飞轮。

VectifyAI 开源的无向量 RAG 引擎 PageIndex（当日涨星 +1,095、★38,082、MIT）：把长文档编译成 JSON 层级树，让 LLM 逐节点推理导航，取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径，以及多文档规模化与数据主权的真实边界。