拆开训练作业这只黑盒：数据怎么从磁盘喂进 GPU、一次崩溃到底丢了什么状态、分布式 checkpoint 怎么分片保存与重排恢复，以及弹性训练如何把故障恢复压到分钟级。

训练一个百亿级模型，单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行（数据并行、张量并行、流水线并行）的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。

预训练语料从原始爬取数据到能进训练管道，要过规则清洗、精确与模糊去重、质量打分、有害内容过滤几道工序；本文拆解每道工序的原理，以及流水线工程实现的幂等、留痕与成本账。

DevSecOps 把安全装进了软件的 CI/CD，MLSecOps 把同样的哲学装进 AI：模型的上线要过安全门、依赖要扫漏洞、提示词的变更要审、评测要进流水线。AI 应用的安全不能靠事后救火，要靠流水线的门禁。

Cloudflare 开源其漏洞发现流水线（VDH）的种子 security-audit-skill（GitHub 当日涨星 3,606、★10,418、MIT）：六阶段多智能体审计，覆盖台账 + 对抗验证 + 字段级证据契约。本文拆解其架构数据流与五类落地场景，并给出社区盲测数据（中位精确率 90%、依赖 CVE 覆盖 0%）与使用边界。

「多智能体」是个被用滥的词，产品层至少有三种结构完全不同的形态：协作派（一群智能体讨论出答案）、流水线派（智能体按工序接力）、市场派（任务拆包给智能体竞价完成）。三种形态的复杂度、失败模式与适用场景截然不同。本篇观察三种形态的产品样本、工程代价与生态信号。

大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策，以及按输入-输出-日志-训练四段分别设防的思路。

系列第 ① 篇，对应技能地图第 4 格「评估驱动开发」。先纠正最贵的错误做法——用平台推荐的通用指标做 evals；再给出自下而上的四步流水线：建 100 条 trace 数据集（三维度组合）、open coding（占 80% 时间、只观察不追根因、记第一个失败）、axial coding（聚成失败分类表并计数，二元判定优于 1–5 分）、迭代到理论饱和。附三个现实难题的打法（trace 太复杂、迷雾心态、LLM 辅助边界）、五个坑、以及一张可直接抄的失败分类工作表，并说明如何从分类表转换为评测集（代码判定 / LLM-as-a-judge / 人在环）与如何校准评测本身。

AI 没有消灭交付瓶颈，只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准（LinearB 8.1M PR、Faros AI 22,000 开发者），给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁，以及 5 段可直接复制的代码级护栏（GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志）与 90 天落地路线图。关键数据：任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%；AI PR 30 天合并率 32.7% vs 人工 84.4%；论文实验中 Lead Time −35%、CFR −38%、MTTR −43%，AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。

模型层被巨头锁死、应用层卷成红海，但 AI 基础设施层（Infra）的创业窗口反而变宽了：GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。

AI 生成内容的爆炸让内容审核从「成本中心」变成「产业级难题」：旧的人工流水线扛不住量，AI 审核自己的 AI 产出成为新范式——但「AI 审 AI」的循环里，谁定义标准、谁来兜底责任，是这门生意的深层账。

单卡装不下权重、装不下 KV Cache、吞吐不够——三条痛点对应三种并行策略。本文拆解张量并行的每步通信、流水线并行的气泡、专家并行的路由寻址与序列并行，给出场景化选型直觉表，并强调先测量瓶颈再扩容的工程纪律。

一名男子发现父母新购买的 Keurig 智能咖啡机在 10 天内产生 1TB 数据流量。这些流量并非是传输到外部的网络上行链路流量，而是内部局域网嗅探元数据的扫描流量。也就说智能咖啡机是在收集家庭内部的数据，以便于咖啡机制造商 Keurig…

当知识源的变更频率从「周」变成「秒」，RAG 的索引链路必须重构为流式架构——CDC 采集、微批嵌入、幂等消费、读写一致性，一套完整的工程设计。

训练数据敏感、推理面向公网，两者塞进同一个平面等于同时放大两种风险；本文给出训练网、推理网、办公网、管理网的四区模型，讲清跨区数据流动的闸门设计与常见违规的整改。

大模型训练把数据中心流量翻成东西向，网络变成第一等约束：Fat-Tree 与 Rail 优化重构拓扑，光模块从 400G 冲向 1.6T，中国厂商吃下全球大半份额，CPO 在远处排队。本篇算清 AI 集群的带宽账与光模块产业的真实格局。

数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代：众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了：比的不是便宜，是「谁身边坐着的博士多」。

大语言模型吃的是万亿 token 网络文本，机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进，算一算遥操作采集的成本账，并分析人类视频、仿真与生成式合成三条补充路线。

显式与隐式反馈的采集口径、从信号到偏好对与 DPO 的数据管道、讨好循环与反馈偏差的陷阱，以及度量飞轮健康度的四项指标：把用户交互变成模型迭代引擎。

训练数据一过国境就进入另一套合规体系；本文梳理数据出境安全评估框架、个人信息与重要数据的区分、数据不出境的架构设计与本地化的成本构成，给出合规与成本的平衡清单。

分布式系统的数据一致性永远有漏洞——缓存与 DB、主库与从库、双写系统之间——对账系统是「一致性的最后防线」：定时比对、差异发现、修复闭环。拆解对账系统的设计：对什么、怎么对、发现差异怎么办。

2,510 当日涨星的开源 AI 创作 IDE（★7,621、Rust/Tauri）：把 62 个图像/视频/音频/3D 模型收进一个本地桌面端，用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构（Tauri 内核 + storytold/artcraft-services 后端）、artcraft_router 跨 Provider 适配、异步 Omni API 的 idempotency 与终态契约，附官方可复现性能实验（启动首帧 -38.1%）与自定义 fair source 许可证风险。

「模型的能力上限由预训练数据决定」——但决定数据质量的是一条 rarely 被完整讲述的管线：采集、抽取、清洗、去重、过滤、配比。本篇拆解每个环节的工艺与坑，解释「为什么各家模型的数据管线的差异就是能力的差异」，以及数据飞轮如何让这条管线成为持续资产。

数据中心建在哪，先看电力与容量，再看网络与气候，最后看政策与地缘；本文拆解选址的三重约束、超大规模时代的迁移趋势，以及自建与托管两种选址问题的不同解法。

企业采购智能体，卡点不在功能在合规。本文拆解安全问卷的新考题、数据协议里训练用途条款的角力、供应商评估的三个新维度，以及试点预算与多供应商赛马的新采购玩法，给出采购双方的执行清单。

系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系，附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据，数据截至 2026 年 9 月。

预训练数据墙（本库已有专篇）逼出了另一条路：用模型生成数据来训练模型。合成数据从「禁忌」（模型吃了自己会退化）进化为「主流」（前沿实验室的数据配方里都有它）。本篇拆解模型崩塌的警示、phi 系列的教科书路线、R1 式推理数据的可验证合成，以及合成数据的边界与风险。

RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起，拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数，分析召回率、内存、延迟的三角权衡，给出按数据量分层的务实选型决策。

Agent 工程系统学习第 13 章（前沿专题）：三个高薪高门槛方向。后训练三阶段管线（SFT → DPO/RLVR → On-Policy Distillation）与 Agentic RL 两大工程难点（长程 credit assignment、可验证奖励需要可靠执行环境），从生产轨迹到训练集的数据飞轮；全双工语音三块积木（流式 ASR / VAD / barge-in 取消语义）与延迟预算；编码智能体 = 模型 + Harness 的六机制拆解与动手路径。

NVIDIA 在 GTC Berlin 开源的语义层：从元数据生成本体（术语+SQL属性+关系），人认证后经 MCP/CLI/REST 供智能体查询。本文拆解三段式编译流水线、LangGraph 查询图、七个重建上限与「宁可不答」的可解性判定，并给出四类可复现场景。

港大数据智能实验室出品，上线十个月拿下四万五千星：一条单循环 agent 流水线跑全部十种学习模式，L1/L2/L3 三层记忆全部落盘可审计，九种 RAG 引擎可评测可切换，自带十五路 IM 渠道与 EduHub 技能市场。

功能排期靠拍脑袋、上线效果没人验证，是大多数平台研发的常态。本文给 Proteus AI 平台设计一条「研发 Loop」：定时爬取 GitHub 上同类平台的功能形成 PR，部署灰度环境跑真实流量，7-14 天后用 z 检验判定平台指标是否变好，变好再经 Astra 模型 review 决定合入，变差自动回滚。附六阶段流水线、数据模型、熔断治理与落地里程碑，配六张手绘架构图。

2023 年 UniAD 拿下 CVPR 最佳论文，2024 年特斯拉 FSD v12 把约 30 万行手写 C++ 驾驶规则换成一根端到端神经网络——此后两年，端到端从研究界的挑战者变成了智驾行业的主路线。本文拆解它替掉了什么（模块化流水线的三宗罪）、怎么工作（可微分架构 + 模仿学习）、以及它把哪些老问题换成了哪些新问题（可解释性、安全验证、数据长尾）。

「数据是 AI 时代的护城河」是过去几年最流行的创业叙事，但反馈飞轮有统计陷阱，私有数据有成本与合规边界，模型每迭代一次就洗牌一次。本文拆解数据壁垒的真实成分与幻觉成分，给出一套判断什么是可持续数据优势的框架。

AI 数据中心的耗电是传统机房的三倍以上：一张 H100 要 700W，一个 10 万卡集群就是一座小城市的用电。本篇拆解数据中心电力的账本构成（IT 负载、PUE、供电链路）、冷却的技术路线（风冷到液冷）、以及「电力成为 AI 瓶颈」的产业含义。

模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」，就能往模型里「放行为」。数据投毒研究证明：在网络级语料中混入极小比例的恶意样本，就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。

1913 年，美国密歇根州的福特 Highland Park 工厂里，工程师们进行了一项看起来有些简陋的实验：他们用绳索和卷扬机牵引汽车底盘，让它缓缓经过不同的装配工位。如此这样，工人们就不再需要围绕静止的汽车来回移动，而是在自己的位置上等…

AI 把「内容换流量」的旧交易打成了单方面取用。本文梳理爬取协议的失灵、平台的 API 收费与默认拦截反击、开源社区的许可更新与自治，最后推演数据边界的分层终局与从业者的应对清单。

企业最有价值的知识往往不在文档里，在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句，但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线：Schema 理解、SQL 生成、执行验证与错误恢复，以及它与向量 RAG 的本质差异。

企业最有价值的知识往往不在文档里，在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句，但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线：Schema 理解、SQL 生成、执行验证与错误恢复，以及它与向量 RAG 的本质差异。

复盘 2021 年上海车展特斯拉车顶维权：「绝不妥协」的态度翻车、单方公布数据的公信力困境，以及画面冲击力如何压倒后续所有事实澄清。车主关系与数据透明，是智能汽车时代的新火药桶。

预训练 Scaling 撞上数据墙与算力墙：公共语料储量估算、推理感知的缩放修正、o1 之后测试时计算的新缩放曲线与三墙之下的产业走向。

多轮能力不是单轮能力的自然涌现——拆解多轮数据的三种构造法、loss 该算在哪一轮的关键决策与真实评测的坑。

从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤，再到数据受限缩放定律，用实证数字回答「多干净的数据才值得训练」。

向量数据库是 RAG 的地基，开源方案有四巨头：Qdrant 的 Rust 性能、Weaviate 的模块化、Milvus 的云原生规模化、Chroma 的极简开发体验。本篇从架构、性能、生态与运维四个维度深度对比，帮你选对地基。

数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接，数据库会被认证风暴打垮。连接池通过复用连接解决这个问题，但池的参数（大小、超时、空闲回收）设计不当反而成为瓶颈。本文讲清连接池的原理与调优。

AI 的尽头是电力——训练要电、推理要电、冷却要电，数据中心正在成为全球电力需求增长最快的板块之一。科技公司签核电、买风电、自建电厂，电力公司成了 AI 产业链的隐形玩家。本文算清 AI 的能源账：电花在哪、账单有多大、以及「算力向电力富集区迁移」的产业重构。

用教育部官方公报逐条核查知乎热答「谁把大学生搞得这么廉价」：本科同龄占比从 2000 年的 5.2% 升至 2020 年的 26.9%，稀有度稀释 5.2 倍——数据方向正确、三处细节有误，结论稳健；但稀缺性不决定价格，学历溢价从 1.7 倍压缩到 1.27 倍才是「变廉价」的真证据。扩招、产业升级滞后、家庭合成谬误与雇主门槛通胀四股合力，没有主谋。

Epoch AI 估算公开人类文本有效存量约 300 万亿 token，按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半，以及 2026 年预训练数据策略的真实格局。

进程内 OLAP 数据库 DuckDB：一条 SQL 直接查本地 CSV、Parquet 与远端对象存储，单文件落库，PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事（v2.0 在路上、DuckLabs 并入 AWS），以及上手要点与真实短板。