大模型价格战的背后（本库《价格战》），站着一条被低估的产业链：推理优化产业——量化、编译器、KV 缓存优化、投机解码、专用推理引擎。它不训练模型，却决定了模型的交付成本，是「价格战能打多低」的真正决定者。本文画一张推理优化产业的地图，讲清每一格的手艺与玩家。

聊天界面「逐字蹦出」的打字机效果，背后是流式输出：服务端边生成边推、客户端边收边渲染。本篇拆解流式的技术栈（SSE 协议、token 增量与累积）、首 token 延迟（TTFT）为什么是体验的核心指标、流式的工程细节（中断、错误处理、统计口径），以及什么场景该关掉流式。

「系统变慢了」是最难的工单——工具人人都有，方法论才分高下。系列收官篇讲透三套底层功法：给每个资源问三个问题的 USE 方法、让热点自己浮出来的火焰图、以及 P99 为什么比均值重要的尾延迟理论，外加压测圈最大的谎言「协调遗漏」。

十年来 AdamW 是大模型训练不容置疑的默认优化器，直到 Kimi K2 用它跑起万亿参数训练。本文从梯度下降的几何直觉讲起，拆解 AdamW 为什么统治了十年、Muon 的正交化更新为什么只需约 52% 的训练算力就能追平 AdamW，以及这轮换血里真正的工程细节与边界。

RAG 一次问答要过检索、重排、生成三道工序，成本与延迟都厚。语义缓存在最前面加一道判断：这个问题以前问过吗——不是字符串相等，而是语义相似。《本文讲清缓存键的三层设计、相似阈值的调法、失效机制的坑，以及权限差异这个最容易被忽略的雷。

「这条 SQL 为什么慢」是后端工程师的高频问题，答案往往藏在索引里：B+ 树的结构决定了索引的行为、覆盖索引可以避免回表、最左前缀原则决定了联合索引的可用性。本文讲清 MySQL 索引的原理与优化实践。

「这个应用每月的模型账单会是多少」——回答这个问题需要真正理解 token 计费的口径：输入输出分价、上下文累积、缓存折扣、以及隐藏的成本大头。本篇拆解计费的完整口径、一笔真实对话的成本拆解、以及按效排序的成本优化清单——把「token 焦虑」变成「token 预算学」。

语音对话「说完—听懂—想好—说出」四段链路各带百毫秒级延迟，叠加起来轻易超过人类对话的停顿预算。本文摊开全链路延迟账本，拆解 VAD、流式识别、首 token 与流式合成各环节，并对比级联与端到端两条架构路线。

IT之家 9 月 15 日消息，苹果今日向 iPhone 和 iPad 用户推送了 iOS / iPadOS 27.0 更新（内部版本号：24A437）。 iOS 27 迎来多项性能优化，包括应用启动、显示照片、网络切换、AirDrop、硬…

「小爱同学」到回答只有两秒，中间站着五道流水线工位：唤醒词、VAD、流式 ASR、LLM、TTS，外加最难的一道暗桩——打断处理。本文按延迟账拆解每道工位的职责、模型选型与失败模式，算清为什么端侧语音助手的优化是一张接力棒时刻表。

棉花糖实验曾让一代家长相信「忍住不吃糖的孩子更有出息」。2018 年 918 人大样本复现发现，控制家庭背景后效应大幅缩水；2024 年追踪到 26 岁的研究几乎归零。本文梳理翻案证据与机制重估：孩子能不能等，很大程度取决于环境可不可靠、大人守不守信。

「7B 模型微调要多少显存」是每个入门者都会问的问题，答案却从 14GB 到 100GB 不等——取决于你算没算全四项：参数、梯度、优化器状态、激活。本篇把这四项的账一笔笔算清，给出微调与全量训练的显存公式，以及每一项的省法（混合精度、梯度检查点、LoRA、offload）。

用户问「你好」「帮我写首诗」，也被送去向量库里转一圈——检索噪声污染回答，还白烧延迟和成本。查询路由是检索之前的分流器：判断这个问题需不需要检索、走哪个索引、要不要追问澄清。本文讲清路由的决策维度、实现谱系（规则→分类器→LLM）、失败代价与降级设计。

PostgreSQL 18 把沿用多年的读路径换成异步 I/O 子系统，复合索引拿到 skip scan，虚拟生成列与 uuidv7 补齐开发者体验，pg_upgrade 首次保留优化器统计。本文以官方 release notes 为准逐项解析，梳理升级实操与行为变化，给出可执行的升级建议。

大模型逐 token 生成，注意力却要看全部历史，KV Cache 正是为此存在的第一级优化。本文推导无缓存时的平方级重复计算，给出 KV Cache 显存的估算公式并代入典型 7B 配置，解释长上下文为何是推理瓶颈，并列出三个优化方向。

微软发布 Edge 开发者更新，新增软导航等性能指标、JS 自分析标记、WebMCP API 及 OpaqueRange API，帮助开发者优化网页应用性能并让 AI 智能体调用网页能力。

「先更新数据库再删缓存」几乎是每个人的默认写法，但为什么是这个顺序、残余的不一致窗口长什么样、延迟双删和 binlog 订阅各自在补什么洞——本文把缓存与数据库双写的四种时序逐一推演，讲清 Cache-Aside 的规矩从哪来、窗口怎么收敛，以及生产环境的组合拳与避坑清单。

10.76 亿人参保、世界最大的养老保险体系，多数人却说不清自己退休能领多少。本文拆解三支柱：基本养老保险的缴费计发与约 40% 的替代率、企业年金 3343 万人的覆盖率、个人养老金 1.5 亿开户与两成缴费的现实，并算清延迟退休新规对每个人账本的影响。

服务器不是一台均匀的内存池：NUMA 让跨 socket 内存访问慢 40% 以上，巨页则用 2MB/1GB 页面把 TLB 压力降一个数量级。本文讲清 NUMA 拓扑、本地/远端内存与分配策略（default/bind/preferred/interleave），巨页的两种形态（hugetlbfs 与 THP）、收益与陷阱，并给出 Redis、数据库、JVM 的落地参数。

MySQL 主从复制是数据库高可用与读写分离的基石：主库写 binlog，从库拉取并重放，数据最终一致。本文讲清复制的完整链路（binlog 的三种格式、IO 线程与 SQL 线程的分工）、GTID 的价值、复制的延迟问题与半同步复制的折中方案。

一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来，向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线：标量量化降精度、PQ 降基数、二值化极限压缩，各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。

Agent 工程系统学习第 12 章：把 Agent 规模化。讲 Agent 服务的三个"最"（最长连接/最长任务/最有状态）与容量预估框架，用 Redis Stream 消费者组把执行从 API 进程拿出来（XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条），模型路由与熔断降级层次，成本治理五层（埋点/账本/配额/优化/看板）与 fail-open/fail-closed 语义，以及配置级灰度发布流程。

数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接，数据库会被认证风暴打垮。连接池通过复用连接解决这个问题，但池的参数（大小、超时、空闲回收）设计不当反而成为瓶颈。本文讲清连接池的原理与调优。

论文提出个性化测试时扩展（Personalized Test-Time Scaling）问题，将用户对精度、延迟与推理成本的联合要求纳入优化目标，并给出摊销式智能体策略发现框架 PersonTTS 以降低为不同用户需求重复搜索策略的开销。

当日涨星 1,329 的 MIT 本地语音听写应用：拆解它的权威麦克风时间线、单线程串行推理引擎、按延迟分档的 WER 取舍、QuickJS 沙箱配置，以及 /streams 与 TypeScript SDK 两套宿主集成协议，并如实标注 beta 平台与未完成分发的边界。

一次 RAG 请求到底花多少钱？查询向量化几乎免费，检索只要几厘，生成环节却吃掉九成账单。本文把成本拆成一次性入库与每次请求两栏，给出各环节的量级估算方法与七个省钱杠杆，以及一条先砍生成、再调检索的平衡框架，帮你把预算花在真正影响账单的地方。

RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。

IT之家 9 月 29 日消息，ElevenLabs 于当地时间周一正式推出了两款全新语音模型，分别为 ElevenLabs v4 与 v4 Turbo。新版模型强化了情绪表达控制能力，降低了语音智能体的响应延迟，同时支持 90 余种语言。…

系列第 ③ 篇，对应技能地图第 2 格「Grounding」。拆成两级决策：第一级先问要不要检索——Anthropic 给出的 20 万 token（约 500 页）分界线以上才需要 RAG，以下直接全量进 prompt + 缓存（延迟降 2 倍、成本降最多 90%），并区分预计算索引与 just-in-time 即时检索；第二级再选表示方式，向量索引治模糊召回（但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文）、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表（检索失败率 5.7% → 3.7% → 2.9% → 1.9%）、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套，以及一张可抄的选型决策树。

线程池是多线程编程的基础设施：复用线程避免频繁创建销毁的开销，控制并发度防止资源耗尽。但线程池的参数设计（核心线程数、最大线程数、队列类型与长度、拒绝策略）是一门需要理解的学问——不是拍脑袋填数字。本文讲清线程池的参数体系与设计方法。

进程与线程是后端工程师用得最多、想得最少的两个抽象。本篇从 2014 年 Redis 的 THP 延迟尖刺事故开题，讲透 fork 写时复制的真实账单、上下文切换从 1.2 微秒到 800% 开销的完整谱系，以及 2023 年随 Linux 6.6 登场、取代 CFS 的 EEVDF 新调度器。

GPU 很贵，但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车，把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线，以及为什么它成了 AI 集群的标配。

同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。

大模型解码阶段真正的瓶颈不是算力而是显存带宽——每生成一个 token，整段历史的 KV Cache 都要从显存重读一遍。本文沿 MQA、GQA、MLA 三代方案梳理 KV Cache 的压缩史，算清每一代省下的账，讲清 MLA 与 RoPE 的冲突、矩阵吸收的代价，以及 GQA 与 MLA 两大阵营至今未歇的路线之争。

解码阶段的大模型是内存带宽问题：一次前向读完几十 GB 权重，却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证，修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。

RAG 系统调不动检索质量时，最先该看的不是向量模型，而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法：传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE，并给出按场景选型的对照与两个必须盯住的坑（延迟成本与查询漂移）。

PagedAttention 解决了「KV 内存怎么分页」，但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制，再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距，以及上手要点。

全量微调 7B 模型，光 Adam 优化器状态就要吃掉 84GB 显存。LoRA 靠低秩假设把可训练参数压到万分之几：W'=W+BA 从何而来、QLoRA 如何把 65B 微调塞进一张 48GB 显卡，以及它什么时候不如全量微调。

自回归解码每步只出一个 token，GPU 大量算力在等显存。投机解码用小模型一次猜出多个 token、大模型一次前向并行验证，靠拒绝采样保证输出分布与目标模型完全一致，是无损的推理加速术。本文讲清它的原理、加速比来源与适用边界。

「LLM 缓存」其实指两种东西：推理层的前缀缓存复用已算好的 KV Cache，几乎零风险；应用层的语义缓存按问题含义命中旧答案，省钱但可能错。本文对比两者机制与适用场景，给出先做前缀缓存的行动顺序。

Agent 工程系统学习第 13 章（前沿专题）：三个高薪高门槛方向。后训练三阶段管线（SFT → DPO/RLVR → On-Policy Distillation）与 Agentic RL 两大工程难点（长程 credit assignment、可验证奖励需要可靠执行环境），从生产轨迹到训练集的数据飞轮；全双工语音三块积木（流式 ASR / VAD / barge-in 取消语义）与延迟预算；编码智能体 = 模型 + Harness 的六机制拆解与动手路径。

从 WWDC26 初亮相，到 8 个 Beta 版一路“打怪升级”，iOS 27 终于在 9 月 15 日转正上岗了， 苹果在昨天向广大 iPhone 用户推送 iOS 27 正式版更新 。 历经 iOS 27 这几个 Beta 版体验下来…

IT之家 9 月 9 日消息，科技媒体 Wccftech 昨日（9 月 8 日）发布博文，报道称开发者成功在 M5 Pro 等苹果 Apple Silicon 芯片上， 非官方移植英伟达的 DLSS 5。 开发者 @iamwavecut 已…

从骁龙 8 Elite Gen 5 的 Hexagon NPU 到苹果 AFM 3 端侧模型家族，梳理 2026 年手机端侧大模型的硬件底座（NPU 算力与约 85 GB/s 的内存带宽瓶颈）、3B 级模型格局、4-bit 量化与主流端侧推理框架，以及哪些场景仍必须回云。

70B 模型 FP16 要 140 GB 显存，量化到 4-bit 只剩 35 GB——一张 RTX 4090 就装得下，代价是平均每个权重从 2 字节压到 0.5 字节后的精度损失。本文拆解 GPTQ 的二阶误差补偿、AWQ 的激活感知保护、GGUF k-quants 的命名规则，以及「量化伤推理」争议的实测边界。

向量库的召回率忽然下降、延迟忽然变高，八成不是玄学而是 HNSW 参数没调对。本文拆解 HNSW 三个核心参数 M、efConstruction、efSearch 各管什么、动谁的成本，给出「先建图、再扫 efSearch」的调参顺序，以及 top-k 大于 efSearch 这类高频踩坑。

Agent 工程系统学习第 10 章：可观测性让任何一次 Agent 行为都可事后完整还原。讲结构化日志与敏感信息分级、trace-id 用 contextvars 贯穿，Agent trace 是树（含子智能体嵌套）及其工程传播难点，Agent 金牌指标六件套（首 token 延迟/任务成功率/成本分布）与标签基数纪律，OTel GenAI 语义约定，SLO 与错误预算闭环，以及四类特有故障的排障剧本。

RLHF 要同时养四个模型、跑采样流水线，DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步，训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验，以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。

断电后文件系统为什么不坏？答案是日志（journaling）。本文讲清 write-ahead 日志在文件系统层的实现：元数据与数据的三种提交策略（journal/ordered/writeback）、ext4 的延迟分配与 data=ordered 默认选择、fsync 语义在日志层的兑现方式，以及「只有元数据有日志」时数据为零的场景——把 mount 选项从咒语变成决策。

一切超时与延迟测量的地基是内核时间子系统。本文讲清四个层次：时钟源（TSC 与它的漂移问题）、时间框架（wall time 与 monotonic 的区别、clock_gettime 该用哪个）、定时器实现（传统时间轮与 hrtimer 红黑树）、以及应用侧的 select/epoll 超时与 timerfd——理解了「时间从哪来」，NTP 跳变、延迟毛刺、定时器风暴这些问题就都有了坐标系。