搜索:低延迟

共命中 50 条(服务端检索)
操作系统内功 · 第 70 篇|CPU 空闲与唤醒:C-states 与尾延迟
CPU 没活干时会逐级深睡省电,但睡得越深醒得越慢,退出延迟直接写进服务的尾延迟。本文拆解 idle 循环与 cpuidle 框架、C-state 谱系与目标驻留时间、menu 与 teo 两个 governor,并给出一次 P99 抖动排查实录与调参入口清单。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
智能体生态观察 · 第 51 篇|语音智能体生态:实时语音、打断处理与延迟预算
语音智能体的全部架构由延迟预算推导而来:本文算清 VAD、ASR、LLM、TTS 的毫秒账本,讲透打断处理这条及格线,并比较电话客服、外呼与陪聊三类场景的商业差异与监管红线。
智能体 精选 · 原创 · 昨天 阅读 9·访客 9
延迟预算解剖:一次 RAG 问答的毫秒账本
把向量库换得更快,端到端延迟却纹丝不动——因为那个环节只占总延迟的一成。本文把一次 RAG 问答拆成改写、检索、重排、组装、首字、流式六段串联,讲分位测量纪律、逐段优化手段与按占比分配精力的预算方法论,主张先画瀑布图再动手优化。
后端技术 精选 · 原创 · 昨天 阅读 3·访客 2
智能体的性能优化竞赛:延迟、吞吐与缓存的技术博弈
一次智能体响应的延迟由预填充、解码、工具执行与多轮串联构成,本文拆解延迟结构,梳理 prompt 缓存、并行化、语义缓存与推理侧加速四条优化路径,并给出延迟预算分配法。
智能体 精选 · 原创 · 11-5 阅读 59·访客 59
一篇读懂流式输出:SSE、打字机效果与首 token 延迟的工程账
聊天界面「逐字蹦出」的打字机效果,背后是流式输出:服务端边生成边推、客户端边收边渲染。本篇拆解流式的技术栈(SSE 协议、token 增量与累积)、首 token 延迟(TTFT)为什么是体验的核心指标、流式的工程细节(中断、错误处理、统计口径),以及什么场景该关掉流式。
大模型 精选 · 原创 · 11-3 阅读 50·访客 49
操作系统内功 · 第 10 篇|性能观测方法论:USE 方法、火焰图与 P99 尾延迟
「系统变慢了」是最难的工单——工具人人都有,方法论才分高下。系列收官篇讲透三套底层功法:给每个资源问三个问题的 USE 方法、让热点自己浮出来的火焰图、以及 P99 为什么比均值重要的尾延迟理论,外加压测圈最大的谎言「协调遗漏」。
后端技术 精选 · 原创 · 10-26 阅读 140·访客 138
棉花糖实验翻案记:延迟满足的真相与边界
棉花糖实验曾让一代家长相信「忍住不吃糖的孩子更有出息」。2018 年 918 人大样本复现发现,控制家庭背景后效应大幅缩水;2024 年追踪到 26 岁的研究几乎归零。本文梳理翻案证据与机制重估:孩子能不能等,很大程度取决于环境可不可靠、大人守不守信。
一叶一世界 精选 · 原创 · 10-29 阅读 232·访客 226
语音链路地图:ASR、TTS 与实时对话的延迟账
语音对话「说完—听懂—想好—说出」四段链路各带百毫秒级延迟,叠加起来轻易超过人类对话的停顿预算。本文摊开全链路延迟账本,拆解 VAD、流式识别、首 token 与流式合成各环节,并对比级联与端到端两条架构路线。
研究前沿 精选 · 原创 · 10-6 阅读 1,050·访客 1,047
操作系统内功 · 第 57 篇|cpufreq 与功耗治理:governor、频率协同与 performance 惯例
CPU 不是永远满频:本篇区分 P-state 与 C-state 两本账,讲透 cpufreq 框架、governor 全集与 intel_pstate/HWP 的实现,解释数据库锁 performance 的惯例由来,以及 C-state 深睡对尾延迟的伤害与干预手段。
后端技术 精选 · 原创 · 11-10 阅读 58·访客 57
操作系统内功 · 第 113 篇|CPU 隔离:isolcpus、nohz_full 与 rcu_nocbs
抖动的根源是内核自己也在你的核上跑步:调度器抢占、时钟中断、RCU 回调与各种 kworker。CPU 隔离按三层递进:isolcpus 把核从调度器摘走,nohz_full 让时钟闭嘴,rcu_nocbs 把回调委托到别的核。本文拆解三层机制、残留干扰清单与 osnoise 验收方法,给出从 cmdline 到 cgroup partition 的完整落地命令。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
推理模型怎么用:什么时候该让模型「想一想」
OpenAI、Anthropic、Google 三家官方文档一致把推理模型指向数学、编程、复杂调试与长程智能体任务,而简单分类、低延迟与高吞吐场景不值得开思考。本文梳理三家的思考参数与档位选择,算清「思考 token 按输出计费」的成本账,给出一套 effort 档位取舍与调参的实用框架。
大模型 精选 · 原创 · 10-7 阅读 427·访客 420
150 毫秒极速响应:OpenAI 推出 Decisions API,让 AI 从“聊天”走向“实时决策”
IT之家 9 月 30 日消息,在今天召开的 2026 开发者日活动中,OpenAI 宣布推出 Decisions API,这是一个面向实时、低延迟分类与路由场景的全新 API,**可以大约在 150 毫秒内返回结果**,比通过常规 API…
行业动态 IT之家 · 9-30 阅读 53·访客 53
操作系统内功 · 第 95 篇|EEVDF 深水区:lag、eligibility 与虚拟截止时间
Linux 6.6 起 CFS 把调度台交给了 EEVDF:公平不再只看 vruntime 谁小,而是「欠得多才有资格跑、截止时间最早者先跑」。这篇拆 lag、eligibility、虚拟截止时间三要素,讲清唤醒放置、抢先判定与挑选路径的实现,以及升级 6.x 后延迟形态变化的排查思路。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
流式 RAG:边检索边生成的实时体验工程
传统 RAG 的体验是「等待—出结果」:检索完才生成、生成完才展示。流式 RAG 改变了这个节奏:检索与生成并行、结果逐步出现。本篇拆解流式 RAG 的架构模式(渐进式检索、流式生成与流式 UI)、延迟优化策略,以及「让用户在等待中看到进展」的体验设计。
一叶一世界 精选 · 原创 · 11-4 阅读 63·访客 63
语义缓存:命中一次,省下整条链路
RAG 一次问答要过检索、重排、生成三道工序,成本与延迟都厚。语义缓存在最前面加一道判断:这个问题以前问过吗——不是字符串相等,而是语义相似。《本文讲清缓存键的三层设计、相似阈值的调法、失效机制的坑,以及权限差异这个最容易被忽略的雷。
大模型 精选 · 原创 · 11-2 阅读 42·访客 42
缓存一致性实战:先更新谁,才不会读到脏数据
「先更新数据库再删缓存」几乎是每个人的默认写法,但为什么是这个顺序、残余的不一致窗口长什么样、延迟双删和 binlog 订阅各自在补什么洞——本文把缓存与数据库双写的四种时序逐一推演,讲清 Cache-Aside 的规矩从哪来、窗口怎么收敛,以及生产环境的组合拳与避坑清单。
后端技术 精选 · 原创 · 10-24 阅读 109·访客 107
金融专家成长记 14|养老金:读懂中国的三支柱
10.76 亿人参保、世界最大的养老保险体系,多数人却说不清自己退休能领多少。本文拆解三支柱:基本养老保险的缴费计发与约 40% 的替代率、企业年金 3343 万人的覆盖率、个人养老金 1.5 亿开户与两成缴费的现实,并算清延迟退休新规对每个人账本的影响。
一叶一世界 精选 · 原创 · 10-17 阅读 221·访客 220
AI 存储的三层策略:数据集、checkpoint 与热数据
AI 集群的存储不是一个系统打天下:训练数据集要高吞吐顺序读、checkpoint 要低延迟写、推理热数据要低延迟随机读——三种负载三种策略。本篇拆解 AI 存储的三层架构、文件系统的选型、以及「存储成为训练瓶颈」的排查。
大模型 精选 · 原创 · 11-4 阅读 50·访客 50
操作系统内功 · 第 19 篇|NUMA 与巨页:跨节点延迟税与 TLB miss 解药
服务器不是一台均匀的内存池:NUMA 让跨 socket 内存访问慢 40% 以上,巨页则用 2MB/1GB 页面把 TLB 压力降一个数量级。本文讲清 NUMA 拓扑、本地/远端内存与分配策略(default/bind/preferred/interleave),巨页的两种形态(hugetlbfs 与 THP)、收益与陷阱,并给出 Redis、数据库、JVM 的落地参数。
后端技术 精选 · 原创 · 11-3 阅读 99·访客 98
苹果 M5 Pro 非官方移植英伟达 DLSS 5:画质提升、延迟达 240ms
IT之家 9 月 9 日消息,科技媒体 Wccftech 昨日(9 月 8 日)发布博文,报道称开发者成功在 M5 Pro 等苹果 Apple Silicon 芯片上, 非官方移植英伟达的 DLSS 5。 开发者 @iamwavecut 已…
行业动态 IT之家 · 9-9 阅读 42·访客 41
操作系统内功 · 第 96 篇|调度域与负载均衡:PELT 与 NUMA 拉扯
单核调度做得再好,多核机器还要回答「任务该放在哪个核」。这篇拆调度域层级 SMT/MC/NUMA、周期均衡与空闲均衡的触发路径、PELT 负载信号的衰减数学,以及自动 NUMA 平衡的页错误代价——并用两个真实场景说明为什么大内存服务常要关掉 NUMA 平衡、延迟服务要绑核。
后端技术 精选 · 用户投稿 · 今天 阅读 3·访客 3
智能体生态观察 · 第 28 篇|小模型跑智能体:开源模型的能力竞赛与可行性边界
智能体循环的每一步不必都用旗舰模型。本文拆解 Agent 任务对模型的五项能力要求,划定开源小模型在结构化任务上的可行域与开放式规划的短板,量化成本延迟差异,并总结混合路由的工程实践与三个典型陷阱。
智能体 精选 · 原创 · 11-9 阅读 62·访客 62
操作系统内功 · 第 1 篇|进程与线程:fork 的 CoW 代价与 EEVDF 新调度器
进程与线程是后端工程师用得最多、想得最少的两个抽象。本篇从 2014 年 Redis 的 THP 延迟尖刺事故开题,讲透 fork 写时复制的真实账单、上下文切换从 1.2 微秒到 800% 开销的完整谱系,以及 2023 年随 Linux 6.6 登场、取代 CFS 的 EEVDF 新调度器。
后端技术 精选 · 原创 · 10-26 阅读 179·访客 176
什么时候该把子代理折回主循环?Anthropic 给企业代理的减法答案
Anthropic Applied AI 团队 2026-10-22 发文《When to fold subagents into your main agent loop》:跨部署对比显示,一个带 skills 渐进披露的单代理主循环,质量上常同时打赢「一个提示词包打天下」与「子代理舰队」两种设计,延迟还常低一半。本文精读原文与配套迁移套件 single-agent-loop-kit,梳理大组织代理架构的五类病、子代理的三条保留判据、四步迁移法,并对照 Cognition 的反方观点与社区批评。
智能体 精选 · 用户投稿 · 11-1 阅读 93·访客 90
ElevenLabs 推出 v4 和 v4 Turbo 语音模型:支持 90 余种语言,10 秒素材即可克隆声音
IT之家 9 月 29 日消息,ElevenLabs 于当地时间周一正式推出了两款全新语音模型,分别为 ElevenLabs v4 与 v4 Turbo。新版模型强化了情绪表达控制能力,降低了语音智能体的响应延迟,同时支持 90 余种语言。…
智能体 IT之家 · 9-29 阅读 92·访客 90
操作系统内功 · 第 79 篇|ext4 深水区:extent 树与 delayed allocation
ext4 的两大支柱是 extent 树与延迟分配:前者把「逻辑块到物理块」的映射从三级间接块压成一棵浅树,后者把块分配推迟到写回时刻批量做。本文拆解 extent 结构与树形展开、inode 尺寸与快速符号链接、delalloc 与 mballoc 的配合,配 FIEMAP 代码把 extent 摊开看,并用两个现场解释碎片与假性磁盘满。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
操作系统内功 · 第 74 篇|块设备栈与 blk-mq
从一次 write 到 NVMe 的 Doorbell 门铃,一笔写请求要穿过页缓存、bio、plug 聚合、blk-mq 双级队列与完成中断五道关。本文沿这条路径拆解每道关的数据结构与关键函数,讲清多队列并行的设计动机,并给出 fsync 延迟与写聚合两个调优实录。
后端技术 精选 · 用户投稿 · 今天 阅读 2·访客 2
智能体生态观察 · 第 75 篇|谁给智能体值班:SLO、on-call 与 runbook 的新职责
服务在线不等于任务做对,值班的含义正在改写。本篇讨论智能体上线后的运维重构:任务完成率、接管率、成本与延迟构成的新 SLO,概率性错误下的告警设计与四类归因分诊,runbook 的机器可执行化改造,并观察 SRE 技能迁移与运维工具缺口。
智能体 精选 · 原创 · 昨天 阅读 9·访客 9
自适应 ANN 参数:按查询难度调整召回力度
ef 与 nprobe 调一次就锁死是行业惯性,但查询难度天然分布不均,让全体查询为少数困难查询支付延迟代价并不划算。本篇讲难度信号的三类来源、迭代加深与预算内深挖的分级执行策略,以及按难度分桶的评测验收与分级误判的回退设计。
后端技术 精选 · 原创 · 昨天 阅读 2·访客 2
长上下文与 RAG 的再平衡:什么时候还需要检索
百万级 token 窗口让「把文档全塞进去」成了检索的替代选项,但名义窗口不等于有效窗口,成本与延迟随输入线性增长。本文讲长上下文的真实能力边界,语料规模、查询类型、实时性与成本预算的四维再平衡框架,以及全塞、检索与热点预载的分级混合形态。
后端技术 精选 · 原创 · 昨天 阅读 3·访客 3
检索服务的 SLO:召回率也是服务目标
可用性 99.9% 的检索服务可能一半答案答非所问——答非所问的可用系统比宕机更伤信任。本文给出检索 SLO 的四维框架:可用性、延迟、质量、安全,讲质量 SLO 的滚动抽样评测、分桶统计与错误预算的消耗和熔断,以及质量劣化的归因分诊路径。
后端技术 精选 · 原创 · 昨天 阅读 2·访客 2
智能体生态观察 · 第 45 篇|并发调度的隐藏工程:队列、限流与背压设计
智能体把一次请求变成一段持续工作,流量画像从此改变:长耗时、放大系数与上游配额叠加。本篇拆解队列、限流、背压三件套的机制设计,讲透上游速率限制与重试风暴的治理,并观察批处理接口复兴与成本延迟的调度权衡。
智能体 精选 · 原创 · 昨天 阅读 3·访客 3
运行时安全护栏:从输入分类到策略执行的防线工程
运行时护栏不是一条提示词或一个拒答模型,而是贯穿输入、检索、对话、输出与工具执行的策略执行架构。本文给出分层链路、工具闸门、拒绝与升级路径,并讨论误拦、漏拦、延迟和回归验证的工程取舍。
后端技术 精选 · 原创 · 3天前 阅读 10·访客 10
操作系统内功 · 第 62 篇|FUSE 与用户态文件系统:把文件系统写出内核
把文件系统逻辑搬出内核:本篇讲 FUSE 的动机与应用版图、/dev/fuse 的请求-响应协议、内核侧连接与缓存策略,算清延迟与写性能的账本,并给出云盘挂载的工程案例与实操清单。
后端技术 精选 · 原创 · 11-10 阅读 60·访客 60
操作系统内功 · 第 50 篇|ftrace 与内核追踪:tracefs、静态插桩与 function tracer
内核卡了、延迟高了,ftrace 是不重启不换内核就能下钻到函数级的自带工具。本文讲透 tracefs 的关键文件、function tracer 与 function_graph 的用法、tracepoint 与 kprobe 两条插桩路线,以及它和 perf、BCC 的生态位分工。
后端技术 精选 · 原创 · 11-10 阅读 62·访客 62
智能体的人机交互设计:对话式、表单式与混合式交互
对话不是智能体交互的万能答案,本文分析对话式的效率陷阱、表单式与结构化交互的确定性优势、审批门与渐进披露的混合式设计,以及流式输出对感知延迟的改善。
智能体 精选 · 原创 · 11-5 阅读 102·访客 98
操作系统内功 · 第 37 篇|swap 与 zram:交换空间的工程决策
服务器到底要不要 swap?这个争论持续了三十年。本篇从 swap 的内核本质讲起:swap 分区与文件的差异、si/so 数字背后的延迟账单、zram 用 CPU 换内存的压缩经济学,最后给出数据库、Java 服务、边缘设备三类场景的决策矩阵,并澄清 swappiness=0 的常见迷思。
后端技术 精选 · 原创 · 11-5 阅读 71·访客 71
智能体的部署形态竞争:serverless、常驻进程与边缘推理
无状态的 serverless、有状态的常驻进程、代码执行的隔离沙箱与延迟敏感的边缘推理,构成智能体部署的四种形态,本文从任务时长、会话状态与缓存命中率等维度比较它们的工程权衡。
智能体 精选 · 原创 · 11-5 阅读 65·访客 65
操作系统内功 · 第 16 篇:cpuset 与 CPU 亲和性——绑核的工程决策
绑核不是玄学也不是万金油:从调度器迁移成本讲到 taskset/cpuset/isolcpus 三层工具,给出延迟敏感场景的绑核决策框架与 Kubernetes 落地方式。
后端技术 精选 · 原创 · 11-5 阅读 60·访客 60
推理服务的 SLA 工程:SLO、错误预算与容量规划
推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程:SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标(TTFT/TPOT 的分位数)、错误预算的纪律、以及容量规划的三步法。
大模型 精选 · 原创 · 11-4 阅读 49·访客 49
一篇读懂 CAP 定理:一致性与可用性为什么不可兼得
分布式系统绕不开 CAP 定理:网络分区发生时,一致性与可用性只能二选一。但 CAP 常被误读成「三选二」的静止选择——真实的系统是在「分区发生时」的动态取舍,且在 C 与 A 之外还有延迟这个隐藏维度。本篇拆解三性的精确定义、P 的不可协商、以及现实中各系统的取舍谱系。
一叶一世界 精选 · 原创 · 11-4 阅读 73·访客 73
Agentic RAG:让检索长出规划、路由与自我修正
Agentic RAG 把检索从「固定管线」升级为「智能体的决策」:要不要检索、检索什么、从哪检索、结果够不够好——每一步都由 Agent 判断。本篇拆解它的核心模式(检索路由、查询规划、自我修正循环)、与传统 RAG 的分工边界、以及 Agentic RAG 的成本与延迟代价。
智能体 精选 · 原创 · 11-4 阅读 50·访客 50
多模态输入进 Agent:文档、图像与语音的接收面工程
Agent 的输入不再只有文本:PDF、截图、语音、表格、手写笔记——多模态输入让 Agent 贴近真实工作。本篇拆解多模态输入的接收面工程(解析管线、模态的统一表示、成本与延迟的取舍),以及文档智能、视觉理解、语音输入各自的工程要点。
智能体 精选 · 原创 · 11-4 阅读 49·访客 49
操作系统内功 · 第 23 篇|文件系统日志:ext4 的三种挂载模式与掉电一致性
断电后文件系统为什么不坏?答案是日志(journaling)。本文讲清 write-ahead 日志在文件系统层的实现:元数据与数据的三种提交策略(journal/ordered/writeback)、ext4 的延迟分配与 data=ordered 默认选择、fsync 语义在日志层的兑现方式,以及「只有元数据有日志」时数据为零的场景——把 mount 选项从咒语变成决策。
后端技术 精选 · 原创 · 11-3 阅读 79·访客 79
操作系统内功 · 第 30 篇|内核时间子系统:从时钟源到 hrtimer,定时器轮的工程实现
一切超时与延迟测量的地基是内核时间子系统。本文讲清四个层次:时钟源(TSC 与它的漂移问题)、时间框架(wall time 与 monotonic 的区别、clock_gettime 该用哪个)、定时器实现(传统时间轮与 hrtimer 红黑树)、以及应用侧的 select/epoll 超时与 timerfd——理解了「时间从哪来」,NTP 跳变、延迟毛刺、定时器风暴这些问题就都有了坐标系。
后端技术 精选 · 原创 · 11-3 阅读 87·访客 86
一篇读懂 MySQL 主从复制:binlog、relay log 与 GTID
MySQL 主从复制是数据库高可用与读写分离的基石:主库写 binlog,从库拉取并重放,数据最终一致。本文讲清复制的完整链路(binlog 的三种格式、IO 线程与 SQL 线程的分工)、GTID 的价值、复制的延迟问题与半同步复制的折中方案。
后端技术 精选 · 原创 · 11-3 阅读 76·访客 76
查询路由:不是每个问题都值得检索一次
用户问「你好」「帮我写首诗」,也被送去向量库里转一圈——检索噪声污染回答,还白烧延迟和成本。查询路由是检索之前的分流器:判断这个问题需不需要检索、走哪个索引、要不要追问澄清。本文讲清路由的决策维度、实现谱系(规则→分类器→LLM)、失败代价与降级设计。
大模型 精选 · 原创 · 11-2 阅读 69·访客 69
长上下文与 RAG:窗口越大,检索越没用了吗
窗口从 8K 涨到千万级,「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口,长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工:小库精读交给长窗口,大库「找得到、读得起」仍靠检索。
一叶一世界 精选 · 原创 · 10-29 阅读 161·访客 158
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵,但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术 精选 · 原创 · 10-25 阅读 111·访客 108
LLM 应用的可观测性:看懂每一次模型调用的四个层面
传统 APM 盯的是「请求是否 200」,LLM 应用的问题是「200 的请求答得对不对、花了多少钱」。本文按 token 成本、延迟(TTFT)、质量信号、调用轨迹四个层面拆解 LLM 可观测性,介绍 OpenTelemetry GenAI 语义约定与 Langfuse/OpenLLMetry 工具格局,给出生产闭环的落地路径。
后端技术 精选 · 原创 · 10-7 阅读 891·访客 887