微服务架构中，客户端需要调用几十个后端服务——每个服务都做认证、限流、日志，是巨大的重复。API 网关是所有请求的统一入口：路由分发、认证鉴权、限流熔断、日志聚合在网关层统一处理。本文讲清网关的职责边界、主流网关的对比、以及「什么该放网关、什么不该放」的分界。

用户问「你好」「帮我写首诗」，也被送去向量库里转一圈——检索噪声污染回答，还白烧延迟和成本。查询路由是检索之前的分流器：判断这个问题需不需要检索、走哪个索引、要不要追问澄清。本文讲清路由的决策维度、实现谱系（规则→分类器→LLM）、失败代价与降级设计。

Agent 工程系统学习第 12 章：把 Agent 规模化。讲 Agent 服务的三个"最"（最长连接/最长任务/最有状态）与容量预估框架，用 Redis Stream 消费者组把执行从 API 进程拿出来（XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条），模型路由与熔断降级层次，成本治理五层（埋点/账本/配额/优化/看板）与 fail-open/fail-closed 语义，以及配置级灰度发布流程。

90k 星开源项目 Agent-Reach（当日涨星 +1,696、MIT）：给 AI Agent 补上互联网访问能力层。拆解「薄核心+厚渠道」架构、16 平台有序多后端路由、区分 missing/broken 的真执行探针、原子写+600 权限的凭据落盘，附五个落地场景与横向对比。

OpenAI 发布 GPT-5，将快速响应与深度推理统一到一个系统内自动路由，在编码、数学、多语言与幻觉抑制上全面提升，并大幅加强 Agentic 任务能力。

IT之家 10 月 25 日消息，据博主 @Adak封狼居胥 今日分享，**星闪大带宽 SLB 2.0 预计将于 2026 年底商用**，星闪路由也即将问世。 据博主透露，北京中科晶上科技股份有限公司**当前正大力投入星闪 2.0 芯片研发…

IT之家 10 月 11 日消息，华硕 ROG 八爪鱼 8 电竞无线路由器现已在京东开启预约，新品主打旗舰配置，**拥有双 10G+4 个 2.5G 以太网口**，**支持 Wi-Fi 8（802.11bn）**，售价暂未公布。 京东 RO…

混合专家（MoE）让模型参数量与计算量解耦，但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线，拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节，并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。

LLM 流量与普通 API 流量差异巨大：响应慢且长、按 token 计费、供应商不稳定、还要保留换模型的自由。本文逐项拆解 LLM 网关的核心职责——双层限流、多供应商路由、流式转发、降级链、成本核算与可观测，并给出关键设计要点。

梦晨* 2026-10-02 15:34:15 来源：量子位 让每一次请求选对模型，让每一次反馈都成为下一次更优、更省的选择 允中 发自 凹非寺 量子位 | 公众号QbitAI 不是所有任务都需要最强的模型。让每一次请求选对模型，让每一次…

容器网络的每一跳都发生在内核里：veth 把 namespace 连成网线，bridge 当交换机，iptables 做 NAT，跨主机再叠一层隧道或路由。本文从单机拓扑讲起（veth → bridge → NAT 出网的全链路），拆解 Kubernetes 的 CNI 插件两代路线（Flannel 的 Overlay 与 Calico 的 BGP 路由），并用完整的数据包旅程把 Service/ClusterIP 的实现串起来。

当日涨星 705 的本地优先多智能体工作区：拆解它的 Bun workspace 三层进程架构、SQLite 单一事实源、通道路由「确定性优先模型兜底」、例程与工作流三层自动化、cua-driver 单守护进程托管，并给出五类可复现场景与横向对比。

心动网络 CEO 黄一孟开源的多 harness AI Agent 客户端：一个任务中途可切换 Claude Code / Codex / Pi，工作区与记忆保持连续；Orca 提供 Lead/Worker 完整会话级协同，18 个 cindy_orca 工具、可关插件开关与 fail-closed 会话路由。本文拆解架构与五类场景，并如实标注服务端未开源、1893 个开放 issue 等边界。

本地代理拦截智能体的工具输出、日志与检索结果，按内容类型路由到九种压缩器，CCR 机制保证原文随时可取回；配合厂商前缀缓存，排障场景实测省 57% token，压缩开销 0.2 毫秒级。当日涨星 477，总星 7.7 万。

★58,992、AGPL-3.0 的本地代理 free-claude-code：在 :8082 接住 Claude Code、Codex 等 11 个编码智能体，再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复，以及 Python 3.14.7 锁版本、密钥集中等真实边界。

PagedAttention 解决了「KV 内存怎么分页」，但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制，再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距，以及上手要点。

DeepSeek-V3 有 671B 参数，每个 token 却只动用 37B 的计算量——这不是营销话术，而是混合专家架构（MoE）把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起，拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计，也说清 MoE 的两个代价：省 FLOPs 但不省显存，以及「专家」并不按领域分工的反直觉事实。

单卡装不下权重、装不下 KV Cache、吞吐不够——三条痛点对应三种并行策略。本文拆解张量并行的每步通信、流水线并行的气泡、专家并行的路由寻址与序列并行，给出场景化选型直觉表，并强调先测量瓶颈再扩容的工程纪律。

MoE 架构让模型总参数可以做得很大，而每个 token 实际经过的计算却不大，这是「变胖不变贵」的关键。本文讲清路由器与专家的分工、总参数与激活参数的区别、路由塌缩与负载均衡的难点，最后给出 MoE 与稠密模型的选型判断。

IT之家 9 月 30 日消息，在今天召开的 2026 开发者日活动中，OpenAI 宣布推出 Decisions API，这是一个面向实时、低延迟分类与路由场景的全新 API，**可以大约在 150 毫秒内返回结果**，比通过常规 API…

一份可直接照做的 Jev 实操手册（2026-09-22）：从 state/questions/answers 三件套与 Choice/Score/Noul 三种原语讲起，给出 state 设计、置信度三档路由与阈值标定，Speculative fan-out 与 Composite scoring 两大模式，四个生产级配方（客服分诊 / Agent 工具护栏 / 模型路由 / 上下文压缩），并逐条拆解官方披露的九类失败模式，附成本、限流、版本管理与一页速查表。

面向工程师的 OpenClaw 架构深度长文：四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由，还原一个生产级 AI Agent 运行时的设计取舍。

从"控制流所有权"这一第一性原理出发，拆解 Workflow（DAG 编排、确定性执行）与 Agent（ReAct 循环、涌现式控制流）的技术原理差异；详解 Agentic Workflow"图做骨架、节点内自主"的三层混合架构，以及提示链/路由/并行化/编排者-执行者/评审-优化五种经典编排模式与工程选型经验。

论文提出“战略选择”元博弈框架：在博弈收益矩阵未知且需在线学习的情况下，从模型组合中动态选取LLM参与博弈，弥补现有路由器不考虑对手策略自适应的不足。

Architect Financial Technologies 发布 Liquid Inference，一个 LLM 推理市场路由器，每次请求通过实时拍卖由各供应商报价竞价，买方支付满足规则中的最低报价，开发者只需替换 base URL 即可让供应商在价格上竞争。

文章提出Δ-MOPD方法，将每个教师的“教师减基座”logit偏移重新锚定在学生的冻结初始化上，与端点监督在共同域组合和路由域蒸馏两种设置下进行对比，并揭示了继承的基座拉力阻碍端点迁移的机制。

「大促前系统能不能扛住」不能靠猜——全链路压测用真实的流量模型在预发或生产环境做完整的端到端测试。影子库隔离压测数据、流量标记区分真实与模拟、容量规划验证系统极限。本文讲清全链路压测的完整方案。

AWS 于 2026 年 10 月初开源的 Strands Box 用 macOS Seatbelt 做默认拒绝的进程隔离，用 Cedar 衍生的 Dogwood 策略语言对 shell、Python 与 MCP 调用逐条裁决，凭据以幻影占位符注入、真值只在网关处替换——Agent 全程见不到秘密。本文拆解它的双层强制架构、时态策略与凭据机制，如实转述官方自述边界，并与 NVIDIA OpenShell、E2B 等路线对比。

本站「RSI 与 Agent 自进化」专题入口页：把站内 11 篇原创深度与 14 条一手动态收进同一张地图——先给 30 秒定性（RSI 改"改进能力"、自进化改"任务表现"），再按概念／全景／证据／判定／事件／工程／治理七层分层索引，附三条按时间预算划分的阅读路线（30 分钟 / 2 小时 / 半天）、一页速查卡、收录标准与更新日志。

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

P99 飙升、CPU 总量不高、却有一个核的软中断逼近 100%——问题几乎总出在收包路径。本文沿「网卡 DMA → 硬中断 → NAPI 轮询 → 软中断预算 → GRO → 协议栈 → socket 队列 → epoll 唤醒」的完整数据通路走一遍，讲清每一站的成本、丢包计数器与调优参数，最后给出可照抄的排查清单与分层定位表。

把 RSI（递归自我改进）与智能体自进化放回同一个"经验 → 状态 → 行为"闭环做正面对比：前者打在权重与 AI 研发流程上、跨用户且不可逆、风险外部化；后者打在外部文件与 harness 上、跨会话且可回滚、风险由采用者承担。给出六维对比表、闭环四问判定法、"清空记忆测试"，并梳理两者在 ICLR 2026 与 SIA / Meta-Harness 上的合流路径。含 Snyk ToxicSkills 审计（3,984 个技能中 36.82% 有安全缺陷、13.4% 为严重级）、SEA-Eval"片段式失忆症"等一手数据。

RAG 一次问答要过检索、重排、生成三道工序，成本与延迟都厚。语义缓存在最前面加一道判断：这个问题以前问过吗——不是字符串相等，而是语义相似。《本文讲清缓存键的三层设计、相似阈值的调法、失效机制的坑，以及权限差异这个最容易被忽略的雷。

gRPC 是微服务间通信的高性能框架：基于 HTTP/2 的多路复用、Protobuf 的紧凑序列化、四种通信模式（ unary、服务端流、客户端流、双向流）覆盖不同的交互场景。本文讲清 gRPC 的技术底座、与 REST 的对比、以及「什么时候该用 gRPC、什么时候用 REST」的选型框架。

sk_buff 是内核网络栈的通用货币：一个结构体串起从驱动到协议栈到 socket 的全部路径。本文拆解它的线性数据区与缓冲区头尾指针设计、clone 与 copy 的区别、各层协议头如何被依次剥掉，并算清一次收发的真实成本账（内存分配、拷贝次数、缓存行），解释 GRO/TSO 为什么靠「攒大包」来摊薄这份成本。

Redis 是内存数据库，但数据不能只放在内存里——断电即失。RDB 快照与 AOF 日志是 Redis 的两条持久化路线：前者快恢复慢丢数据，后者慢恢复快丢数据少。本文讲清两者的机制、混合持久化的设计、以及「到底选哪个」的决策框架。

iptables 规则到底在哪里生效？答案是 netfilter 的五个钩子点（PREROUTING/INPUT/FORWARD/OUTPUT/POSTROUTING）与四张表（filter/nat/mangle/raw）的正交矩阵。本文讲清包流经协议栈时钩子的触发顺序、conntrack 连接跟踪的状态机、NAT 的实现与「第一条包建表、后续包查表」的快路径，以及 nftables 取代 iptables 的架构动因——把防火墙从「背命令」升级为「懂机制」。

检索回来的片段直接塞给模型，是 RAG 里被省略最多、也最该做的一段工程：去重、排序、压缩、位置摆放、预算分配，每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线，以及一张可照抄的 token 预算分配表。

把文档 RAG 的套路照搬到代码上会水土不服：代码有语法结构、有跨文件依赖、有海量重复模式。Code RAG 需要语法感知切块、符号级索引和「传统工具打底」的混合策略。本文讲清代码检索的三个特殊性、对应做法，以及 grep 与向量检索谁该打底的争论。

固定流水线「每问必检索」对闲聊是浪费、对复杂问题又不够。Self-RAG 的思路是让模型在生成过程中自主决策：要不要检索、检索到的片段可不可信、答案有没有被证据支撑。本文讲清 Self-RAG 与 CRAG 两种自适应检索范式、轻量工程实现与成本账。

同样是发文件，普通路径要 4 次拷贝 2 次系统调用，Kafka 却能在一台普通机器上把消费速率顶到网卡极限——差距就在零拷贝。本篇算清 read+write 的完整拷贝账单，讲透 sendfile 与 SG-DMA 的两档进化、splice 与 mmap 的取舍，以及 nginx 与 TLS 时代的现实约束。

GPU 很贵，但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车，把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线，以及为什么它成了 AI 集群的标配。

从「补全一行代码」到「自主跑完一个任务」，AI 编程工具这两年完成了形态跃迁。本文拆解 Agentic Coding 的核心——感知-行动循环、工具集、权限模型与上下文管理，讲清它与补全式 Copilot 的本质区别，以及从 Claude Code 到 Cursor 的路线分野。

RAG 答案不对，先别急着调切块参数——病灶常在更上游的 PDF 解析。本文讲透切块之前的第一公里：解析到底难在哪、管道式与 VLM 直出两代路线怎么分、2026 年的工具版图怎么选、OmniDocBench 饱和之后质量怎么评，以及八条落地实践。

Jev 火了，一个非文本的 AI 模型在今天拿到了由 a16Z 领投的 8.7 亿美元融资，其公司 TypeSafe 的估值直接来到了 75 亿美元。 在 9 月 15 号刚刚发布时，TypeSafe 种子轮才 4000 万美元、估值约 2…

梦晨* 2026-10-09 14:28:55 来源：量子位 Google 研究成果首次登上《柳叶刀》主刊 允中 发自 凹非寺 量子位 | 公众号 QbitAI AI能否在患者就诊前就安全评估患者的就医需求？由Google与贝斯以色列女执…

2026 年，1M token 上下文已成为头部旗舰的标配，但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核，并聚焦 2025 年的分水岭：NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点，最终产品化为 API 降价一半。

传统 APM 盯的是「请求是否 200」，LLM 应用的问题是「200 的请求答得对不对、花了多少钱」。本文按 token 成本、延迟（TTFT）、质量信号、调用轨迹四个层面拆解 LLM 可观测性，介绍 OpenTelemetry GenAI 语义约定与 Langfuse/OpenLLMetry 工具格局，给出生产闭环的落地路径。

骁龙 8 Elite Gen 5、天玑 9500、苹果 A19 Pro 的 NPU 各有说法，但手机上跑 LLM 的速度上限不由 TOPS 决定——解码阶段的每一步都要把整个模型从内存里搬一遍。本文用带宽公式算清端侧到底能跑多大模型，并梳理三大芯片平台的真实取向。

推理时多花算力能换准确率：self-consistency 投票、过程奖励模型引导搜索、budget forcing 强制续想，三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴，梳理 test-time scaling 的效果账与失效点。