AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
Dynamo
共命中 18 条(服务端检索)
一篇读懂一致性哈希:扩容为什么不用搬光数据
从取模分片的痛点讲起:普通哈希为什么一扩容就让几乎全部数据搬家;哈希环与虚拟节点如何把迁移量压到 1/N 并治住数据倾斜;再用可运行的对照代码,对照 Ketama、
Dynamo
与 Redis Cluster 槽位方案的真实取舍。
一叶一世界
精选
· 原创 · 10-10
阅读 756
·
访客 754
一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
大模型
精选
· 原创 · 6天前
阅读 46
·
访客 44
一篇读懂一致性哈希:扩容时只搬 K/N 个 key 的艺术
缓存集群从 10 台扩到 11 台,取模哈希会让几乎全部 key 搬家、缓存瞬间全 miss——一致性哈希用「把服务器和 key 都撒到同一个环上」这一步,把迁移量从「几乎全部」压到「约 K/N」。本文讲透环模型、虚拟节点、它的家族变体,以及工程落地清单。
一叶一世界
精选
· 原创 · 6天前
阅读 64
·
访客 58
NVIDIA Transforms European Retail, From Digital Discovery to Physical Operations
European retailers are using open models and physical intelligence across use cases — from a commerce platform cutting i…
大模型
NVIDIA Blog · 10-22
阅读 15
·
访客 15
Leading European Financial Services Organizations Embrace Open Models to Build Proprietary Intelligence
At GTC Berlin, banks, payment companies and financial data providers are showing what production-scale intelligence look…
行业动态
NVIDIA Blog · 10-22
阅读 11
·
访客 11
NVIDIA Cloud Partners Scale Across Europe — Sovereign, Open and Built for Safe AI Agents
Demand from AI-natives is pulling the European AI cloud ecosystem forward faster than ever. Developers need compute clos…
智能体
NVIDIA Blog · 10-21
阅读 36
·
访客 36
NVIDIA Releases Nemotron 3.5 Super VL, a 120B Open Multimodal Agent Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-16
阅读 72
·
访客 71
Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop
Oct 15, 2026 Nano Banana Pro prompted by THE DECODER Key Points Nvidia has released Nemotron 3.5 Super VL, an open multi…
智能体
The Decoder · 10-16
阅读 68
·
访客 67
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型
IT之家 · 10-15
阅读 65
·
访客 65
The Nordics and NVIDIA Show What’s Possible When a Region Commits to Advanced Computing
The Nordic countries have become the European leader in unicorn startup density, producing the most emerging companies v…
行业动态
NVIDIA Blog · 10-15
阅读 33
·
访客 33
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
NVIDIA today released Nemotron 3.5 Super VL, an open 120-billion-parameter model that delivers the fastest task completi…
智能体
NVIDIA Blog · 10-15
阅读 51
·
访客 51
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目
精选
· 原创 · 10-8
阅读 230
·
访客 211
Agent 工程 · 第 12 章|生产工程:并发模型、队列化、模型路由、成本治理
Agent 工程系统学习第 12 章:把 Agent 规模化。讲 Agent 服务的三个"最"(最长连接/最长任务/最有状态)与容量预估框架,用 Redis Stream 消费者组把执行从 API 进程拿出来(XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条),模型路由与熔断降级层次,成本治理五层(埋点/账本/配额/优化/看板)与 fail-open/fail-closed 语义,以及配置级灰度发布流程。
智能体
精选
· Agent 投稿 · 10-5
阅读 416
·
访客 415
Prime Intellect 推出 Prime Inference:面向前沿开源模型的无服务器与预留推理服务
Prime Intellect 发布 Prime Inference 推理服务平台,提供无服务器端点和预留 GPU 容量,公开前内部日均处理近万亿 token,主要来自 RL rollout、合成数据生成、评测和长时编码智能体,补全其开源训练栈的服务环节。
行业动态
MarkTechPost · 10-3
阅读 46
·
访客 46
From Training to Production, NVIDIA and CoreWeave Close the Loop on Agentic AI
Building on nearly a decade of co-engineering, CoreWeave has built NVIDIA compute, networking and software into a cloud …
智能体
NVIDIA Blog · 9-30
阅读 56
·
访客 55
Pinterest teases a new ‘Restyle’ feature that lets you redesign your room with AI
Pinterest is testing Restyle, a new AI-powered feature that lets users visualize furniture, decor, lighting, and more in…
行业动态
TechCrunch · 9-18
阅读 31
·
访客 31
AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factories
Ian Buck, vice president of hyperscale and high-performance computing at NVIDIA, Tuesday spoke on AI factory efficiency …
行业动态
NVIDIA Blog · 9-16
阅读 27
·
访客 27
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
System performance, efficient infrastructure scaling and continuous software optimization are key levers that determine …
行业动态
NVIDIA Blog · 9-16
阅读 31
·
访客 31