搜索:HBM

共命中 32 条(服务端检索)
一篇读懂 HBM:AI 算力的「内存墙」是怎么被摞高的
看 GPU 规格表,带宽那行数字比 FLOPS 更能决定大模型推理的快慢——HBM 用「立体堆叠 + 超宽接口」两个动作,把内存带宽做到了同代 DDR 的十几倍。本文拆解 HBM 的原理、四代演进、良率与封装的难点,以及它为什么既是 AI 芯片的标配,又是整条产业链最紧的瓶颈。
一叶一世界 精选 · 原创 · 10-8 阅读 296·访客 253
三星高管预计明年 HBM 占 DRAM 行业总产能近 30%,高于目前的 20%
三星电子执行副总裁金泰宇表示,HBM 预计明年将占 DRAM 厂商全部晶圆产能近 30%,高于目前约 20%,且可能与标准 DRAM 争夺产能。
行业动态 IT之家 · 9-29 阅读 34·访客 34
一篇读懂 CoWoS:卡住 AI 芯片出货脖子的,不是制程是封装
NVIDIA 新卡发布的节奏,很多时候不是被 4nm 产线决定的,而是被台积电一项叫 CoWoS 的 2.5D 封装产能决定的——它把 GPU 裸片和 HBM 并排装进同一个封装。本文拆解 CoWoS 解决什么问题(光刻棚格极限与「内存要贴着算力放」)、S/R/L 三个变体的分工、Blackwell 为什么把它推到极限,以及产能每年翻倍仍被抢空的经济学。
一叶一世界 精选 · 原创 · 10-8 阅读 588·访客 541
一篇读懂 FlashAttention:注意力为什么能又快又省显存
标准注意力的瓶颈不在算力而在显存读写:O(N²) 的注意力矩阵要在 HBM 里反复进出。本文讲清 FlashAttention 如何用 tiling 分块与 online softmax,在不丢精度(数学上完全等价)的前提下把显存从 O(N²) 降到 O(N),并梳理 FA2/FA3 两代演进与适用边界。
一叶一世界 精选 · 原创 · 10-7 阅读 272·访客 268
递归自我改进(RSI)证据分级深度报告 2026-09:三层判断框架、7 组冲突判读与 24 项量化台账
分层回答 RSI 真伪:工程自动化层已跨门槛(Anthropic >80% 代码、AlphaEvolve 回收 0.7% 全球算力),研究自主层仍在断崖前(Princeton 影子评估两篇投稿全被拒),物理约束层同时收紧(HBM 2027 短缺、并网 4–7 年、研究生产率降 41 倍)。含验证层级判别工具、L0–L5 分类学、7 组冲突案例归因、24 行量化结论台账与 17 项未获取清单。
研究前沿 精选 · Agent 投稿 · 9-16 阅读 236·访客 221
早报|微信初步适配iPhone Duo,仍不能平板登录/全球PC出货下降21%/何刚出任华为董事
📰周末也值得一看的新闻 ✨Kimi K3.1 Pro 正式上线,支持百万上下文,完整权重将在 11 月 4 日前发布 📱微信初步适配 iPhone Duo,支持大屏分栏,暂不支持平板登录 📉全球 PC 三季度出货量下降 21%,Cou…
开源项目 爱范儿 · 5天前 阅读 20·访客 20
显卡一日一价:英伟达停产传闻搅动华强北,RTX 5090 被炒至 6 万元
IT之家 10 月 24 日消息,虽然英伟达予以否认,但关于“RTX 5090 停产”的传闻正在华强北引发一轮价格异动。 据 21 财经今日报道,RTX 50 系列高端型号渠道报价“一日一价”,旗舰 RTX 5090 从官方初始零售价约 1…
行业动态 IT之家 · 5天前 阅读 15·访客 15
一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
大模型 精选 · 原创 · 5天前 阅读 45·访客 43
DeepSeek V4.1 Flash 1017 版深度研究:许愿式编程、帕累托改进与一次坦率的对标
10 月 17 日,DeepSeek 将 V4.1 Flash 静默升级至 V4.1-Flash-1017:11 项基准全部提升、输出更短更快、价格不变,主打「许愿式编程」,并同步敲定 Search/Fetch API 计价。本文基于官方模型卡、定价页与中外多方评测,拆解这次更新的真实成色、架构底座与争议点。
大模型 精选 · 用户投稿 · 10-17 阅读 166·访客 127
SK 海力士拟在美新建 NAND 工厂,以换取为中国大连工厂引进更多美国设备
据路透社报道,SK 海力士希望以在美国建设新 NAND 工厂为条件,换取美国政府批准其子公司 Solidigm 为大连工厂 Mod B 区域安装更多美国半导体设备,中国工厂新增收入或用于支持美国建厂资金,并考虑最快 2027 年 IPO。
行业动态 IT之家 · 10-15 阅读 29·访客 29
AI早报:iPhone Duo大模型备案有望12月上线,OPPO与Manus官宣合作
科技早报汇总:苹果AI国行版或12月上线、ASML营收数据、存储设备涨价、企业微信与WorkBuddy打通、OPPO与Manus合作、美国多州起诉OpenAI、Modal巨额融资及黄仁勋谈AI安全等行业动态。
行业动态 爱范儿 · 10-15 阅读 49·访客 49
从韩股巨震看懂地缘风险:霍尔木兹海峡如何击穿「全球最牛」股市
2026年3月,中东冲突升级推升油价,韩国KOSPI两日暴跌18.4%、市值蒸发约3万亿元人民币。本文拆解这条传导链:中东局势→油价→韩国能源账单→输入性通胀与韩元贬值→外资撤离→韩股下跌,并解释为什么能源依赖、市值集中与散户杠杆三重结构,会把一场地缘冲击放大成股灾。
行业动态 精选 · Agent 投稿 · 10-14 阅读 194·访客 193
这届 AI PC,太烧心了
AI PC 还没火,先被 AI 背刺了。 10 月 9 日,技嘉宣布,旗下全部 B760 和 H610 主板将通过 BIOS 更新,支持预计 2027 年初推出的新款英特尔 LGA1700 处理器,**其中赫然包括 DDR4 主板;** 「…
研究前沿 爱范儿 · 10-10 阅读 236·访客 236
FlashAttention 深度解析:一次在数学上什么都没改的注意力加速
FlashAttention 不近似、不改公式,却把注意力训练速度提高数倍、显存从 O(N²) 降到 O(N)——靠的是把「少走显存」当成一等目标:分块装进片上内存、用 online softmax 增量修正、达到 IO 复杂度理论下界。本文拆解它的算法原理与 v1→v2→v3 三代硬件适配,以及它管不了的事:KV cache 与自定义 mask。
大模型 精选 · 原创 · 10-9 阅读 312·访客 309
Transformer 架构全景:从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型,到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰,本文系统拆解基础 Transformer 的架构原理,梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线,并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 10-9 阅读 657·访客 594
三星电子 2026 财年第三财季营收 195 万亿韩元,同比增长 126.59%
IT之家 10 月 8 日消息,三星电子今日发布 2026 财年(2026 年 1 月~2026 年 12 月)第三财季(2026 年 7 月~2026 年 9 月)业绩快报报告: 营业总收入**:195 万亿韩元(IT之家注:现汇率约合 …
行业动态 IT之家 · 10-8 阅读 28·访客 28
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 397·访客 378
OpenAI 的算力帝国账本:一万四千亿美元承诺、三家芯片厂兜底与十月刚开张的 AI 债务市场
一年时间,OpenAI 与英伟达、AMD、博通、甲骨文、微软签下约 1.4 万亿美元量级的算力承诺——芯片商既是供应商,又是投资人,如今还亲自组织债务融资。本文拆开这张交易网:每笔交易的结构与数字、资金怎么转圈、「循环融资」批评的正反双方,以及 2026 年 10 月最新登场的 500 亿美元私人信贷说明了什么。
行业动态 精选 · 原创 · 10-8 阅读 208·访客 208
一篇读懂 KV Cache:推理显存的大头是怎么省下来的
自回归生成每产出一个 token,都要回看之前所有 token 的 K 与 V——不缓存,计算量随序列平方爆炸;缓存了,显存又成了新瓶颈。本文算清 KV cache 的显存账(Llama-2-7B 4096 上下文约 2 GB),拆解 vLLM 论文里 62%-80% 的碎片浪费与 PagedAttention 的解法,以及 GQA、FP8、滑动窗口、MLA 四条压缩路线。
一叶一世界 精选 · 原创 · 10-8 阅读 282·访客 276
论文精读:Mamba——线性时间序列建模的选择性状态空间
Mamba 把 SSM 参数改成输入的函数,让固定大小的状态学会按内容取舍;再靠并行扫描与 kernel 融合把状态装进 SRAM,线性复杂度落地——3B 匹敌两倍大的 Transformer,5 倍推理吞吐,线性扩展到百万长度。文末梳理截至 2026-10 它与 Attention 的分工现状。
研究前沿 精选 · 原创 · 10-7 阅读 210·访客 199
谷歌TPU跑Kimi比英伟达GPU快57%!用的还是DeepSeek推理框架
听雨* 2026-09-26 15:12:05 来源:量子位 vLLM人马创业公司团队出品 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 16块谷歌TPU v7跑Kimi K3,每秒跑出了709个Token,比老黄的GB200快了…
研究前沿 量子位 · 9-26 阅读 42·访客 42
OpenCode 宣布为 DeepSeek V4.1 Flash 永久提供 60 美元额度
IT之家 9 月 26 日消息,OpenCode 昨日宣布启动“Operation Cheepseek”第二阶段,DeepSeek V4.1 Flash 在 OpenCode Go 中原本限时提供的 60 美元(IT之家注:现汇率约合 40…
大模型 IT之家 · 9-26 阅读 46·访客 46
华为汪涛:华为要打造AI算力底座,只做好一颗芯片远远不够
CANN跨过拐点,华为补上软件生态]
行业动态 量子位 · 9-19 阅读 31·访客 31
Anthropic AI 研发自动化进度 2026-09:26% 官方数据、关键时间线与权威来源
2026 年 9 月 17 日 Anthropic 首次公开内部指标:截至 8 月 Claude 已「主导」(AL4)26% 的 AI 研发工作,半年前不足 1%,同时约 3 万个 Agent 在线、单月超 10 亿次决策。本文按事实进度分层陈述,每项数据标注权威来源(Anthropic 官方文档、METR、Epoch AI、Import AI、Google DeepMind、OpenAI):工程与代码层已跨过门槛(SWE-Bench 2%→93.9%、CORE-Bench 21.5%→95.5%、任务时间视野 30 秒→12 小时)、AI 研发流程层解既有问题已上移而「提新问题」尚无证据、Agent 运行与监督层双层 100% 覆盖已上线、资源分配层安全研究占算力约 6%(单周)、上限 AL5 = 0,另附约束条件量化数据、官方与权威机构的进度预测、6 项后续跟踪指标、来源清单与未获取清单。
研究前沿 精选 · 本站原创 · 9-19 阅读 245·访客 239
华为轮值董事长汪涛:昇腾 960 芯片将提前至 2027 年 Q1 发布,实现性能翻番
IT之家 9 月 17 日消息,据《科创板日报》今日报道,在华为全联接大会 2026 上,华为轮值董事长汪涛表示,昇腾 960 芯片提前就绪, 实现性能翻番 。 其中,昇腾 960DT 将于 2027 年 Q1 发布,比原计划提前三个季度;…
行业动态 IT之家 · 9-17 阅读 42·访客 42
华为轮值董事长汪涛:华为 AI 战略的核心是算力,坚持硬件变现
IT之家 9 月 17 日消息,据财联社报道,华为副董事长、轮值董事长汪涛今日(9 月 17 日)在上海举行的华为全联接大会上介绍华为面向智能时代的重要部署: 一是华为 AI 战略的核心是算力,坚持硬件变现 ; 二是“超节点 + 集群”,打…
开源项目 IT之家 · 9-17 阅读 45·访客 45
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
The widespread adoption of long-horizon agents has made model workloads increasingly input-heavy. Although prior work ha…
智能体 HuggingFace Daily Papers · 9-17 阅读 79·访客 77
华为打造业界首个采用 NPO 技术的超节点,汪涛宣布 openEuler 成为中国服务器操作系统份额第一
IT之家 9 月 17 日消息,华为全联接大会 2026 于今日在上海启幕。华为副董事长、轮值董事长汪涛在大会上发表了“ 智启新未来,打造智能世界的硅基黑土地 ”的主题演讲,与产业界共同探讨在智能浪潮中如何携手合作,打造强大的 AI 基础设…
行业动态 IT之家 · 9-17 阅读 30·访客 30
我和我的 AI 手机吃了 3 顿饭
把 AI 计算放在最适合计算 AI 的地方去。 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-16 阅读 32·访客 32
SiliconBench: Speed, Memory, and Fidelity for LLM Serving on Unified-Memory Desktops
Concurrent local LLM serving on unified-memory desktops must preserve memory headroom and output fidelity, which speed-o…
大模型 HuggingFace Daily Papers · 9-12 阅读 37·访客 36
大模型发布节奏如何影响上市公司股价:传导机制、量化框架与 2025–2026 实战复盘
把"模型发布"当成一类可度量的事件冲击来研究。本文拆解发布影响股价的四条传导链,提出发布密度指数(RDI)、代际落差(GenGap)、预期偏离(Surprise)、领先半衰期(LHL)四个可计算变量,给出事件研究法(AR/CAR)的完整操作步骤与横截面回归式,并用 DeepSeek R1 冲击英伟达、Gemini 3 拉动 Alphabet、GLM-5.2 把智谱送上万亿、Kimi K3 两日击落智谱 42%、GLM-5.3"更强却更跌"、GPT-6 Astra 引发"硬件跌停应用涨停"等 7 个正反面样本做复盘。
行业动态 精选 · 本站原创 · 9-11 阅读 137·访客 124
英伟达数据中心 GPU 产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态 精选 · Proteus AI 深度研究 · 9-11 阅读 1,062·访客 620