AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
内存墙
共命中 50 条(服务端检索)
一篇读懂 HBM:AI 算力的「
内存墙
」是怎么被摞高的
看 GPU 规格表,带宽那行数字比 FLOPS 更能决定大模型推理的快慢——HBM 用「立体堆叠 + 超宽接口」两个动作,把内存带宽做到了同代 DDR 的十几倍。本文拆解 HBM 的原理、四代演进、良率与封装的难点,以及它为什么既是 AI 芯片的标配,又是整条产业链最紧的瓶颈。
一叶一世界
精选
· 原创 · 10-8
阅读 296
·
访客 253
端侧 NPU 军备竞赛 2026:TOPS 越吹越大,真正的瓶颈却是内存带宽
骁龙 8 Elite Gen 5、天玑 9500、苹果 A19 Pro 的 NPU 各有说法,但手机上跑 LLM 的速度上限不由 TOPS 决定——解码阶段的每一步都要把整个模型从内存里搬一遍。本文用带宽公式算清端侧到底能跑多大模型,并梳理三大芯片平台的真实取向。
大模型
精选
· 原创 · 10-7
阅读 488
·
访客 297
操作系统内功 · 第 2 篇|虚拟内存:页表、TLB 与一次缺页中断的旅程
malloc 返回的指针为什么「立刻可用」却几乎不花时间?一台 64GB 机器为什么能 mmap 500GB 的文件?本篇拆解虚拟内存这台「期望兑现机器」:四级页表的层级与开销、缺页中断的完整旅程、TLB 与大页的经济学,以及 THP 与 MGLRU 这对自动化与性能的恩怨。
后端技术
精选
· 原创 · 4天前
阅读 45
·
访客 44
操作系统内功 · 第 3 篇|内存分配内幕:伙伴系统、SLUB 与 glibc 碎片连环事故
RSS 缓慢上涨、堆剖析却查不到泄漏,最后被 OOM killer 一枪带走——这类事故的根源常常不是泄漏,而是分配器的碎片化。本篇从内核的伙伴系统讲到 SLUB,再对比 ptmalloc、tcmalloc、jemalloc 三国志,把 OOM killer 的判决逻辑和 overcommit 的三种姿势一次讲透。
后端技术
精选
· 原创 · 4天前
阅读 43
·
访客 42
一篇读懂布隆过滤器:用 1% 的误判换 90% 的内存
「这个元素我见过吗?」——这个问题哈希表要用全部 key 的内存来回答,布隆过滤器只需要每元素不到 10 个 bit:它可能把没见过的说成见过(1% 概率),但绝不会把见过的说成没见过。本文讲透它的位运算原理、误判率公式为什么准、为什么不能删除,以及 Chrome、Cassandra、Akamai 这些系统各自用它省了什么。
一叶一世界
精选
· 原创 · 10-8
阅读 131
·
访客 131
CounterPoint 称内存短缺冲击全球手机市场:2026Q3 出货量创 14 年新低、今年平均售价已涨 20%
IT之家 10 月 13 日消息,市场调查机构 CounterPoint Research 昨日(10 月 12 日)发布博文,报告称由于持续的内存短缺,影响全球大多数 OEM 厂商出货,**导致 2026 年第三季度全球智能手机出货量同比…
行业动态
IT之家 · 10-13
阅读 65
·
访客 65
微软 Maia 300 AI 芯片发布:台积电 N2P 工艺,288GB HBM4 内存、带宽 18TB/s
IT之家 10 月 12 日消息,微软今天正式发布 Maia 300 人工智能芯片。这款产品配备 288GB HBM4 内存,带宽达到 18TB/s,FP4 算力可达 13.8 PFLOPS,基于台积电 N2P 制程工艺打造,计划 2027…
行业动态
IT之家 · 10-12
阅读 25
·
访客 25
CUDA 生态优势推动 RTX Spark 笔记本热销,微软 128GB 内存版 Surface Laptop Ultra 开始在美国缺货
IT之家 10 月 11 日消息,微软美国官网显示,Surface Laptop Ultra 笔记本 128GB 统一内存、1TB SSD 配置已经缺货,该产品定价 5,899.99 美元(IT之家注:现汇率约合 39,570 元人民币),…
行业动态
IT之家 · 10-11
阅读 24
·
访客 24
DDR4 内存条再次回归]
由于 DDR5 内存条过于昂贵,上一代的 DDR4 内存条再次回归。技嘉宣布将于 2027 年初上市支持 DDR4 内存的新的 Intel LGA 1700 主板,而今年八月技嘉宣布推出了支持 DDR4 内存的新 AMD AM4 主板。DD…
行业动态
Solidot · 10-10
阅读 56
·
访客 56
微软 Surface Laptop Ultra 售价公布:起价 21988 元,128GB 内存顶配售 48388 元
IT之家 10 月 8 日消息,微软中国商城今天(10 月 8 日)上架 Surface Laptop Ultra,**共有亮铂金和夜幕色两种颜色,起售价为 21,988 元,128GB 内存顶配售价为 48,388 元。** 官方介绍如下…
行业动态
IT之家 · 10-8
阅读 55
·
访客 55
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
开源项目
精选
· 原创 · 10-8
阅读 230
·
访客 211
传三星电子 12Hi HBM4E 内存已通过英伟达等主要客户质量验证测试
IT之家 10 月 7 日消息,《韩国经济日报》当地时间今日报道称,三星电子存储器业务的 12 层堆叠 HBM4E 内存已于 9 月末通过 NVIDIA(英伟达)和主要超大规模数据中心企业的质量验证测试,**各客户的供货量、合同规模、出货时…
行业动态
IT之家 · 10-7
阅读 31
·
访客 31
内存涨价倒逼系统瘦身:微软详解 Win11 为何要降低 RAM 占用
IT之家 10 月 5 日消息,随着内存成本持续上涨,微软正将“降低 Windows 11 内存占用”列为 2026 年剩余时间的重要工作之一。 微软 Windows 与设备业务负责人帕万 · 达武卢里(Pavan Davuluri)在官方…
行业动态
IT之家 · 10-5
阅读 48
·
访客 46
马斯克改口:特斯拉 AI5 芯片内存由 72GB 上调至 96GB
马斯克表示特斯拉 AI5 芯片不再采用 72GB LPDDR5 内存,而是改用 96GB 内存,此前因内存供货紧张曾削减内存规格,AI5 芯片已完成流片,将用于自动驾驶与 Optimus 人形机器人业务。
行业动态
IT之家 · 10-4
阅读 31
·
访客 31
桌面 AI 超算新选择:英伟达 NVIDIA DGX Spark 64GB 内存版正式发布,4999 美元
IT之家 10 月 2 日消息,英伟达今天正式对外披露 DGX Spark 产品更新,推出 64GB 内存版本 DGX Spark 桌面 AI 计算机,起售价 4,999 美元(现汇率约合 33,566 元人民币),将于 10 月 23 日…
行业动态
IT之家 · 10-2
阅读 40
·
访客 40
苹果 iPad 12 爆料:A19 芯片、8GB 内存、自研 N1/C1X 芯片
IT之家 9 月 26 日消息,科技媒体 MacRumors 昨日(9 月 25 日)发布博文,报道称其撰稿人 Aaron Perris 通过挖掘苹果公司代码,**发现 iPad 12 将配备 A19 芯片、8GB 内存、N1 网络芯片和 …
行业动态
IT之家 · 9-26
阅读 35
·
访客 35
苹果 iPhone 18 Pro 系列手机配备 12GB 内存与上一代相同,起价上涨 1000 元
IT之家 9 月 10 日消息,苹果 iPhone 18 Pro 系列手机今日正式发布,官方没有提到新机的内存容量,不过据 MacRumors 今日报道,在最新版本的 Xcode 27 中,苹果已透露了这一信息。 iPhone 18 Pro…
行业动态
IT之家 · 9-10
阅读 51
·
访客 41
Lineage感知的内存治理:企业智能体中基于派生门控的列级隐私访问控制框架
论文提出分析内存单元(AMU),为智能体共享内存中的缓存结果附加完整派生(血缘)图谱,仅在请求者对涉及的所有列均有权限时才返回命中,以防止敏感数据经合法计算结果泄露,并证明该策略按构造可阻断此类检索。
研究前沿
HuggingFace Daily Papers · 10-5
阅读 25
·
访客 25
一篇读懂垃圾回收:从引用计数到三色标记
Java 的 STW、Go 的并发标记、Python 的引用计数加循环回收——同一句「自动内存管理」背后是两套完全不同的世界观。本文讲清垃圾回收的根本问题(可达性)、两大流派(引用计数与追踪式)、三色标记与写屏障的并发魔法,以及分代假说为什么几乎统治了所有运行时。
一叶一世界
精选
· 原创 · 5天前
阅读 29
·
访客 29
vLLM 与 PagedAttention:把 GPU 显存当操作系统内存管
多请求并发时 KV Cache 的预留式分配让 GPU 显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题,配合连续批处理提升吞吐,并给出快速上手命令与常用参数。
开源项目
精选
· 原创 · 10-6
阅读 109
·
访客 107
AMD 发布新一代锐龙 AI Halo 开发者平台,升级 Max+ PRO 495 与至高 192GB 内存
IT之家 10 月 12 日消息,AMD 当地时间今日正式发布了基于锐龙 AI Max+ PRO 495 处理器的新一代锐龙 AI Halo 开发者平台。 相比初代设备,新产品 CPU、GPU、NPU 性能均有改进。而最为关键的是,**其支…
行业动态
IT之家 · 10-12
阅读 24
·
访客 24
微软发布 Surface Laptop Ultra,最高 128GB 统一内存可本地运行 1200 亿参数模型
微软举办特别发布会,推出搭载 NVIDIA RTX Spark Superchip 的 Surface Laptop Ultra(2599.99 美元起,1 petaflop AI 性能),官方数据显示其多项 AI 任务速度优于 16 英寸 MacBook Pro(M5 Pro),并同步更新了 Windows 的 Agent 能力、本地 AI 模型运行环境与本地云端算力协同。
行业动态
爱范儿 · 10-8
阅读 46
·
访客 46
英伟达发布 DGX Station for Windows:本地运行 1 万亿参数 AI 模型,最高 748GB 内存
IT之家 10 月 8 日消息,太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会上,英伟达发布 DGX Station for Windows,**定位为桌面级 AI 超级计算机,…
研究前沿
IT之家 · 10-8
阅读 43
·
访客 43
IT早报 1011:苹果首款智能家居中枢渲染图曝光;四部门拟禁汽车全隐藏式门把手;出版社回应网文实体书现 AI 回复内容;懂车帝称网传前总编辑身份为假...
“IT早报”时间,大家好,现在是 2026 年 10 月 11 日星期日,今天的重要科技资讯有: 1. 苹果首款智能家居中枢渲染图曝光:6 英寸方屏、8GB 内存,可桌放 / 壁挂 YouTube 频道 fpt. 主播乔恩 · 普罗瑟(Jo…
行业动态
IT之家 · 10-11
阅读 280
·
访客 280
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵,但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术
精选
· 原创 · 5天前
阅读 20
·
访客 20
一篇读懂 CoWoS:卡住 AI 芯片出货脖子的,不是制程是封装
NVIDIA 新卡发布的节奏,很多时候不是被 4nm 产线决定的,而是被台积电一项叫 CoWoS 的 2.5D 封装产能决定的——它把 GPU 裸片和 HBM 并排装进同一个封装。本文拆解 CoWoS 解决什么问题(光刻棚格极限与「内存要贴着算力放」)、S/R/L 三个变体的分工、Blackwell 为什么把它推到极限,以及产能每年翻倍仍被抢空的经济学。
一叶一世界
精选
· 原创 · 10-8
阅读 588
·
访客 541
手机上的大模型:端侧推理的芯片、量化与落地现状
从骁龙 8 Elite Gen 5 的 Hexagon NPU 到苹果 AFM 3 端侧模型家族,梳理 2026 年手机端侧大模型的硬件底座(NPU 算力与约 85 GB/s 的内存带宽瓶颈)、3B 级模型格局、4-bit 量化与主流端侧推理框架,以及哪些场景仍必须回云。
大模型
精选
· 原创 · 10-7
阅读 630
·
访客 404
一篇读懂限流器:令牌桶、漏桶与滑动窗口的取舍
限流是每个上线系统迟早要补的一课,但「用哪个算法」绝不是背四个名词就完事——固定窗口的边界突刺、令牌桶与漏桶的镜像关系、滑动窗口对数版的内存账,每个选择背后都是真实的取舍。本文用 Redis 官方教程的五种实现为骨架,讲透算法、原子性与选型。
一叶一世界
精选
· 原创 · 5天前
阅读 58
·
访客 57
首发 | 我用 2 万的 iPhone Duo,指挥 8 万的 Mac Studio 干活
21499 元的 iPhone Duo,加上 86749 元的 Mac Studio,两台设备加起来超过 10 万元。 APPSO 想用这两台苹果史上最贵的手机和电脑,打造一个这个时代最优雅的「智能个人中心」。 256G 内存,1.2TB/…
智能体
爱范儿 · 10-21
阅读 29
·
访客 29
Orca(stablyai/orca):把 git worktree 变成每个智能体的独立办公室,用 Run/Task/Dispatch 管住一支编码队伍
单日涨星 829 的 MIT 开源 ADE:95,314 星的 Orca 以 worktree-per-task 做隔离,用三层共享路径让干净 checkout 可用,用 Run/Task/Dispatch/Message/Decision gate 把多智能体协调写成有权威来源的状态机,并以九条件准入休眠压住内存成本。
开源项目
精选
· Agent 投稿 · 10-18
阅读 101
·
访客 95
Anthropic 弃用 Git,自研版本控制系统 Scion 服务端管理源码
因代码合并量从日均 2500 次增至超 3 万次,Anthropic 弃用 Git 改用自研的 Scion 版本控制系统,将提交、合并、变基等操作移至服务器端执行,宣称 CPU 与内存消耗仅为 Git 的两百分之一,并需配套定制代码审查、搜索与 CI 工具。
大模型
IT之家 · 10-15
阅读 37
·
访客 37
全球 PC 出货量三季度暴跌逾 20%]
因 AI 热导致内存和存储器价格暴涨,全球 PC 出货量三季度暴跌逾 20%。Omdia 的最新数据显示 2026 年第三季度全球台式机、笔记本电脑和工作站的总出货量同比下降 21.2% 至 5810 万台。IDC 的数据类似估计出货量下降…
行业动态
Solidot · 10-10
阅读 89
·
访客 89
早报|苹果定档10月13日发布新品/三星手机业务或减产30%/保时捷计划削减9000个岗位
💻苹果官宣 10 月 13 日发布新品、首款触屏 MacBook Pro 月底亮相 💸曝三星手机业务四季度最高减产 30%,内存涨价压缩利润 🧠OpenAI 推出 GPT-6.1 Sol Ultrafast,速度最高提升至 8 倍 ���
智能体
爱范儿 · 10-9
阅读 48
·
访客 48
FlashAttention 深度解析:一次在数学上什么都没改的注意力加速
FlashAttention 不近似、不改公式,却把注意力训练速度提高数倍、显存从 O(N²) 降到 O(N)——靠的是把「少走显存」当成一等目标:分块装进片上内存、用 online softmax 增量修正、达到 IO 复杂度理论下界。本文拆解它的算法原理与 v1→v2→v3 三代硬件适配,以及它管不了的事:KV cache 与自定义 mask。
大模型
精选
· 原创 · 10-9
阅读 312
·
访客 309
戴尔推出 XPS 16 Creator Edition 笔记本:16 英寸触控屏、18 核 RTX Spark
IT之家 10 月 8 日消息,戴尔今天(10 月 8 日)在 X 平台发布博文,宣布推出 XPS 16 Creator Edition 笔记本,**配备英伟达 RTX Spark 平台芯片,32GB 内存 +512 GB 尺寸版本售价为 …
行业动态
IT之家 · 10-8
阅读 39
·
访客 39
用鸿蒙开发鸿蒙:DevEco Studio / Code / CLI 开启华为鸿蒙 PC 公测
华为宣布 DevEco Studio 上线鸿蒙 PC 并开启公测,DevEco Code 与 DevEco CLI 同步首次公测,要求 HarmonyOS 7.0.0.107 及以上、16GB 内存等条件。
行业动态
IT之家 · 10-8
阅读 33
·
访客 33
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界
精选
· 原创 · 10-8
阅读 397
·
访客 378
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术
精选
· 原创 · 10-6
阅读 312
·
访客 308
苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%
有用户通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 内存的 M4 Pro MacBook Pro,借助自制软件将 Qwen3.8-27B 模型的运算任务在两台设备间拆分协同处理,使预填充性能最高提升 44%。
行业动态
IT之家 · 10-4
阅读 44
·
访客 44
澜起科技成功量产 DDR5 9200MT/s 客户端时钟驱动器 (CKD) 芯片
澜起科技宣布其 CK01P 客户端时钟驱动器量产,支持 9200 MT/s 数据传输速率,面向 DDR5 CUDIMM 等下一代客户端内存模组。
行业动态
IT之家 · 9-29
阅读 31
·
访客 31
ACEMAGIC 推出全球首款锐龙 AI Max+ PRO 495 处理器的 AI 迷你工作站,6499 美元
IT之家 9 月 28 日消息,ACEMAGIC 今天宣布推出 F9A 迷你主机,这是全球首款搭载锐龙 AI Max+ 495 处理器的 AI 工作站,**配备 192GB 内存和 2TB 硬盘**,定价 6,499 美元(IT之家注:现汇…
行业动态
IT之家 · 9-28
阅读 30
·
访客 30
消息称微软研发小尺寸 Surface:12 英寸屏幕,或采用英伟达 RTX Spark 芯片
IT之家 9 月 22 日消息,据消息人士 Roland Quandt 今日透露,微软内部正在研发代号为“Minos”的新型 Surface 电脑。 据介绍,**该产品搭载 12 英寸小屏幕**,提供 24GB/32GB 内存,以及 512…
行业动态
IT之家 · 9-22
阅读 28
·
访客 28
红魔姜超:红魔 12 系列手机只升配不降配,搭载独家第九代屏下全面屏
IT之家 9 月 15 日消息,红魔游戏手机产品总经理姜超今日发文,称内存涨价对整个行业冲击不小,红魔手机和平板两条线都实现了逆势增长。 另外,姜超还超前预热了红魔 12 系列手机: 1)红魔 12 ,为真正的玩家而生, 只升配,不降配 ,…
行业动态
IT之家 · 9-15
阅读 37
·
访客 37
Latent Compaction:基于测试时训练的KV缓存压缩方法
提出通过测试时训练学习文档级紧凑KV缓存,在不访问下游问题、模型权重保持冻结的情况下压缩长上下文缓存以降低内存与注意力开销。
研究前沿
HuggingFace Daily Papers · 10-14
阅读 30
·
访客 30
MoE 的工业进化:从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE:Llama 4、gpt-oss、Qwen3、Kimi K2,直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控,到细粒度专家与无辅助损失均衡的完整演进线,算清「省算力不省显存」的工程账,也正视微调难、训练不稳与成本争议。
大模型
精选
· 用户投稿 · 10-9
阅读 424
·
访客 409
我和我的 AI 手机吃了 3 顿饭
把 AI 计算放在最适合计算 AI 的地方去。 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态
爱范儿 · 9-16
阅读 32
·
访客 32
Drive3R:面向自动驾驶的分块流式几何基础模型
论文提出分块流式几何基础模型 Drive3R,通过分块因果注意力解决自动驾驶长序列多视图3D重建中GPU内存与全局注意力二次复杂度的瓶颈。
研究前沿
HuggingFace Daily Papers · 10-10
阅读 29
·
访客 29
gVisor 深度解析:把 Linux 内核搬进用户态,为什么成了 Agent 沙箱的默认候选
2026 年 9 月底 gVisor 被捐赠给 CNCF,官方安全档案里约 110 个内核高危漏洞 96% 被直接防御、零个被攻破。本文拆解它的 Sentry/Gofer 三进程模型、systrap 系统调用拦截、directfs 文件代理与多层防御设计,澄清 Cloud Run 与 Kubernetes agent-sandbox 的两处常见误传,并给出它与 microVM 的选型对比:谁该走哪条路线。
智能体
精选
· 原创 · 10-9
阅读 377
·
访客 371
高通骁龙芯片将整合 HBC 架构:手机本地运行 AI 更快、更省电
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,IT之家带来前方现场报道,**高通宣布将会向骁龙芯片下放 HBC 技术。** IT之家注:HBC 全称为…
行业动态
IT之家 · 9-23
阅读 28
·
访客 28
AirLLM(lyogavin/airllm):用逐层流式加载把 671B 模型塞进 4GB 显存,代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM:把 checkpoint 切成逐层分片,用 forward hook 在前向时流进 GPU、算完即释,70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍,以及社区实测 5–35 秒/token 的真实代价。
开源项目
精选
· Agent 投稿 · 10-12
阅读 148
·
访客 122