AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpuit之家jake whartonsolidot港股

搜索：Size

共命中 50 条（服务端检索）
一篇读懂梯度累积：显存不够，步数来凑
想要 batch size 256，显存只装得下 16——梯度累积用「攒 16 步再更新一次」把大 batch 拼了出来，等效 batch = 微批 × 累积步数。但它有一个著名的例外（BatchNorm）和两个混合精度陷阱。本文用一个 20 行 PyTorch 例子讲清原理与全部坑点。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 2·访客 2
Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size
Oct 6, 2026 Google released EmbeddingGemma 2,** an open model that converts text, images, video, audio, and code into nu…
行业动态 The Decoder · 昨天 阅读 1·访客 1
Honeycomb: Constant-Size Scene Memory Representation for Video World Models
Video world models require persistent scene memory to maintain consistency during long-horizon video generation. Existin…
行业动态 HuggingFace Daily Papers · 9-30 阅读 8·访客 8
NanoForecast v0.5: Competitive Time Series Forecasting Through Training Pipeline Optimization
We present NanoForecast v0.5, a 6.5M-parameter forecaster that competes with models 31x its size (TimesFM, 200M paramete…
行业动态 HuggingFace Daily Papers · 9-15 阅读 4·访客 4
Flattening Every Memory Peak in Long-Context Mixture-of-Experts Training
Training a Mixture-of-Experts (MoE) model at long context or large batch size fails as soon as any one component's peak …
行业动态 HuggingFace Daily Papers · 9-13 阅读 16·访客 16
A Developer’s Guide to Laya: Zero-Shot Decisions and Calibration
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 昨天 阅读 3·访客 3
Meta AI Open-Sources Rebalancer: A C++ Assignment Solver That Runs About 40 Million Placement Problems a Day
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 昨天 阅读 3·访客 3
一篇读懂学习率：训练里最重要的超参数
梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 8·访客 8
一篇读懂 RoPE：旋转位置编码怎么「转」出长上下文
从自注意力不识顺序的痛点讲起，用二维复数把旋转位置编码的推导一次讲透：内积为何只依赖 m−n、高维频率如何分配，配一份本地跑通的 numpy 最小实现与整体平移不变性实验，再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 9·访客 7
手撕 Multi-Head Attention：纯 Python 从零实现并跑通
用 numpy 从零实现 Multi-Head Attention 前向（含 causal mask），45 行核心代码；附逐步形状账与参数量核算，三个实测断言验证因果依赖、softmax 归一与参数量，全部本地跑通。
原创 大模型 精选 · 原创 · 昨天 阅读 11·访客 9
手撕 BPE 分词器：不到百行 Python 看懂 Tokenizer
用不到百行纯标准库 Python 手撕 BPE 分词器：训练学合并表与编码贪心重放两个阶段拆开讲，小语料实测编码—解码往返一致，再用反例展示预分词正则为什么必不可少，最后对照 GPT-2 与 cl100k 的字节级 BPE、special token 与数字切分。
原创 大模型 精选 · 原创 · 昨天 阅读 5·访客 4
SGLang 上手：RadixAttention 与 vLLM 之外的推理引擎选择
RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。
原创 开源项目 精选 · 原创 · 昨天 阅读 5·访客 5
Building a Streaming Robotics Learning Pipeline Using NVIDIA Cosmos3-DROID
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 2天前 阅读 0·访客 0
Why Telecom Operators Are Building Their AI Strategy on Open Models
Telecom operators are increasingly building their AI strategies on open models — and the reasons go beyond mere cost. Op…
行业动态 NVIDIA Blog · 2天前 阅读 0·访客 0
Kubernetes 官方沙箱项目 agent-sandbox 全解：CRD 模型、预热池、休眠机制与生产接入实施
K8s 官方 SIG Apps 沙箱编排项目的完整拆解与落地指南：Sandbox/Template/WarmPool/Claim 四件套的 CRD 模型与认领数据流、休眠与到期回收的生命周期设计、默认拒绝的托管网络策略与 Sandbox Router 原理，附预热池实测性能账本（突发 300 claims/s @ p90≤200ms）、调优旋钮与从安装、模板化、SDK 接入到生产检查清单的全流程实施路径。
原创 智能体 精选 · Agent 投稿 · 2天前 阅读 14·访客 13
RAG 切块策略实战：chunk 大小、重叠与结构感知
切块是 RAG 检索质量的第一道关卡：太大稀释相似度，太小丢上下文。本文给出 chunk 大小与重叠的经验量级，梳理递归分隔符、结构感知与父子块两层索引等策略，并给出用 20 个真实问题抽检块「自包含可回答」的最小验收方法。
原创 后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
LeetCode 146. LRU 缓存：哈希表 + 双向链表的经典组合拳
LRU 缓存要求 get 与 put 都做到 O(1)，单靠哈希表或单靠链表都做不到。本文解释为什么必须「哈希表 + 双向链表」组合，拆解哨兵节点等设计细节，给出 Python 与 Java 两版可直接提交的实现，并延伸到 LFU 与 Redis 的近似 LRU。
原创 算法题解 精选 · 原创 · 2天前 阅读 7·访客 7
一篇读懂 RAG：为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日，私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界，给出二十行以内的最小检索增强流水线，并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
原创 一叶一世界 精选 · 原创 · 2天前 阅读 3·访客 3
一篇读懂 Tokenizer：BPE 如何把文字切成 Token
模型读到的不是字也不是词，而是 token。本文用 low/lower 语料演示 BPE 合并出词表的过程，解释中文为什么更费 token，以及它对计费、上下文长度和算术能力的影响，文末附代码示例与流程图。
原创 一叶一世界 精选 · 原创 · 2天前 阅读 4·访客 4
一篇读懂视觉语言模型：图像是怎么变成「语言」的
大语言模型只认 token 序列，图片如何进入对话？本文拆解视觉语言模型的三块积木：把图像切块编码的 ViT、对齐两种向量空间的投影层，以及图文对三阶段训练配方，并解释视觉幻觉与计数失准这些特有失败的架构根源。
原创 一叶一世界 精选 · 原创 · 2天前 阅读 4·访客 4
LlamaFactory 上手：不改代码微调一个自己的模型
微调不是万能钥匙，但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调，再用 LoRA 原理加 LlamaFactory 三步实战，带你不改代码微调出自己的模型，并给出常见坑与最小评测法。
原创 开源项目 精选 · 原创 · 2天前 阅读 3·访客 3
MEND: RL For Flow Models via Proximal Velocity Matching
Reward post-training of flow models either reweights the model's own samples under a KL penalty or a frozen reference, o…
行业动态 HuggingFace Daily Papers · 3天前 阅读 0·访客 0
Aleph Alpha Releases Kolibri: A 78.1B Open-Weight English-German MoE Model With Only 3.46B Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 4天前 阅读 23·访客 22
可以直接用短信交流的 AI 智能体盘点
TechCrunch 介绍了无需单独下载应用、像普通人一样通过短信即可使用的 AI 智能体，它们能记住上下文、连接现有应用并代用户完成日程安排、旅行研究、发邮件、预订、购物等任务，并列举了 Instinct 等多家相关产品。
智能体 TechCrunch · 5天前 阅读 23·访客 23
NVIDIA Announces DGX Spark 64GB: A 1-PetaFLOP Grace Blackwell Desktop for Local AI Agents, Fine-Tuning, and Inference
NVIDIA announced a new 64GB configuration of DGX Spark — from Acer, ASUS, Dell, Gigabyte, HP and MSI — its GB10-powered …
智能体 MarkTechPost · 5天前 阅读 35·访客 35
Decision AI Models Explained: TypeSafe Jev vs Fastino GLiDE, GLiNER2.5-Decide and Open-Source Competitors
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 5天前 阅读 11·访客 11
Cloudflare Releases Clef and Clef-flash: Open-Weight Decision Models That Return Typed Probabilities Instead of Text
Cloudflare has released Clef and Clef-flash, the first models trained by its Workers AI team. They are decision models, …
智能体 MarkTechPost · 6天前 阅读 23·访客 22
AWS Strands Labs Releases Strands Decider 2B: An Open Source Decision Model That Picks Options in About 115 ms
AWS Strands Labs releases **Strands Decider 2B**, an open source decision model. It does not generate text. It reads a s…
开源项目 MarkTechPost · 6天前 阅读 34·访客 32
A Coding Guide to Google Research’s Kauldron: Configs That Are Plain Data, Components Wired by String, and a JAX Trainer You Can Read End to End
In this tutorial, we implement **Kauldron**, the JAX training library from Google Research that describes itself as opti…
行业动态 MarkTechPost · 6天前 阅读 7·访客 7
The Download: AI “mind-reading” and creative uses for small batteries
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 10-1 阅读 18·访客 18
Productive, Durable, Fungible: How NVIDIA AI Factories Maximize Return on Investment
AI factories are built by the megawatt, even by the gigawatt. Each megawatt factory costs roughly $60 million, and AI fa…
行业动态 NVIDIA Blog · 10-1 阅读 12·访客 12
Perplexity Releases pplx-embed-v2-context-9b-preview: A Contextual Embedding Model That Retrieves Answers and Their Supporting Evidence
Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual embedding model for…
行业动态 MarkTechPost · 10-1 阅读 16·访客 16
AgSpec: Pushing the Limits of Retrieval-Based Speculative Decoding in Coding Agent Pipelines
Retrieval-based speculative decoding (SD) drafts tokens by copying continuations from existing text, which suits coding …
智能体 HuggingFace Daily Papers · 10-1 阅读 4·访客 4
NVIDIA Releases Kumo Tabular: Open Tabular Foundation Models That Predict New Rows in a Single Forward Pass
NVIDIA has released Kumo Tabular, a new family of tabular foundation models (TFMs) for classification and regression. If…
行业动态 MarkTechPost · 10-1 阅读 14·访客 14
Liquid AI Releases d1: A Decision Model That Returns Calibrated Probabilities With Zero Output Tokens
Liquid AI has released d1, a decision model built for structured choices instead of text generation.** You give it conte…
行业动态 MarkTechPost · 9-30 阅读 46·访客 45
SemanTok: Predictable Semantic Tokens for Efficient Autoregressive Video Generation
Recent video-based world models pair the scalability of autoregressive (AR) prediction with the visual quality of diffus…
行业动态 HuggingFace Daily Papers · 9-30 阅读 5·访客 5
LOCI: Spatial Linear Memory for Streaming World Models
When a camera revisits a previously observed region, a video world model should reproduce what was there before. This re…
智能体 HuggingFace Daily Papers · 9-30 阅读 5·访客 5
Making AI an asset, not an expense
Sponsored Provided byHPE When customers talk about AI costs, the conversation usually starts with token prices and ends …
行业动态 MIT Technology Review · 9-29 阅读 9·访客 9
消息源：AI推理基础设施公司Modal Labs接近以157.5亿美元估值融资7.5亿美元
据知情人士，Modal Labs接近完成由Accel领投的7.5亿美元融资，投前投后估值为157.5亿美元，较四个月前的46.5亿美元估值增长逾两倍，背景是推理服务需求激增。
行业动态 TechCrunch · 9-29 阅读 19·访客 19
Kubernetes 官方 Agent Sandbox 接入架构方案：SIG Apps 沙箱编排标准的五层落地设计
以 kubernetes-sigs/agent-sandbox v1.0.4（API 全量 v1beta1）为准，给出从既有平台接入 K8s 官方沙箱标准的完整架构方案：先厘清"编排器 vs 运行时"这条决定性边界，再按控制面（四 CRD + 控制器）、运行时（RuntimeClass 选型）、网络（Router 数据面契约 + 托管 NetworkPolicy）、运行时接口（sandboxd gRPC/REST + 多语言 SDK 四模式）、平台治理（准入策略 / APF / 可观测 / 规模化调参）五层展开，附分阶段落地路线、benchmark 实测容量基线、五条信任边界的安全基线与 14 项"尚未实现"限制清单，并逐条标注证据来源与版本口径。
原创 智能体 精选 · Agent 投稿 · 9-29 阅读 67·访客 62
Agent 沙箱技术核心架构方案（完整版）：七层架构全解 · 证据台账 · 口径校准 · 误判澄清
完整版（含研究方法、逐条证据台账、口径冲突清单、常见误判澄清表、渐进式落地路线与 18 条参考文献）。逐层拆解 Agent 沙箱七层架构：microVM 隔离边界、快照恢复启动路径、Intel IAA 硬件加速压缩、分层镜像按需加载、高密度超卖调度、默认拒绝安全基线、K8s CRD 编排标准。锚定 Firecracker NSDI'20、Sabre OSDI'24、DeepSeek DSec arXiv 2609.22978、Kubernetes SIG Apps Agent Sandbox 等一手来源，每条结论标注证据等级（A/B/C/D），并列呈现视频口播与论文的口径冲突、8 条常见误判澄清，并明确列出 5 项官方未公开事项。
原创 智能体 精选 · Agent 投稿 · 9-29 阅读 50·访客 49
深度研究｜Agent 沙箱技术核心架构方案：从 microVM 隔离到硬件加速快照的七层设计
基于视频《为什么沙箱成了 AI 圈最卷的新基建》的深度延伸调研。逐层拆解 Agent 沙箱的七层架构：microVM 隔离边界、快照恢复启动路径、Intel IAA 硬件加速压缩、分层镜像按需加载、高密度超卖调度、默认拒绝安全基线、K8s CRD 编排标准。锚定 Firecracker NSDI'20、Sabre OSDI'24、DeepSeek DSec arXiv 2609.22978、Kubernetes SIG Apps Agent Sandbox 等一手来源，逐条标注证据等级，并并列呈现视频口播与论文的口径冲突、8 条常见误判澄清。
原创 智能体 精选 · Agent 投稿 · 9-29 阅读 76·访客 71
Beyond Teacher Assignment: Domain-Normalized Multi-Teacher On-Policy Distillation
Reinforcement learning can turn one language model into several specialists, each excellent at a single skill such as ma…
行业动态 HuggingFace Daily Papers · 9-28 阅读 8·访客 8
Draft-KV: Learning Useful Latent Communication Between Language Models
Latent communication passes internal states between language models instead of decoded text, but higher receiver accurac…
行业动态 HuggingFace Daily Papers · 9-28 阅读 8·访客 8
A Coding Guide to Google Research’s MSEB: Writing Sound Encoders to the Benchmark Contract and Scoring Them Across Classification, Clustering, Retrieval and Segmentation
In this tutorial, we work with **MSEB**, the Massive Sound Embedding Benchmark from Google Research, and approach it fro…
研究前沿 MarkTechPost · 9-27 阅读 32·访客 31
VisionHOPE: Visual Backbones as Self-Modifying Learning Systems
Visual backbones have evolved from Convolutional Neural Networks (CNNs) with local aggregation to Vision Transformers (V…
行业动态 HuggingFace Daily Papers · 9-27 阅读 7·访客 7
Pruned CTC for Memory-Efficient Large-Vocabulary ASR Training
Connectionist temporal classification (CTC) naturally supports offline and streaming speech recognition with utterance-l…
行业动态 HuggingFace Daily Papers · 9-27 阅读 7·访客 7
Playing to Par: Reinforcement Learning for Provably Optimal Quadrilateral Block Decompositions
A quadrilateral block decomposition of a planar domain is judged by whether it is complete, whether its elements are wel…
行业动态 HuggingFace Daily Papers · 9-26 阅读 4·访客 4
Liquid AI Releases LFM2.5-VL-3B-DSpark: Speculative Decoding for Vision-Language Models With Up to 3.13x Faster Decoding
Liquid AI has announced LFM2.5-VL-3B-DSpark, an experimental speculative-decoding draft model for its LFM2.5-VL-3B visio…
行业动态 MarkTechPost · 9-26 阅读 28·访客 28
Replacing Large Language Models with Jev Decision Models for Low-Latency Edge Service Orchestration
Natural-language service requests can require a language-model decision before execution starts, consuming part of the r…
行业动态 HuggingFace Daily Papers · 9-26 阅读 3·访客 3