搜索:Switch

共命中 30 条(服务端检索)
MoE 深度解析:路由、负载均衡与 671B 只激活 37B 的代价
混合专家(MoE)让模型参数量与计算量解耦,但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线,拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节,并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。
大模型 精选 · 原创 · 今天 阅读 0·访客 0
California Governor Newsom signs executive order demanding "kill switch" for AI models
California Governor Gavin Newsom signed an executive order seeking independent auditors inside AI labs and a "kill switc…
行业动态 The Decoder · 9-19 阅读 27·访客 27
Transformer 架构全景:从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型,到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰,本文系统拆解基础 Transformer 的架构原理,梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线,并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 今天 阅读 1·访客 1
Transformer 架构全景:从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型,到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰,本文系统拆解基础 Transformer 的架构原理,梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线,并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 今天 阅读 3·访客 3
一篇读懂 MoE:大模型「大而不贵」的经济学
DeepSeek-V3 有 671B 参数,每个 token 却只动用 37B 的计算量——这不是营销话术,而是混合专家架构(MoE)把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起,拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计,也说清 MoE 的两个代价:省 FLOPs 但不省显存,以及「专家」并不按领域分工的反直觉事实。
一叶一世界 精选 · 原创 · 昨天 阅读 1·访客 1
A Developer’s Guide to Laya: Zero-Shot Decisions and Calibration
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 2天前 阅读 6·访客 6
Meet Together Link: A Free CLI That Runs Open Models Like Kimi K3 and GLM 5.3 Inside Claude Code, Codex, and OpenCode
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 3天前 阅读 1·访客 1
GPT-6 Astra vs GPT-6.1 Sol vs Gemini 4 Argon vs Claude Fable 5.1: Which Frontier Model Fits Which Job
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 4天前 阅读 68·访客 67
Cloudflare says its new Clef model means humans no longer need to be in the loop for AI agents
Oct 2, 2026 Key Points Cloudflare has released Clef and Clef-flash, two decision models for AI agents that compete direc…
智能体 The Decoder · 6天前 阅读 37·访客 37
Jev估值100亿美元!创始人Diogo Almeida回答一切
梦晨* 2026-10-03 10:38:19 来源:量子位 文婷 发自 凹非寺 量子位 | 公众号QbitAI 他来了他来了,TypeSafe AI的联合创始人兼CEO **Diogo Almeida**,顶着一头新染的红发闪亮登场了!…
研究前沿 量子位 · 6天前 阅读 22·访客 22
NVIDIA Announces DGX Spark 64GB: A 1-PetaFLOP Grace Blackwell Desktop for Local AI Agents, Fine-Tuning, and Inference
NVIDIA announced a new 64GB configuration of DGX Spark — from Acer, ASUS, Dell, Gigabyte, HP and MSI — its GB10-powered …
智能体 MarkTechPost · 6天前 阅读 36·访客 36
Microsoft AI Releases MAI-Transcribe-2-Streaming: #1 Real-Time Speech-to-Text Model on Artificial Analysis
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 6天前 阅读 7·访客 7
Perplexity Releases pplx-embed-v2-context-9b-preview: A Contextual Embedding Model That Retrieves Answers and Their Supporting Evidence
Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual embedding model for…
行业动态 MarkTechPost · 10-1 阅读 17·访客 17
OpenAI launches always-on Dots agents to rival Meta's Muse
Sep 29, 2026 OpenAI Key Points At its DevDay 2026 developer conference, OpenAI introduced "Dots," always-on AI agents th…
智能体 The Decoder · 9-30 阅读 39·访客 37
NVIDIA发布Open Agent Safety平台:OpenShell沙箱运行时配合BlueField-4上的Sentry带外监控,毫秒级隔离失控智能体
NVIDIA联合超过100家行业伙伴推出开放的AI智能体安全平台,核心理念是安全控制不应运行在被控制的智能体内部:OpenShell作为Apache 2.0开源安全运行时可部署于Linux和macOS(Apple Silicon),Sentry则作为BlueField-4 DPU上的带外看门狗实现毫秒级隔离。
行业动态 MarkTechPost · 9-29 阅读 47·访客 46
Who’s liable when AI agents go rogue?
MIT Technology Review ExplainsRead more MIT Technology Review Explains*: Let our writers untangle the complex, messy wor…
智能体 MIT Technology Review · 9-28 阅读 22·访客 22
The Download: rogue agent liability and the AI Hype Index
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
智能体 MIT Technology Review · 9-28 阅读 17·访客 17
AI is dominating the conversation at Climate Week
This week, world leaders descended on Manhattan for the UN General Assembly. It’s also New York Climate Week—investors, …
行业动态 MIT Technology Review · 9-24 阅读 12·访客 12
ChatGPT mobile app gets voice-based agentic features
OpenAI announced on Wednesday that it is bringing voice-based agentic features to mobile, allowing users to trigger work…
智能体 TechCrunch · 9-24 阅读 28·访客 28
SpeakON Ships a MagSafe AI Voice Button With Its Own Microphone
Voice input on phones has been solved for years. What has not been solved is the output. Speak into most dictation tools…
行业动态 MarkTechPost · 9-23 阅读 13·访客 13
奇瑞 iCAR V27 长续航版 9 月 30 日上市,现款 16.98 万元起
IT之家 9 月 20 日消息,据易车今日报道,iCAR V27 长续航版将于 9 月 30 日上市,除了续航里程的提升,新车还将在座舱舒适、智能体验方面进行全面升级。 IT之家注意到,奇瑞 iCAR 首款增程 SUV 车型 V27 于今年…
智能体 IT之家 · 9-20 阅读 23·访客 23
Anthropic merges Claude chat and Cowork in one interface
Anthropic is initially releasing these features to Pro and Max plan subscribers.]
大模型 TechCrunch · 9-17 阅读 34·访客 34
University of Manchester Uses NVIDIA Earth-2 to Forecast Air Pollution Across the UK
Air pollution is a serious public health risk, contributing to an estimated 30,000 deaths in the U.K. alone last year. D…
行业动态 NVIDIA Blog · 9-16 阅读 11·访客 11
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
System performance, efficient infrastructure scaling and continuous software optimization are key levers that determine …
行业动态 NVIDIA Blog · 9-16 阅读 14·访客 14
Meta Introduces ZGateway: A Stateless Proxy Tier That Unifies ZippyDB Traffic and Handles Over 1 Billion Operations Per Second
Meta engineering team introduced ZGateway, a proxy tier that now sits between client applications and ZippyDB, the Meta’…
行业动态 MarkTechPost · 9-15 阅读 12·访客 12
Building a Production Greek-English Speech Recognizer
We report a multi-month engineering program to build Sophea, a production bilingual Greek-English automatic speech recog…
行业动态 HuggingFace Daily Papers · 9-11 阅读 13·访客 13
英伟达数据中心 GPU 产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态 精选 · Proteus AI 深度研究 · 9-11 阅读 528·访客 367
"我宁愿失去 80% 的工作机会,也坚决不用 AI 编程":Kotlin 基石人物 Jake Wharton 争议访谈全解读
Android/Kotlin 生态基石人物 Jake Wharton(Retrofit、OkHttp 作者,Google Kotlin 团队第一位工程师)在 KotlinConf'26 访谈中公开表态:找工作的第一条标准就是"不碰 AI",直接排除约 80% 的雇主,且至今从未用 AI Agent 写过代码。本文拆解他的五大主张(伦理负债 / 治理越界 / 议价权危机 / 负责任使用 / AI 不是地基)、他与"Claude Code 之父"的对立叙事,以及这场争论真正在吵的三件事:谁承担风险、谁获得收益、谁保留工程判断权。
行业动态 精选 · 本站原创 · 9-11 阅读 85·访客 62
Vidu S2: Real-Time Interactive, Editable, and Spatial Video Generation
We present Vidu S2, which comprises Vidu S2-Avatar, a real-time interactive digital-character model, and Vidu S2-Editing…
行业动态 HuggingFace Daily Papers · 9-10 阅读 18·访客 18
早报|库克看到华为三星后,推动苹果加速研发折叠屏iPhone/小米中折叠「卖爆了」,首销增长310%​/《旅行青蛙・中国之旅》12月8日停运
· DeepSeek 内测 V4.1 Flash · 两部门要求车企定期报告供应商账期,重点企业每年接受评估 · 曝微信 PC 版接入 AI 助手「小微」,可操作聊天与小程序 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更…
大模型 爱范儿 · 9-9 阅读 21·访客 21