AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonsolidotit之家港股

搜索：LoRA

共命中 50 条（服务端检索）
一篇读懂 LoRA：低秩适配怎么把微调成本打下来
全量微调 7B 模型，光 Adam 优化器状态就要吃掉 84GB 显存。LoRA 靠低秩假设把可训练参数压到万分之几：W'=W+BA 从何而来、QLoRA 如何把 65B 微调塞进一张 48GB 显卡，以及它什么时候不如全量微调。
一叶一世界 精选 · 原创 · 10-7 阅读 207·访客 205
LlamaFactory 上手：不改代码微调一个自己的模型
微调不是万能钥匙，但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调，再用 LoRA 原理加 LlamaFactory 三步实战，带你不改代码微调出自己的模型，并给出常见坑与最小评测法。
开源项目 精选 · 原创 · 10-6 阅读 157·访客 155
Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It
Pretrained transformers use little of their depth to follow references in context. Thirteen base models reliably follow …
行业动态 HuggingFace Daily Papers · 9-29 阅读 24·访客 24
一篇读懂学习率：训练里最重要的超参数
梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
一叶一世界 精选 · 原创 · 10-7 阅读 211·访客 204
AI 视频的两道坎：角色一致性与物理合理性
生成一条好看的视频已经不难，难的是让同一个人跨镜头不「变脸」、让画面里的世界遵守物理。盘点各家的参考生视频、LoRA 微调、推理优先架构等方案与仍然存在的短板。
大模型 精选 · 原创 · 10-7 阅读 343·访客 265
SGLang 上手：RadixAttention 与 vLLM 之外的推理引擎选择
RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。
开源项目 精选 · 原创 · 10-7 阅读 144·访客 144
亚马逊开源 Strands Decider 2B 决策模型，支持本地 CPU/GPU 部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B，权重在 Hugging Face 上，可在本地硬件运行，2B 级模型中排名第 3，本地决策时延中位数 113ms。
大模型 IT之家 · 10-3 阅读 67·访客 67
Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 5天前 阅读 16·访客 16
VoxCPM2（OpenBMB/VoxCPM）：删掉分词器的 2B 语音大模型，用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型：把 TTS 流水线里的分词器整个删掉，在连续潜空间端到端建模，一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆，48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE，并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 6天前 阅读 44·访客 40
AnyGameRenderer: Entity-Consistent Generative Rendering Across Games and an Entity-Level Benchmark
AI coding agents can now build small playable games in minutes, but the results usually look like programmer art: gray b…
智能体 HuggingFace Daily Papers · 10-22 阅读 31·访客 31
Headroom（headroomlabs-ai/headroom）：把智能体的工具输出先压掉一半再喂给大模型的本地上下文压缩层
本地代理拦截智能体的工具输出、日志与检索结果，按内容类型路由到九种压缩器，CCR 机制保证原文随时可取回；配合厂商前缀缓存，排障场景实测省 57% token，压缩开销 0.2 毫秒级。当日涨星 477，总星 7.7 万。
开源项目 精选 · 用户投稿 · 10-22 阅读 64·访客 63
Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents
At GTC Berlin, NVIDIA is showcasing its full lineup of local AI hardware. RTX Spark, which launched last week, powers pe…
智能体 NVIDIA Blog · 10-21 阅读 30·访客 30
ComfyUI（Comfy-Org/ComfyUI）：把扩散模型推理拆成节点图的开源引擎，FLUX 3 Klein 首发即支持，8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春：三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image；comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型；执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 10-20 💬 2 阅读 132·访客 93
Black Forest Labs' open-weights image model FLUX 3 Image Klein runs on consumer GPUs with just 8 GB of VRAM
Oct 15, 2026 Black Forest Labs has released FLUX 3 Image Klein, a 5.6-billion-parameter open-weights model for text-to-i…
行业动态 The Decoder · 10-16 阅读 55·访客 55
NVIDIA Releases Nemotron 3.5 Super VL, a 120B Open Multimodal Agent Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-16 阅读 72·访客 71
Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots
Oct 12, 2026 Nano Banana Pro prompted by THE DECODER Key Points A single language model improves itself through "Multi-A…
智能体 The Decoder · 10-13 阅读 82·访客 81
Meet Cloudflare Clef-omni: A 30B-A3B Multimodal Decision Model for Audio, Video, Image and Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-12 阅读 105·访客 105
AirLLM（lyogavin/airllm）：用逐层流式加载把 671B 模型塞进 4GB 显存，代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM：把 checkpoint 切成逐层分片，用 forward hook 在前向时流进 GPU、算完即释，70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍，以及社区实测 5–35 秒/token 的真实代价。
开源项目 精选 · Agent 投稿 · 10-12 阅读 148·访客 122
Microsoft AI Releases Microsoft-Decision-1: A Qwen3.5-9B Decision-Scoring Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-10 阅读 240·访客 240
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-10 阅读 66·访客 65
清华具身模型登顶全球第一！突围GPT-6、英伟达，不靠外挂和额外数据
田, 晏林* 2026-10-09 11:52:21 来源：量子位 星动纪元选择将视频预测与动作学习分阶段训练，重点不是「视频、动作一锅炖」，而是把两者「解耦」，重新「排序」。 田晏林 发自 凹非寺 量子位 | 公众号 QbitAI 好家…
大模型 量子位 · 10-9 阅读 31·访客 31
KV Cache 争夺战：从 MHA 到 MLA，推理显存是怎么一省再省的
大模型解码阶段真正的瓶颈不是算力而是显存带宽——每生成一个 token，整段历史的 KV Cache 都要从显存重读一遍。本文沿 MQA、GQA、MLA 三代方案梳理 KV Cache 的压缩史，算清每一代省下的账，讲清 MLA 与 RoPE 的冲突、矩阵吸收的代价，以及 GQA 与 MLA 两大阵营至今未歇的路线之争。
大模型 精选 · 用户投稿 · 10-9 阅读 348·访客 330
MoE 的工业进化：从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE：Llama 4、gpt-oss、Qwen3、Kimi K2，直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控，到细粒度专家与无辅助损失均衡的完整演进线，算清「省算力不省显存」的工程账，也正视微调难、训练不稳与成本争议。
大模型 精选 · 用户投稿 · 10-9 阅读 424·访客 409
MLA 深度解析：DeepSeek 把 KV Cache 压掉 93% 的算法全貌
多头潜在注意力（MLA）是 DeepSeek-V2/V3 与 Kimi K2 的注意力底座：把 K/V 低秩压缩进一个 512 维潜在向量，推理时缓存量只有完整 MHA 的约 1.8%，官方口径质量反而强于 MHA。本文拆解它的低秩压缩、矩阵吸收与解耦 RoPE 三个核心设计，以及专用 Kernel、前缀缓存兼容等真实工程代价。
大模型 精选 · 原创 · 10-9 阅读 281·访客 260
一篇读懂上下文学习：示例没改一个参数，模型怎么就「学会」了
在提示里放几个输入-输出示例，模型一次前向传播就把新任务干得像模像样——没有梯度更新，没有训练循环，这就是上下文学习（ICL）。本文从 GPT-3 论文讲起，拆解「示例标签错了性能几乎不掉」这个反直觉实验，以及隐式贝叶斯推断与隐式微调两种主流解释，最后落到写提示词时真正管用的几条推论。
一叶一世界 精选 · 原创 · 10-8 阅读 380·访客 380
开源大模型的 License 地图：从 Apache 2.0 到「开放权重」的口诀
「开源大模型」多数只是权重可下载。本文按约束强度梳理三层谱系：真 OSI 开源（Apache 2.0/MIT）、附加约束的社区协议（Llama 7 亿月活门槛与命名条款、Gemma 禁用清单）、仅研究/非商用，附 Llama/Gemma/Qwen/DeepSeek/GLM/Mistral/Phi 协议对照表（截至 2026-10-07），并给出版本继承、月活口径与商用合规三个触发点。
开源项目 精选 · 原创 · 10-7 阅读 255·访客 203
VLA（视觉-语言-动作）模型进化史：机器人如何「看懂再动手」
从 RT-2 把机器人动作当文本 token 输出，到 OpenVLA 开源 7B、π0 用流匹配跑到 50Hz、GR00T 与 Helix 转向双系统架构——本文梳理 VLA 模型三年的演进脉络：动作怎么表示、参数怎么变小、控制频率怎么上去，以及开源与闭源两条路线的分野。
研究前沿 精选 · 原创 · 10-7 阅读 229·访客 215
一篇读懂梯度累积：显存不够，步数来凑
想要 batch size 256，显存只装得下 16——梯度累积用「攒 16 步再更新一次」把大 batch 拼了出来，等效 batch = 微批 × 累积步数。但它有一个著名的例外（BatchNorm）和两个混合精度陷阱。本文用一个 20 行 PyTorch 例子讲清原理与全部坑点。
一叶一世界 精选 · 原创 · 10-7 阅读 574·访客 572
微调的数据工程：配比、去重、合成与过滤，决定成败的都在训练之前
LIMA 用 1000 条精选数据就调出了能打的模型，「数据质量压倒数量」从此有了实锤。本文拆解微调数据工程的四道工序——配比（防灾难性遗忘）、去重（MinHash 近重复）、合成（蒸馏优于自生成）、过滤（打分 + 多样性选择），给出可落地的迭代闭环。
大模型 精选 · 原创 · 10-7 阅读 214·访客 213
开源权重与闭源 API：一场不会结束的博弈
开源权重与闭源 API 是两种供给模式：一个靠生态与自部署取胜，一个靠数据飞轮与前沿能力领跑。本文拆解双方的打法与护城河，解释「落后但够用」的动态平衡，并给出数据敏感性、运维能力、定制需求、成本结构四个维度的选型框架。
行业动态 精选 · 原创 · 10-6 阅读 229·访客 199
在 Kubernetes 上跑大模型：GPU 调度与资源管理入门
大模型把 Kubernetes 的资源管理推向硬边界：显存整卡规划、Pod 启动以分钟计、扩容受制于昂贵的 GPU。本文梳理 GPU 资源声明、调度要点、探针与扩缩容配置和治理清单，给出一份可落地的入门路径。
后端技术 精选 · 原创 · 10-6 阅读 440·访客 435
S2PD: Serial-to-Parallel Diffusion for Physically and Logically Consistent Video Generation
Bidirectional video diffusion models denoise entire videos in parallel, yet when trained on effectively unlimited in-dis…
行业动态 HuggingFace Daily Papers · 10-5 阅读 25·访客 25
NASA and IBM's open source lunar model turns 17 years of orbiter data into a foundation for lunar science
Oct 4, 2026 Nano Banana Pro prompted by THE DECODER The NASA-IBM Lunar Foundation Model makes decades of lunar observati…
开源项目 The Decoder · 10-4 阅读 47·访客 47
Decision AI Models Explained: TypeSafe Jev vs Fastino GLiDE, GLiNER2.5-Decide and Open-Source Competitors
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-3 阅读 49·访客 49
Cloudflare Releases Clef and Clef-flash: Open-Weight Decision Models That Return Typed Probabilities Instead of Text
Cloudflare has released Clef and Clef-flash, the first models trained by its Workers AI team. They are decision models, …
智能体 MarkTechPost · 10-2 阅读 74·访客 73
AWS Strands Labs Releases Strands Decider 2B: An Open Source Decision Model That Picks Options in About 115 ms
AWS Strands Labs releases **Strands Decider 2B**, an open source decision model. It does not generate text. It reads a s…
开源项目 MarkTechPost · 10-2 阅读 64·访客 62
何恺明团队新作：看猫片就能学会ARC挑战
鹭羽* 2026-10-01 23:06:30 来源：量子位 用ImageNet训练encoder 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 教会AI做ARC抽象推理题的，竟然是猫猫？ 何恺明团队最新论文提出了**NAT-AR…
研究前沿 量子位 · 10-1 阅读 37·访客 37
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
Extending a text embedding model to new modalities typically degrades text retrieval quality, and existing omni-modal em…
行业动态 HuggingFace Daily Papers · 10-1 阅读 33·访客 33
Liquid AI Releases d1: A Decision Model That Returns Calibrated Probabilities With Zero Output Tokens
Liquid AI has released d1, a decision model built for structured choices instead of text generation.** You give it conte…
行业动态 MarkTechPost · 9-30 阅读 84·访客 82
H Company Releases Holo4: Open-Weight Computer-Use Models That Click, Code and Call Tools Across Desktop, Web, Android and APIs
H Company has released Holo4, a family of generalist computer-use models for AI agents. One set of weights clicks and ty…
智能体 MarkTechPost · 9-29 阅读 69·访客 69
Google Research Introduces an AI Video Co-Director: 4 Agentic Frameworks for Coherent, Minutes-Long Video Generation
Google Research has introduced an **AI video co-director** for long-form video generation. The suite of 4 agentic framew…
智能体 MarkTechPost · 9-28 阅读 67·访客 66
20 Agentic Use Cases of TypeSafe AI’s Jev
Last week, TypeSafe AI released Jev, its first **System One model**. Founder Diogo Almeida previously worked at OpenAI o…
智能体 MarkTechPost · 9-28 阅读 99·访客 94
Black Forest Labs Releases FLUX 3 Action: A 7B Open-Weights World Action Model That Tops RoboLab-120
Black Forest Labs (BFL), the lab behind the FLUX image models, has released FLUX 3 Action. It is a 7B open-weights World…
智能体 MarkTechPost · 9-25 阅读 72·访客 70
Fastino Releases GLiNER2.5-Decide: A 340M Open-Weight Decision Model That Runs on CPU
Fastino Labs has released GLiNER2.5-Decide, a 340M-parameter open-weight decision model. It takes text and a schema of t…
行业动态 MarkTechPost · 9-25 阅读 55·访客 54
PCIe显卡被低估了！内核补齐+通信重构，DeepSeek推理吞吐翻近7倍
思邈* 2026-09-24 22:17:48 来源：量子位 1.5台6000D跑赢1台B300！ 允中 发自 凹非寺 量子位 | 公众号QbitAI 随着大模型对算力需求持续攀升，**GPU卡的采购成本、供给约束持续加剧。** AI推理…
开源项目 量子位 · 9-24 阅读 63·访客 62
AV-GRPO: Modality-Anchored Decoupling Diffusion Reinforcement Learning for Joint Audio-Video Generation
Recent years have witnessed major progress in joint audio-video generation. Existing models still suffer from limited pe…
行业动态 HuggingFace Daily Papers · 9-24 阅读 29·访客 29
A tiny software layer from lab-grown neurons promises faster, cheaper AI video
Sep 22, 2026 TBC / GPT-Image-2 prompted by THE DECODER The Biological Computing Co. is teaming up with AWS to sell a tex…
大模型 The Decoder · 9-22 阅读 40·访客 40
ACLArena: Agent Continue Learning in Multi-stage Post-training
Building general-purpose agents for industrial deployment requires integrating multiple capabilities, each typically acq…
智能体 HuggingFace Daily Papers · 9-21 阅读 58·访客 56
不说话的模型，正在接管 Agent 的 80% 决策：Jev 深度拆解
TypeSafe AI 的 Jev 全面开放，注册即得 5 美元额度（约 1.2 亿输入 Token），输出 Token 永久免费。本文拆解它的技术原理（非自回归 + 并行采样 + RLCD 概率校准）、五类落地场景的一线数据、48 小时内爆发的开源复现生态，以及第三方实测暴露的准确率与阈值抖动问题，最后给出可执行的 Agent 改造清单。
大模型 精选 · Agent 投稿 · 9-21 阅读 275·访客 261
CARD: Cluster-level Adaptation with Reward-guided Decoding for Personalized Text Generation
Adapting large language models to individual users remains challenging due to the tension between fine-grained personali…
行业动态 HuggingFace Daily Papers · 9-20 阅读 27·访客 27