大模型 - AI 资讯 - 智码视界

agent anthropic openai huggingface daily papers ai安全 gpu jake wharton solidot it之家港股

资讯栏目 · CHANNEL

大模型

追踪大模型前沿：新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 383 篇 · 持续更新

父子检索：小块负责找得准，大块负责答得全

向量检索的粒度是个两难：块太小匹配得准但上下文残缺，块太大上下文完整但语义被稀释。父子检索（small-to-big）用「小块检索、大块生成」把两个诉求拆开——索引里存的是子块，命中后回父块。本文讲清它的原理、三种常见形态、最小实现与工程取舍。

阅读 5·访客 5

增量更新与模型迁移：RAG 索引的一致性工程

文档改了一段、换个 embedding 模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里：漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势：文档增删改要级联，模型迁移要全量重建加双索引灰度，参数变更等于重建，并给出成本估算方法。

阅读 6·访客 6

向量压缩：PQ、量化与二值嵌入，把内存账砍下来

一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来，向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线：标量量化降精度、PQ 降基数、二值化极限压缩，各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。

阅读 5·访客 5

权限感知检索：别让 RAG 绕过你的权限系统

应用层的权限校验管不住 RAG——检索是直接对索引执行的，「谁能看到哪些文档」必须做进检索层。本文讲清多租户 RAG 的权限方案谱系：post-filter 的配额陷阱、引擎级 pre-filter、按租户分区，ACL 同步的时效问题，以及「默认拒绝」的架构原则。

阅读 5·访客 5

置顶文章 · 大模型

多轮对话 RAG：把「那它呢」翻译成能检索的问题

用户第二轮问「那它支持导出吗」——这三个字没法直接检索。多轮对话 RAG 的核心动作是 condense：用对话历史把带指代、带省略的追问改写成独立完整的问题再去检索。本文讲清指代消解与历史压缩的做法、改写偏移的坑、以及「检索结果也要进历史」这个常被忽略的细节。

来源：原创2026-11-02阅读 5·访客 5

阅读全文 →

全部文章

ARCHIVE 共 383 条

蚂蚁百灵开源 Ling-3.1-flash 模型：总参数约 560B，最高支持 1M 上下文

蚂蚁百灵宣布开源总参数约 560B、每 Token 激活约 25B 的 Ling-3.1-flash 模型，最高支持 1M 上下文，并介绍了 MXFP4 量化、长上下文并行推理、投机解码等部署优化方案。

大模型 IT之家 · 10-16 阅读 56·访客 56

The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems

Split language models keep input text on a client but send intermediate representations to a server. Attacks can reconst…

大模型 HuggingFace Daily Papers · 10-15 阅读 13·访客 13

阶跃星辰开源 Step 5 Preview 权重，华为昇腾、沐曦、壁仞等首发支持

阶跃星辰开放 Step 5 Preview 模型权重（BF16/FP8 双版本），华为昇腾、壁仞、沐曦、摩尔线程宣布 0Day 支持，1024 卡 Atlas 950 SuperPoD 液冷超节点同步上线点亮。

大模型 IT之家 · 10-15 阅读 92·访客 73

英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL：单 GPU 智能体任务吞吐量最高提升 5 倍

英伟达推出采用 MoE 架构（总参数 1200 亿、激活 120 亿）的开放多模态模型 Nemotron 3.5 Super VL，整合推理、工具调用与文本、图像、文档、视频理解能力，称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍，并公布多个企业定制案例与基准评测成绩。

大模型 IT之家 · 10-15 阅读 76·访客 76

Anthropic 弃用 Git，自研版本控制系统 Scion 服务端管理源码

因代码合并量从日均 2500 次增至超 3 万次，Anthropic 弃用 Git 改用自研的 Scion 版本控制系统，将提交、合并、变基等操作移至服务器端执行，宣称 CPU 与内存消耗仅为 Git 的两百分之一，并需配套定制代码审查、搜索与 CI 工具。

大模型 IT之家 · 10-15 阅读 43·访客 43

Google’s Universal Cart shopping tool launches in the US

Google on Thursday said “Universal Cart,” a tool that lets users collect and monitor products they find across search an…

大模型 TechCrunch · 10-15 阅读 43·访客 43

Google Releases Gemini 4 Argon API With 1M Token Output Limit

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

大模型 MarkTechPost · 10-14 阅读 36·访客 36

9 Best AI Gateways in 2026: Bifrost, Portkey, LiteLLM, Kong and 5 More Ranked

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

大模型 MarkTechPost · 10-14 阅读 31·访客 31

首个政务大模型国家标准发布，金山办公参与编制

首个政务大模型国家标准正式发布，为政务大模型系统建设与应用提供国家层面规范，金山办公参与编制。

大模型新浪科技 · 10-14 阅读 38·访客 38

Anthropic's Claude AI submitted false murder tip to Philadelphia police

An Anthropic AI model submitted a false tip about an unsolved murder to Philadelphia police, the company and police depa…

大模型 Ars Technica · 10-13 阅读 44·访客 44

What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

大模型 MarkTechPost · 10-12 阅读 76·访客 76

小鹏今年底实现人形机器人量产，2027 年上半年开启交付

IT之家 10 月 12 日消息，小鹏汽车今日亮相巴黎车展，除了推出小鹏 G9L 车型，小鹏还公布了自动驾驶、人形机器人等消息。在人形机器人领域，近期，小鹏机器人生产线正式启用，全球首位高阶通用人形机器人完成自动化总装，自主走下产线亮相，…

大模型 IT之家 · 10-12 阅读 38·访客 38