「北京」和「首都」没有一个字相同，计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量，让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起，拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习，并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。

看榜单选 embedding 模型经常翻车，因为榜单是通用语料，你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表，五十条真实问题即可完成一次有依据的决策。

语义检索的第一步是把文本变成可比较的向量。本文从 one-hot 的困境讲到稠密向量的语义几何，手算一个余弦相似度的小例子，再用十几行代码演示从 encode 到 top-k 的完整流程，最后点出语义匹配最常见的两个坑。

Cohere has released Embed 5, a new embedding model family. It targets enterprise search, RAG, and agentic retrieval. The…

A trainable input embedding table assigns each vocabulary item an independently adjustable vector. We investigate whethe…

Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual embedding model for…

In this report, we introduce Ovis-Embedding, a state-of-the-art omni-modal embedding family built on native integration …

Linkup Research has released SPARSEUP, an open-source sparse embedding model built on a 149M-parameter ModernBERT backbo…

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

Oct 6, 2026 Google released EmbeddingGemma 2,** an open model that converts text, images, video, audio, and code into nu…

We present Multimodal Flow, a fully continuous generative model of language and vision. Most unified multimodal models e…

The rapid progress of artificial intelligence is reshaping robotics and accelerating the adoption of learning-based appr…

Expanding the vocabulary of conditional text-to-speech (TTS) models typically requires extensive fine-tuning with paired…

RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起，拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数，分析召回率、内存、延迟的三角权衡，给出按数据量分层的务实选型决策。

Extending a text embedding model to new modalities typically degrades text retrieval quality, and existing omni-modal em…

In this tutorial, we work with **MSEB**, the Massive Sound Embedding Benchmark from Google Research, and approach it fro…

We introduce Adaptive LeWorldModel (ALeWM), a world model based on a joint-embedding predictive architecture (JEPA) that…

We present ENEAS, a unified, text-promptable method for instance tracking and semantic discovery. Text-promptable segmen…

一次 RAG 请求到底花多少钱？查询向量化几乎免费，检索只要几厘，生成环节却吃掉九成账单。本文把成本拆成一次性入库与每次请求两栏，给出各环节的量级估算方法与七个省钱杠杆，以及一条先砍生成、再调检索的平衡框架，帮你把预算花在真正影响账单的地方。

窗口从 8K 涨到千万级，「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口，长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工：小库精读交给长窗口，大库「找得到、读得起」仍靠检索。

港大数据智能实验室出品，上线十个月拿下四万五千星：一条单循环 agent 流水线跑全部十种学习模式，L1/L2/L3 三层记忆全部落盘可审计，九种 RAG 引擎可评测可切换，自带十五路 IM 渠道与 EduHub 技能市场。

290,802 星的 agent harness 操作系统 2.2.3 线新增面拆解：GateGuard 在首次编辑前拒绝并要求交出具体事实（官方 A/B +2.25 分、代价约 45% 轮次），四档 harness 保真度矩阵自陈「不支持」，Memory Vault 三作用域只创建、unreviewed、拒密钥、不跟符号链接。并如实并排展示它自己公布的 72 场试点「只测到成本、没测到效果」。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

十年来 AdamW 是大模型训练不容置疑的默认优化器，直到 Kimi K2 用它跑起万亿参数训练。本文从梯度下降的几何直觉讲起，拆解 AdamW 为什么统治了十年、Muon 的正交化更新为什么只需约 52% 的训练算力就能追平 AdamW，以及这轮换血里真正的工程细节与边界。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

Agents are only as useful as what they know, and only as trustworthy as the boundaries they run within. Leading enterpri…

NVIDIA is expanding its family of open models across language, robotics, biology, and quantum computing, giving develope…

Founded in a tent near the Berlin Wall in 1980, the Tempodrom moved several times before settling near Anhalter Bahnhof …

当日涨星 906 的知识图谱项目：代码用本地 tree-sitter AST 零 LLM 额度建图，文档/图片才走语义趟；52 文件混合语料单次查询 token 降 71.5 倍，LOCOMO recall@10 0.497，每条边带 EXTRACTED/INFERRED/AMBIGUOUS 置信标签。

当日涨星 666 的 Rust 项目：把编码智能体的长期记忆做成 git 版 Markdown wiki（源真相）+ SQLite 派生索引，默认零 LLM 调用，LongMemEval-S 470 题 zero-LLM hit@5 达 0.951，20+ 智能体共享记忆与 claim-once 交接。

Improving every agent in an LLM-based multi-agent system can be prohibitively costly, making it important to identify wh…

Anthropic is giving employee-level access to six researchers from METR, a nonprofit that tests frontier AI models, to in…

Expense management company Ramp said on Thursday that it had raised $1.85 billion in a new funding round that values it …

Oct 14, 2026 Nano Banana Pro prompted by THE DECODER Researchers have, likely for the first time, tracked down a "rogue …

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

现代大模型的百万上下文，几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线，核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法，并对照 RULER/NoLiMa 的实测数字：宣称窗口与有效窗口的差距有多大。

从 Attention Is All You Need 的 encoder-decoder 原型，到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰，本文系统拆解基础 Transformer 的架构原理，梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线，并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。

九年过去，Transformer 的骨架纹丝未动，外围部件却几乎换了一遍：归一化从 Post-LN 走到 QK-Norm，位置编码从正弦函数走到 RoPE 与 NoPE 混布，注意力从 MHA 走到 GQA 与 MLA。本文以 12 家旗舰模型的官方配置为据梳理这条演进主线，并回答一个问题——模型之间的差距，还剩多少在架构里？

论文提出将退化图像的嵌入映射回由高分辨率自然图像形成的流形上来实现真实世界超分辨率，并主张像素空间或重建导向的潜空间不是合适的基底，而应使用冻结的视觉基础模型潜空间。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

DeepSeek-V3 有 671B 参数，每个 token 却只动用 37B 的计算量——这不是营销话术，而是混合专家架构（MoE）把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起，拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计，也说清 MoE 的两个代价：省 FLOPs 但不省显存，以及「专家」并不按领域分工的反直觉事实。

提出基于JEPA的机器人世界模型RoboJEPA，在覆盖12种机器人本体的数据集上训练，发现其想象误差随算力呈二阶幂律，可预测模型质量与下游规划性能的扩展规律。

该论文提出在无重建、无解码器、无标签的条件下，基于“结构多样性”条件和LeJEPA的线性可识别性，可证明地恢复个体的世界潜变量，弥补JEPA等方法只能识别到线性变换的不足。

Ollama 负责本地推理，Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程：官方命令、RAG 默认参数、OpenAI 兼容 API 的正确开关（v0.11 已改名），以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。

RAG 要向量检索，不必急着引入专用库，pgvector 让 PostgreSQL 直接扛起来。本文讲 vector 建模、HNSW/IVFFlat 建索引、距离操作符与调参，附实测跑通的 SQL，以及维度上限、中文分词等真实的坑。

从自注意力不识顺序的痛点讲起，用二维复数把旋转位置编码的推导一次讲透：内积为何只依赖 m−n、高维频率如何分配，配一份本地跑通的 numpy 最小实现与整体平移不变性实验，再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。

LayerNorm 把统计量搬回单样本，RMSNorm 再省掉中心化，换来 7%~64% 的归一化提速；而归一化挂在残差内侧还是外侧，决定梯度随深度指数衰减还是多项式失衡。本文推导公式，并用可运行的 numpy 演示把这笔训练稳定性账算给你看。

零样本语音克隆只需约 6 秒参考音频：说话人编码器把音色压成一个向量，再去条件化 TTS 生成——XTTS 一条路是「嵌入式克隆」，OpenVoice 一条路是「合成后换色」。本文拆解两条技术路线的原理、效果边界，以及这道技术必须面对的滥用与合规问题。

用不到百行纯标准库 Python 手撕 BPE 分词器：训练学合并表与编码贪心重放两个阶段拆开讲，小语料实测编码—解码往返一致，再用反例展示预分词正则为什么必不可少，最后对照 GPT-2 与 cl100k 的字节级 BPE、special token 与数字切分。