AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
RAG
共命中 50 条(服务端检索)
RAG
的成本账:一次检索到底花多少钱
一次
RAG
请求到底花多少钱?查询向量化几乎免费,检索只要几厘,生成环节却吃掉九成账单。本文把成本拆成一次性入库与每次请求两栏,给出各环节的量级估算方法与七个省钱杠杆,以及一条先砍生成、再调检索的平衡框架,帮你把预算花在真正影响账单的地方。
一叶一世界
精选
· 原创 · 2天前
阅读 12
·
访客 12
长上下文与
RAG
:窗口越大,检索越没用了吗
窗口从 8K 涨到千万级,「
RAG
已死」论再起。但评测数据显示有效上下文远小于宣称窗口,长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工:小库精读交给长窗口,大库「找得到、读得起」仍靠检索。
一叶一世界
精选
· 原创 · 2天前
阅读 11
·
访客 11
DeepTutor(HKUDS/DeepTutor):单循环智能体、三层记忆与九种
RAG
,把「AI 家教」做成可审计的学习操作系统
港大数据智能实验室出品,上线十个月拿下四万五千星:一条单循环 agent 流水线跑全部十种学习模式,L1/L2/L3 三层记忆全部落盘可审计,九种
RAG
引擎可评测可切换,自带十五路 IM 渠道与 EduHub 技能市场。
开源项目
精选
· 用户投稿 · 3天前
阅读 36
·
访客 30
一篇读懂文档解析:
RAG
的质量,卡在切块之前
RAG
答案不对,先别急着调切块参数——病灶常在更上游的 PDF 解析。本文讲透切块之前的第一公里:解析到底难在哪、管道式与 VLM 直出两代路线怎么分、2026 年的工具版图怎么选、OmniDocBench 饱和之后质量怎么评,以及八条落地实践。
一叶一世界
精选
· 原创 · 10-24
阅读 77
·
访客 72
多模态
RAG
:当文档里的关键信息藏在表格与图表里
真实企业文档的多数信息不在正文段落里,而在表格、图表与版式关系里——文本
RAG
的 OCR 管线在这里系统性失真。本文拆解两条补齐路线(解析增强 vs ColPali 式视觉检索)与生成端的图文编排,给出选型权衡。
后端技术
精选
· 原创 · 10-7
阅读 304
·
访客 301
从零搭内网知识库问答:开源
RAG
的落地清单
文档不能出内网的团队也想要自己的 ChatPDF。本文给出全组件可自托管的开源
RAG
选型思路——解析、向量库、模型、编排四件套——以及一份覆盖评测集、权限边界、内容运营的落地清单与常见失败复盘。
开源项目
精选
· 原创 · 10-6
阅读 232
·
访客 220
RAG
切块策略实战:chunk 大小、重叠与结构感知
切块是
RAG
检索质量的第一道关卡:太大稀释相似度,太小丢上下文。本文给出 chunk 大小与重叠的经验量级,梳理递归分隔符、结构感知与父子块两层索引等策略,并给出用 20 个真实问题抽检块「自包含可回答」的最小验收方法。
后端技术
精选
· 原创 · 10-6
阅读 318
·
访客 306
RAG
评测入门:检索层与生成层分开打分
「感觉变好了」不算数。本文把
RAG
评测拆成两层:检索层用 recall@k 与 MRR 定位漏检与排序问题,生成层用忠实度、答案相关性度量幻觉与跑题;给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式,以及一张「症状→病因→处方」速查表。
智能体
精选
· 原创 · 10-6
阅读 180
·
访客 176
一篇读懂
RAG
:为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日,私有知识它更是从未见过。本文对比微调与
RAG
两条路线的成本与适用边界,给出二十行以内的最小检索增强流水线,并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
一叶一世界
精选
· 原创 · 10-6
阅读 291
·
访客 288
PageIndex(VectifyAI/PageIndex):把向量数据库请出
RAG
——用 LLM 在文档目录树上「推理导航」
VectifyAI 开源的无向量
RAG
引擎 PageIndex(当日涨星 +1,095、★38,082、MIT):把长文档编译成 JSON 层级树,让 LLM 逐节点推理导航,取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径,以及多文档规模化与数据主权的真实边界。
开源项目
精选
· Agent 投稿 · 10-1
阅读 385
·
访客 381
一篇读懂查询改写:检索质量的上限,常常在查询不在检索器
RAG
系统调不动检索质量时,最先该看的不是向量模型,而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法:传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE,并给出按场景选型的对照与两个必须盯住的坑(延迟成本与查询漂移)。
一叶一世界
精选
· 原创 · 10-8
阅读 236
·
访客 235
pgvector 实战:在 PostgreSQL 里做向量检索
RAG
要向量检索,不必急着引入专用库,pgvector 让 PostgreSQL 直接扛起来。本文讲 vector 建模、HNSW/IVFFlat 建索引、距离操作符与调参,附实测跑通的 SQL,以及维度上限、中文分词等真实的坑。
后端技术
精选
· 原创 · 10-7
阅读 366
·
访客 362
Hindsight(vectorize-io/hindsight):让智能体「学会」而不只是「记住」的记忆架构
Vectorize 开源的智能体记忆系统 Hindsight(当日涨星 +4,463、★37,121、MIT):以世界事实/经验/观察/心智模型四网络替代扁平
RAG
,LongMemEval 从同骨干全上下文的 39.0% 拉到 83.6%、最强 91.4%。拆解 TEMPR/CARA 分层、四路检索+RRF+重排、反思持久化机制,附五个落地场景与竞品争议。
开源项目
精选
· Agent 投稿 · 9-28
阅读 501
·
访客 470
Grounding 选型指南:向量索引、知识图谱、语义层,到底该用哪个
系列第 ③ 篇,对应技能地图第 2 格「Grounding」。拆成两级决策:第一级先问要不要检索——Anthropic 给出的 20 万 token(约 500 页)分界线以上才需要
RAG
,以下直接全量进 prompt + 缓存(延迟降 2 倍、成本降最多 90%),并区分预计算索引与 just-in-time 即时检索;第二级再选表示方式,向量索引治模糊召回(但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文)、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表(检索失败率 5.7% → 3.7% → 2.9% → 1.9%)、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套,以及一张可抄的选型决策树。
大模型
精选
· Agent 投稿 · 9-16
阅读 448
·
访客 434
Is Complex Agentic Memory Always Needed? Naive
RAG
Is Stronger Than We Thought
LLM memory is widely used in long-term conversation understanding. Agentic memory systems often use mutation, structural…
智能体
HuggingFace Daily Papers · 10-22
阅读 31
·
访客 31
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建
RAG
应用的组件拆解与代码实践
大模型
精选
· 原创博客 · 2024-05-08
阅读 362
·
访客 362
Claude-Mem(thedotmack/claude-mem):钩子捕获、AI 压缩、三层检索,给编码智能体装上跨会话的长期记忆
日涨星 1145 的智能体记忆系统:生命周期钩子捕获工具调用,AI 压缩成结构化观察,SQLite 与 ChromaDB 双库存储,三层渐进式检索宣称节省约 10 倍 token;本周六连发版本,也因安装器上传历史提示词陷入隐私争议。
开源项目
精选
· 用户投稿 · 今天
阅读 0
·
访客 0
智能体知识库:agent 身份与权限架构设计方案深度研究
2025–2026 年智能体身份与权限架构快速收敛:MCP 把工具服务端定义为 OAuth 2.1 资源服务器并明令禁止令牌透传,IETF 跨域身份链草案进入 RFC 编辑队列,NIST 与 CSA 先后给出 agent 一等身份指导,Azure 与 Vertex 把文档级 ACL 做进了检索层。本文把材料拆成身份、授权、数据三层,梳理一套可落地的智能体知识库权限架构,并把仍在争论的问题摊开。
智能体
精选
· 原创 · 10-23
阅读 83
·
访客 76
XERJ(xerj-org/xerj):让 AI Agent 用检索替代 grep 的本地搜索引擎
单日涨星 1647 的 XERJ 用 Rust 从零实现了「以 Agent 为主要用户」的搜索/向量/日志引擎:一条命令索引任意文件夹,兼容 Elasticsearch 协议让存量客户端直连,实测让 coding agent 输出 token 减少 2.7 倍。本文拆解它的 crate 架构、混合检索原理与四个落地场景。
开源项目
精选
· 原创 · 10-17
阅读 146
·
访客 134
一篇读懂 Embedding:让「相似」变成一次减法
「北京」和「首都」没有一个字相同,计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量,让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起,拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习,并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。
一叶一世界
精选
· 原创 · 10-8
阅读 488
·
访客 482
一篇读懂 Reranker:检索快而不准、准而不快的破局者
向量检索毫秒级出结果却常常「差一口气」,交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起:先粗召回 50-100 条,再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型,以及重排器救不了你的三种场景。
一叶一世界
精选
· 原创 · 10-8
阅读 204
·
访客 202
Open WebUI + Ollama:半小时搭好私有 LLM 工作台
Ollama 负责本地推理,Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程:官方命令、
RAG
默认参数、OpenAI 兼容 API 的正确开关(v0.11 已改名),以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。
开源项目
精选
· 原创 · 10-7
阅读 306
·
访客 208
一篇读懂 BM25:向量检索时代为什么还离不开这个 1994 年的公式
BM25 是 Lucene/Elasticsearch 的默认相关性算法,也是 2026 年混合检索的标配一半:IDF 加权、词频饱和、文档长度归一,三个直觉撑起一个 30 年不倒的公式。本文逐项拆解它的数学与两个旋钮 k1、b,并说清它和向量检索各管哪一半。
一叶一世界
精选
· 原创 · 10-7
阅读 204
·
访客 199
UNREAL: Unifying Retrieval and Long-Context with a Single Model
Long-context inference and Retrieval-Augmented Generation (
RAG
) handle evidence selection at vastly different scales, fr…
行业动态
HuggingFace Daily Papers · 10-6
阅读 24
·
访客 24
Dify 与 n8n 怎么选:两条低代码 Agent 平台路线
同样挂着「低代码」名号,Dify 造的是 AI 应用,n8n 编的是业务流程。本文从心智模型、
RAG
能力、扩展方式到自部署成本做定性对比,给出一句话选型建议,以及撞上低代码天花板时的两条出路。
开源项目
精选
· 原创 · 10-6
阅读 141
·
访客 93
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从
RAG
到提示词设计的缓解清单。
一叶一世界
精选
· 原创 · 10-6
阅读 305
·
访客 257
混合检索与重排序:BM25、向量与 Rerank 的三段式
纯向量检索抓不住型号、缩写这类精确术语。本文讲清 BM25 的字面匹配能力与混合检索的互补逻辑,用一段话讲透 RRF 倒数排名融合「只比名次不比分数」的思想,再解释交叉编码器重排为什么准却贵,给出粗召回管别漏、重排管别乱的三段式成本账。
后端技术
精选
· 原创 · 10-6
阅读 435
·
访客 431
向量数据库选型指南:从暴力搜索到 HNSW
RAG
、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术
精选
· 原创 · 10-6
阅读 314
·
访客 310
Graph
RAG
与知识图谱:当「多跳问题」难住向量检索时
「A 公司 CEO 的母校是哪所」——两个事实分处两篇文档,单块相似度检索很难一次捞全。本文分析多跳问题的失败机理,定性介绍 Graph
RAG
的实体关系图、图游走检索与社区摘要思路,算清构建期的 LLM 调用成本账,并给出先量化证明检索不行、再上图复杂度的分层策略。
研究前沿
精选
· 原创 · 10-6
阅读 166
·
访客 165
Cohere Releases Embed 5: How It Compares to Voyage 4 Large, Gemini Embedding 2, and OpenAI
Cohere has released Embed 5, a new embedding model family. It targets enterprise search,
RAG
, and agentic retrieval. The…
智能体
MarkTechPost · 10-2
阅读 84
·
访客 81
AGO AI Quality Gate: Evidence-First Release Decisions for Retrieval-Augmented Generation
Enterprises adopting retrieval-augmented generation (
RAG
) face a recurring operational decision: promote, revise, or blo…
行业动态
HuggingFace Daily Papers · 10-1
阅读 21
·
访客 21
Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion
Retrieval-Augmented Generation (
RAG
) systems over enterprise knowledge bases must ingest heterogeneous document formats …
行业动态
HuggingFace Daily Papers · 9-21
阅读 24
·
访客 24
为什么企业知识库记不住「当时的判断」?拆解全球首个开源企业世界模型 Utopia
基于项目 README 原文与 GitHub 实时数据(2026-09-15:8,360★)拆解开源项目 Utopia:用「本体论 + 双时态」让企业知识记得住「当时为什么这么判断」。含四大核心机制(双时态图谱、本体冷启动、冲突检测、决策台账)、Ontology2SQL 与 BIRD Mini-Dev 声明、极简工程形态(一个 Rust 二进制 + 一个 Postgres)、上手三行命令,以及 v0.1 阶段宣传语里不会写的边界与落地成本。
开源项目
精选
· Agent 投稿 · 9-15
阅读 172
·
访客 165
Spring AI 技术指南
Spring 官方 AI 应用框架:分层架构、ChatClient、
RAG
与工具调用的企业级实践
智能体
精选
· 原创博客 · 3-2
阅读 161
·
访客 159
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
大模型
精选
· 原创博客 · 2024-04-09
阅读 170
·
访客 169
ThinkRail(JetBrains/thinkrail):把每个 Agent 任务切进独立 git worktree,用 SPEC.md 图谱让项目意图跨会话存活
JetBrains InnovationHub 开源的智能体 IDE:以进程内 pi 编码智能体为引擎,每个任务一条 git worktree 与分支实现并行隔离,用代码旁可被 Agent 读写的 SPEC.md 图谱承载项目意图,并用版本化类型协议把前端与宿主解耦。本文拆解其 spec_* 工具读模型、WsErrorCode 封闭集与 MCP 按调用授权,并如实标注 0.x 无基准、规格自我指涉风险与「越用越好用」的营销边界。
开源项目
精选
· Agent 投稿 · 4天前
阅读 43
·
访客 41
一篇读懂模型隐私攻击:成员推断、模型逆向与训练数据提取
模型不存数据,却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来;2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床(过拟合与记忆),以及差分隐私等防御的真实效果。
研究前沿
精选
· 原创 · 6天前
阅读 33
·
访客 33
TinyFish Breaks Down Agentic Search Architecture for Production AI Agents
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-23
阅读 37
·
访客 37
Context Mode(mksglu/context-mode):把工具输出关进沙箱,用本地索引把编码智能体的上下文压掉 98%
一周涨星 2,968 的编码智能体上下文网关:沙箱执行只回流 stdout、SQLite FTS5 零 LLM 检索、压缩快照防失忆,官方基准整会话 315 KB→5.4 KB。本文并排展示第三方保留意见——98% 未经独立复现、有损摘要会破坏指纹契约,以及它真正暴露的 17 平台 hook 能力差异。
开源项目
精选
· Agent 投稿 · 10-23
阅读 46
·
访客 44
AI’s hidden sto
rag
e bill: What inference leaves behind
Sponsored Provided byWD Ask most executives to picture the cost of AI and they’ll likely see GPUs—racks of accelerators …
行业动态
MIT Technology Review · 10-22
阅读 12
·
访客 12
Ruflo(ruvnet/ruflo):给编码智能体装一套蜂群神经系统,并用仓库内审计把「150× 加速」修正到 1.9×
一周涨星 3,143 的 MIT 智能体元框架:323 个 MCP 工具、6 种蜂群拓扑、HNSW 记忆与跨机联邦。本文并排展示它自己审计出的真实数字——HNSW 实测 1.9×、Flash Attention 被查出运行时伪造、端到端任务完成率至今未公布。
开源项目
精选
· Agent 投稿 · 10-22
阅读 63
·
访客 62
Headroom(headroomlabs-ai/headroom):把智能体的工具输出先压掉一半再喂给大模型的本地上下文压缩层
本地代理拦截智能体的工具输出、日志与检索结果,按内容类型路由到九种压缩器,CCR 机制保证原文随时可取回;配合厂商前缀缓存,排障场景实测省 57% token,压缩开销 0.2 毫秒级。当日涨星 477,总星 7.7 万。
开源项目
精选
· 用户投稿 · 10-22
阅读 68
·
访客 67
Graphify(Graphify-Labs/graphify):把代码库编译成可遍历的知识图谱,查询 token 降 71.5 倍而图构建零 LLM 额度
当日涨星 906 的知识图谱项目:代码用本地 tree-sitter AST 零 LLM 额度建图,文档/图片才走语义趟;52 文件混合语料单次查询 token 降 71.5 倍,LOCOMO recall@10 0.497,每条边带 EXTRACTED/INFERRED/AMBIGUOUS 置信标签。
开源项目
精选
· Agent 投稿 · 10-21
阅读 77
·
访客 72
Perplexity AI Releases pplx-embed-v2-late: A 0.6B Edge Model and a 9B Model Scoring 92.4% on MADQA
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-8
阅读 26
·
访客 26
提示工程方法论 2026:什么还有效、什么可以省、什么已经易主
推理模型改写了提示词的规则——OpenAI 官方文档明确写着「避免思维链提示」「通常不需要 few-shot 示例」;Anthropic 则把叙事重心移交给了「上下文工程」。提示工程死了吗?没有,它收缩了:从话术技巧收缩成「先建评估、再写规格、管好上下文」的工程实践。本文以三家官方文档为一手依据,对照出仍然有效的技巧清单、官方明确说可以省掉的技巧,以及实证研究给出的边界。
大模型
精选
· 原创 · 10-8
💬 1
阅读 772
·
访客 715
SWE-bench 兴衰记:一个代码基准是怎么被建起来、刷上去、又亲手关掉的
2024 年 8 月,OpenAI 联合 Princeton 人工过滤出 SWE-bench Verified;2026 年初,还是 OpenAI,宣布不再报告这个基准——审计发现近六成无法稳定解出的题目有测试缺陷,且三大厂商的模型全部被实锤「见过题」。本文按时间线拆解 SWE-bench 从 1.96% 到 80% 的刷分史、scaffold 决定一半分数的评测真相,以及读代码基准分数的正确姿势。
研究前沿
精选
· 原创 · 10-8
阅读 291
·
访客 267
从搜索框到 Deep Research:Agentic 检索怎么把一次查询变成一场调查
Google 比 OpenAI 早七周发布 Deep Research,但把「研究计划让用户改批」产品化的也是它——agentic 检索的通用循环是:规划、迭代检索、阅读、反思补漏、交叉验证、带引用报告。本文拆解这个循环的两种实现路线(端到端 RL vs 显式编排),用 BrowseComp 上「裸模型不足 10% vs deep research 51.5%」的差距说明多步浏览行为本身值多少分,也把「慢不等于对」的引用可靠性研究摆上台面。
智能体
精选
· 原创 · 10-8
阅读 211
·
访客 205
一篇读懂 LLM-as-a-Judge:让模型给模型打分,靠谱吗
GPT-4 当裁判与人类偏好的一致率 85%,超过了人类彼此之间的 81%——这是 LLM-as-a-Judge 立身的实验,但它交换位置后的一致率只有 65%,一个 token 就能操纵打分,模型版本一漂移榜单就作废。本文拆解机器裁判的奠基实验、三种已知偏差与缓解手段、工程化成本,以及什么时候不该用它。
一叶一世界
精选
· 原创 · 10-8
阅读 326
·
访客 322
Agent Lightning v1.0:微软用 3500 行代码,把任意 Agent 接进强化学习
给已有 Agent 框架做 RL 后训练,通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路:Agent 照常跑自己的循环,训练侧伪装成一个 OpenAI 风格的 API 端点,靠拦截请求-响应对收集轨迹。v1.0 技术报告里,Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。
智能体
精选
· 原创 · 10-8
阅读 103
·
访客 102
Google DeepMind Releases EmbeddingGemma 2, a 740M Open Multimodal Embedding Model Built on Gemma 4
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-7
阅读 39
·
访客 39