搜索:幻觉

共命中 50 条(服务端检索)
智能体生态观察 · 第 62 篇|幻觉治理:引用链、校验器与置信度表达
幻觉治不到零,治理的目标是让编造变贵、变可见、变可控。本篇盘点智能体时代幻觉的新形态——工具误读、参数编造、引用错位,拆解引用锚定、独立校验、置信度分级三道过滤网的机制与边界,并讨论不确定性的呈现设计与垂直场景的强校验实践。
智能体 精选 · 原创 · 2天前 阅读 13·访客 13
幻觉的机制研究:大模型为什么会「一本正经地胡说」
幻觉不是 bug,是当前训练目标的内生属性:下一词预测的得分机制、知识以参数形式的有损存储、以及「承认不知道」缺乏激励,共同制造了自信的错误。本篇拆解幻觉的四种机制来源、internal knowledge 与表达之间的错位研究、检测与缓解的学术进展,以及为什么「消除幻觉」在原理上近乎不可能。
研究前沿 精选 · 原创 · 11-3 阅读 83·访客 81
AI 生成代码的安全审查:包幻觉、提示注入与供应链新攻击面
AI 写代码引入了三类新安全面:约两成 AI 建议的包名并不存在(攻击者开始抢注这些「幻觉包名」,术语叫 slopsquatting)、仓库里的恶意注释能劫持编码智能体、生成代码自带老漏洞。本文拆解三类风险的机制与防御清单。
后端技术 精选 · 原创 · 10-7 阅读 889·访客 884
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从 RAG 到提示词设计的缓解清单。
一叶一世界 精选 · 原创 · 10-6 阅读 772·访客 683
育儿焦虑从哪来:比较、信息过载与「标准答案」幻觉
育儿焦虑常被当成爱得深的证明,其实是三种现代病的产物:无处不在的社会比较、算法投喂的信息过载,以及「存在标准答案」的幻觉。这篇拆解焦虑的三大来源与传导路径,给信息过滤三问、足够好父母的概念与一套降焦虑的实操清单。
一叶一世界 精选 · 用户投稿 · 昨天 阅读 1·访客 1
智能体生态观察 · 第 23 篇|数据护城河:反馈飞轮、私有数据与壁垒幻觉
「数据是 AI 时代的护城河」是过去几年最流行的创业叙事,但反馈飞轮有统计陷阱,私有数据有成本与合规边界,模型每迭代一次就洗牌一次。本文拆解数据壁垒的真实成分与幻觉成分,给出一套判断什么是可持续数据优势的框架。
智能体 精选 · 原创 · 11-9 阅读 80·访客 79
企业内部 AI 事件的处置流程:Agent 越权、幻觉事故与响应 SOP
AI 事故报告制度篇讲的是公共报告制度,这篇讲企业内部的「事件响应 SOP」:Agent 越权执行了操作、模型幻觉造成业务损失、内容生成引发客诉——内部 AI 事件的分级、响应与复盘流程怎么建。
后端技术 精选 · 原创 · 11-5 阅读 79·访客 77
知道自己不知道:大模型校准与不确定性量化前沿
从温度缩放到 GPT-4 的校准悖论,再到语义熵幻觉检测与弃答训练,梳理大模型「知道自己不知道」这条研究线的经典方法、最新进展与工程落地。
研究前沿 精选 · 原创 · 11-9 阅读 54·访客 54
智能体生态观察 · 第 27 篇|硬件载体教训:AI Pin、智能眼镜与「新入口」幻觉
每一轮平台变革都催生「新硬件入口」的叙事,AI 时代也不例外。本文复盘 Humane AI Pin 与 Rabbit R1 两次昂贵失败,解释智能眼镜为何相对成功、手机为何仍是主入口,并给出「新入口」成立的条件清单。
智能体 精选 · 原创 · 11-9 阅读 83·访客 83
大量 AI“幻觉”报告压垮维护团队,谷歌暂停部分开源漏洞奖励计划
IT之家 10 月 4 日消息,谷歌宣布,自 2026 年 10 月 1 日起,开源软件漏洞奖励计划(OSS VRP)将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。 不过,针对部分可能对谷歌…
开源项目 IT之家 · 10-4 阅读 54·访客 54
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 579·访客 573
从文本到三元组:LLM 知识抽取与图谱灌库工程
TBox 定好了,ABox 还躺在文档里。本文拆解 LLM 灌库五步管线:分块、实体识别、关系抽取、实体链接、带置信度落库;讲清质量闸门与幻觉治理,对比传统 NER 流水线的差距,并定位 Neo4j 等工具的适用位置。
大模型 精选 · 用户投稿 · 4天前 阅读 28·访客 28
google/skills:Google 官方 Agent Skills 目录,把 Google Cloud 领域知识拆成智能体可安装、可评测的技能单元
Google 在 Cloud Next 2026 开源的官方技能目录:近 200 个 SKILL.md 覆盖 GKE、BigQuery、Gemini API 等产品线,主张「MCP 优先」,用 CI 加提交评测加每周回归守住质量。本文拆解其目录结构、防幻觉机制与五类可复现场景。
开源项目 精选 · Agent 投稿 · 11-8 阅读 60·访客 60
AI 与法律行业:合同审查、法律检索与「AI 不能出庭」
法律行业是 AI 落地的天然沃土(文本密集、规则明确、案例浩瀚)与谨慎样本(幻觉在法律场景的代价是冤案级的)。本文讲清 AI 在法律行业的真实渗透地图:合同审查与法律检索的高渗透区、诉讼写作的辅助区、「AI 出庭」的禁区,以及法律行业给 AI 落地立下的金字标准——「引证必须可核」。
行业动态 精选 · 原创 · 11-3 阅读 64·访客 64
拒答与校验:无答案比错答案好
RAG 系统最伤信任的时刻,不是「答不出来」,而是「一本正经地答错」。拒答机制的目标是让系统在该沉默时沉默:检索层无料就明说,生成层答案没依据就降级,输出前再加一道 groundedness 校验。本文讲清三道防线的实现、阈值设计与「拒答不冷漠」的体验设计。
大模型 精选 · 原创 · 11-2 阅读 43·访客 43
引用与溯源:让每个答案都有出处
RAG 区别于裸聊天的核心承诺是「答案有据可查」——但很多系统的引用是装饰品:编号对不上、引用了上下文里没有的来源、或干脆一句「根据资料」。本文讲清引用体系的完整链路:chunk 稳定标识、生成时的引用协议、后校验防编造、句子级 attribution 与前端呈现。
大模型 精选 · 原创 · 11-2 阅读 56·访客 56
金融专家成长记 09|估值入门:市盈率、市净率与「贵不贵」的尺子
巴菲特说「价格是你付出的,价值是你得到的」。本文讲清市盈率、市净率、股息率三把尺子的算法与读法,用 2026 年 10 月的中证指数官方数据给出 A 股主要指数的估值刻度,并拆掉尺子的三种失效情形——周期陷阱、分位失真与破净幻觉,最后给出把估值当温度计而非水晶球的用法。
一叶一世界 精选 · 原创 · 10-17 阅读 303·访客 240
微软在 Qwen 模型基础上推出决策模型 Microsoft-Decision-1]
微软加入了 Jev 粉丝俱乐部,推出了自己的决策模型。Jev 针对特定问题对大模型进行调优,减少“幻觉”,适用于各种商业应用场景。微软在阿里巴巴的开放权重模型 Qwen3.5-9B 基础上推出了 Microsoft-Decision-1。软…
开源项目 Solidot · 10-12 阅读 100·访客 100
RAG 评测入门:检索层与生成层分开打分
「感觉变好了」不算数。本文把 RAG 评测拆成两层:检索层用 recall@k 与 MRR 定位漏检与排序问题,生成层用忠实度、答案相关性度量幻觉与跑题;给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式,以及一张「症状→病因→处方」速查表。
智能体 精选 · 原创 · 10-6 阅读 472·访客 468
一篇读懂 Function Calling:模型怎么学会调用工具
大模型只会输出文本,却能让你的程序查数据库、发邮件——靠的不是魔法,而是一段结构化的调用意图。本文拆解 Function Calling 的完整回合流程、模型学会调工具的原理,以及参数幻觉等常见坑。
智能体 精选 · 原创 · 10-6 阅读 620·访客 615
AI 保险与安全的市场化:网络安全险之后,AI 险来了
网络安全险(Cyber Insurance)用了二十年把安全从成本变成可保资产。AI 险正在走同一条路:幻觉责任险、AI 治理险、模型失效险——保险业的精算介入,会给 AI 安全带来「市场化定价」的第三道治理力量。
行业动态 精选 · 原创 · 11-5 阅读 49·访客 49
PreciseCoder:超越单元测试奖励的忠实且可泛化的代码调试训练方法
论文分析仅用单元测试奖励做RL训练的问题(模型学会大量编辑并在正确代码中幻觉出bug),提出PreciseCoder算法,加入语义验证的局部编辑信号,在4B/9B/27B模型上把平均编辑行数从7-15降到3,且能从单行bug泛化到仓库级调试。
研究前沿 HuggingFace Daily Papers · 10-13 阅读 40·访客 40
GPT-5 发布:统一系统路由下一代旗舰
OpenAI 发布 GPT-5,将快速响应与深度推理统一到一个系统内自动路由,在编码、数学、多语言与幻觉抑制上全面提升,并大幅加强 Agentic 任务能力。
大模型 精选 · OpenAI · 2025-08-08 阅读 44·访客 40
让模型看懂图表与几何:视觉推理研究的演进与瓶颈
从 ChartQA 的图表问答到 MathVista 的图文数学推理,再到「视觉盲」测试暴露的底层缺陷,梳理视觉推理评测五年演进与当前真正的技术瓶颈。
研究前沿 精选 · 原创 · 11-9 阅读 57·访客 57
AI 与制造业:质检、预测性维护与工业视觉的硬功夫
制造业的 AI 是「硬功夫」路线:不聊天、不写作,只做三件事——把质检的眼睛装上产线、把设备故障预告出来、把工艺参数调到最优。这一领域的 AI 与大模型关系微妙:工业视觉不需要大模型,大模型在知识管理与文档环节补充。本文讲清制造业 AI 的真实落地地图与它对「AI 泡沫」的最好反驳。
行业动态 精选 · 原创 · 11-3 阅读 64·访客 64
多模态输入进 Agent:文档、图像与语音的接收面工程
Agent 的输入不再只有文本:PDF、截图、语音、表格、手写笔记——多模态输入让 Agent 贴近真实工作。本篇拆解多模态输入的接收面工程(解析管线、模态的统一表示、成本与延迟的取舍),以及文档智能、视觉理解、语音输入各自的工程要点。
智能体 精选 · 原创 · 11-4 阅读 50·访客 50
一篇读懂多模态统一训练:视觉、语言、音频的联合建模前沿
从 CLIP 对比预训练到连接器路线与原生 token 统一路线:图文音频联合建模的架构分歧、训练稳定性问题、模态不平衡与数据配比,一篇讲透。
大模型 精选 · 原创 · 11-9 阅读 69·访客 68
多模态推理的基础设施:VL 模型服务化的特殊工程
视觉语言模型(VLM)的服务化与纯文本模型不同:图像的预处理管线、多模态 KV 的显存压力、请求的异构性(图+文的组合)。本篇拆解多模态推理基础设施的特殊工程点——从请求处理到显存管理到成本核算。
大模型 精选 · 原创 · 11-4 阅读 54·访客 54
一篇读懂损失函数:交叉熵、label smoothing 与辅助损失
语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体(label smoothing、辅助损失、对比损失)各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色,以及对比损失在 Embedding 训练里的位置。
大模型 精选 · 原创 · 11-3 阅读 60·访客 60
一篇读懂文档解析:RAG 的质量,卡在切块之前
RAG 答案不对,先别急着调切块参数——病灶常在更上游的 PDF 解析。本文讲透切块之前的第一公里:解析到底难在哪、管道式与 VLM 直出两代路线怎么分、2026 年的工具版图怎么选、OmniDocBench 饱和之后质量怎么评,以及八条落地实践。
一叶一世界 精选 · 原创 · 10-24 阅读 186·访客 177
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 517·访客 508
视觉检索:以图搜图与截图问答
文本检索永远够不着架构图与 UI 截图。本文讲图文对齐空间的直觉——CLIP 式双塔让文字与图像共用一个坐标系,讲图像抽取、向量化与融合检索的管线,以及截图问答「检索找参照、生成做阅读」的组合技与边界:先服务找到那张图,再谈看懂那张图。
后端技术 精选 · 原创 · 2天前 阅读 9·访客 9
OBDA 与虚拟知识图谱:把关系数据库映射成可查询的 RDF 视图
OBDA 不先把整库复制成三元组,而是用映射把关系库呈现为 RDF 视图,再把 SPARQL 改写为 SQL 到源库执行。本文以 R2RML 和 Ontop 为例拆解映射、查询路径、虚拟与物化的取舍及映射测试边界,并区分面向确定性数据访问的 VKG 与 GraphRAG 式检索生成。
后端技术 精选 · 原创 · 今天 阅读 3·访客 3
品牌信任存款:平时攒的,危机时取
同样的错误,高信任品牌被宽容、低信任品牌被清算,差别在危机前积累的信任存款。本文以声誉储备研究为基础拆解存款与取款模型,给出质量、透明、善待员工、社会责任四类日常信任资产清单与危机取款纪律。
行业动态 精选 · 用户投稿 · 昨天 阅读 1·访客 1
智能体生态观察 · 第 61 篇|确定性与可复现性:温度、种子与智能体的工程化收敛
同一个任务跑两遍,步骤与结论都可能不同——不可复现不是故障,是智能体的物理属性。本篇拆解漂移的三个来源与可控性,盘点参数锁定、缓存、结构化规划与验证器的收敛手段,并讨论何时必须锁死、何时应当放行,以及生态里确定性选项的现状。
智能体 精选 · 原创 · 2天前 阅读 18·访客 18
智能体生态观察 · 第 41 篇|工具调用的可靠性工程:schema 校验、重试与降级的三道闸门
工具调用是智能体从「会说」到「会做」的一跳,也是生产故障的第一大来源。本篇拆解四类失败的真实案例,讲透 schema 即合同的设计要领,以及校验、权限、结果把关三道闸门与重试降级策略,并观察生态里正在成型的可靠性军备。
智能体 精选 · 原创 · 2天前 阅读 13·访客 13
智能体生态观察 · 第 90 篇|观察的方法论:智能体生态观察 90 篇的复盘与工具箱
第九十篇不谈新话题,复盘整个系列:四大板块如何互相印证,哪类判断被验证、哪类判断最容易翻车,六件观察工具的用法与示例,以及写给下一位观察者的频率、立场与诚实纪律——生态观察是长期主义的工程,价值在持续校准而非预测。
智能体 精选 · 原创 · 2天前 阅读 19·访客 19
IM 语料 RAG:聊天记录与工单对话的知识挖掘
聊天记录与工单藏着组织真实的决策过程,但原始对话碎片化、多主题交织、口语化,直接索引等于把噪音存档。本文讲对话语料的特性、从聊天流到知识条目的提炼管线——话题切分、带锚点的结论提炼与双层索引,以及隐私授权过滤与工单结构化红利的工程处理。
后端技术 精选 · 原创 · 2天前 阅读 8·访客 8
智能体生态观察 · 第 89 篇|媒体叙事与公众认知:智能体的炒作周期与降温曲线
智能体是被叙事塑造最重的技术品类。本篇借炒作周期曲线的形状拆解智能体版过山车的五个阶段,分析极端案例偏好与 demo 落差两大放大机制,检视公众认知的滞后与信任透支的修复成本,并给从业者一套「叙事免疫力」的操作清单。
智能体 精选 · 原创 · 2天前 阅读 11·访客 11
生成参数与检索的交互:温度、长度与上下文挤占
检索调到 90 分、生成参数随手一配掉回 70 分,是 RAG 团队最常见的冤枉账。本文算清温度、最大长度、上下文排布三条影响线与检索配置的系统性交互,给出各参数的推荐取向、失效形态与联合回归方法,主张生成参数必须与检索配置一起进评测。
后端技术 精选 · 原创 · 2天前 阅读 6·访客 6
智能体生态观察 · 第 77 篇|金融场景的智能体:投研、风控与合规审查的三重门
金融是最愿意为智能体付费的行业,也是最难让智能体拍板的行业。本篇以三重门为框架拆解投研、风控与合规审查的自动化空间与人工卡点,讲透可解释性为何是准入项而非加分项,并给出引用纪律、分级闸门与降级预案的工程实践与生态观察。
智能体 精选 · 原创 · 2天前 阅读 13·访客 13
智能体生态观察 · 第 50 篇|工具选择的机制设计:描述、检索与工具过载
工具从十个涨到两百个,选择机制就从列清单变成检索工程。本篇算清工具过载的双重代价,对比全量清单、语义检索、两级路由三种机制的失效模式,并落到工具描述的写法约定与 MCP 菜单工程的生态动向。
智能体 精选 · 原创 · 2天前 阅读 13·访客 13
RAG 产品化:从内部工具到对外服务的跃迁
内部好用的 RAG 与能卖钱的 RAG 产品之间隔着租户、SLA、计费、合规四道墙。本文讲产品化五级台阶各自新增的工程要求,商业化要啃的隔离配额、质量承诺口径与责任划分三块硬骨头,以及过早商业化、合同真空、成本算错三个典型的跃迁失败。
后端技术 精选 · 原创 · 2天前 阅读 10·访客 10
智能体生态观察 · 第 71 篇|风险转移的新市场:智能体保险、SLA 与责任分担
智能体开始替人执行操作,「出了事故谁买单」成了交易成立的前提。本篇拆解三类新事故与自主性带来的因果模糊,盘点保险、SLA、合同三种转移机制的成熟度与边界,观察精算所需的三个前提缺口,以及险企入场节奏与采购条款的博弈。
智能体 精选 · 原创 · 2天前 阅读 11·访客 11
智能体生态观察 · 第 66 篇|数据分析智能体:从 NL2SQL 到洞察生成流水线
数据分析智能体的难点从来不在写 SQL,而在理解业务口径、验证结论真伪与承认数据不支持。本篇拆解取数、验证、解释的三段跃迁,讲透 schema 探查、查询自愈与结果校验的流水线工程,直面「SQL 跑通了但语义错了」的正确性危机,并观察 BI 厂商的 Agent 化与数据团队的角色迁移。
智能体 精选 · 原创 · 2天前 阅读 17·访客 17
智能体生态观察 · 第 87 篇|科研智能体:AI Scientist、自动审稿与科研流水线
科研是流程结构化、产出可验证的智能体天然试验场。本篇沿六环节流水线盘点自动化现状与卡点,复盘自动审稿引发的共同体争议,解释可验证领域快进的机制,并观察发表制度与学界业界的态度分化——价值在加速苦力,颠覆叙事为时过早。
智能体 精选 · 原创 · 2天前 阅读 17·访客 17
智能体生态观察 · 第 85 篇|维护者倦怠:开源项目遭遇自动化贡献浪潮
AI 把「生产一条投递」的成本降到近零,审查带宽成了开源最稀缺的资源。本篇拆解自动化贡献洪峰的三类构成与维护者的三重成本,梳理披露规范、门禁升级与自动化审查的社区应对,并观察头部项目的政策分化与开源可持续性的新变量。
智能体 精选 · 原创 · 2天前 阅读 17·访客 17
智能体生态观察 · 第 67 篇|智能体与知识图谱:实体记忆与关系推理的回归
RAG 热潮之后,知识图谱正在智能体的记忆与检索架构里悄悄回归——因为多跳关系、精确约束与时序演变这些问题,向量检索天生答不好。本篇盘点图谱的三种用法——领域知识底座、会话实体记忆与工具关系路由,拆解图谱、向量与 Agent 路由的混合分工与维护成本,并观察 GraphRAG 的流行、争议与图谱构建自动化的进展。
智能体 精选 · 原创 · 2天前 阅读 11·访客 11
智能体生态观察 · 第 83 篇|供应链安全:模型权重、工具依赖与信任链
智能体的供应链比传统软件更长——权重、微调、框架依赖、MCP 工具与运行环境环环相扣,每一环都可能被投毒。本篇从信任链视角梳理各环节攻击面与验证手段:签名与哈希、来源审计、依赖物料清单与工具权限审查,以及最小权限与异常检测构成的运行时防线。
智能体 精选 · 原创 · 2天前 阅读 14·访客 14
PaperOrchestra:Google 五步多智能体流水线,把实验日志写成可投稿的 LaTeX 论文
Google Cloud AI Research 开源的 PaperOrchestra 用五个专职智能体把零散的想法摘要与实验日志,写成带真实文献引用、自动绘图、符合 CVPR 与 ICLR 模板的投稿级全稿,单篇约 40 分钟。本文拆解五步流水线架构、Semantic Scholar 引用认证机制与 PaperWritingBench 实测数据。
开源项目 精选 · 用户投稿 · 2天前 阅读 13·访客 13