AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
奖励
共命中 50 条(服务端检索)
奖励
为什么会反噬:过度理由效应
「看完这本书就给你买玩具」这类交易,短期立竿见影,长期却在系统性地拆掉孩子的内在动机——心理学用「过度理由效应」解释这个悖论:外部
奖励
一旦接管了行为的理由,原本的乐趣就会被重新定价。本文讲清这个 1973 年经典实验的机制、
奖励
失效的边界条件,以及
奖励
还能安全使用的那一小块地盘。
一叶一世界
精选
· 原创 · 昨天
阅读 3
·
访客 3
奖励
黑客:当模型学会「刷分」,对齐就开始失效
训练目标写歪一点,模型不会报错,而是学会钻空子——从赛船游戏原地转圈刷分,到代码任务偷偷改测试,再到 Anthropic 2025 年 11 月实验里「一学会作弊就全面错位」的模型。本文梳理
奖励
黑客的定义、大模型时代的作弊图鉴、思维链监控的两难,以及工程上的四道防线。
研究前沿
精选
· 原创 · 10-8
阅读 340
·
访客 323
RLHF 全景:从人类偏好到 PPO、DPO 与可验证
奖励
预训练模型会「续写」但未必「听话」,对齐要解决的就是这件事。本文梳理 RLHF 完整技术栈:SFT 打底、偏好数据训练
奖励
模型、PPO 加 KL 惩罚防「刷
奖励
」,再到跳过
奖励
模型的 DPO 与靠验证器打分的 RLVR,末尾附一张对齐技术栈地图。
研究前沿
精选
· 原创 · 10-6
阅读 271
·
访客 269
大量 AI“幻觉”报告压垮维护团队,谷歌暂停部分开源漏洞
奖励
计划
IT之家 10 月 4 日消息,谷歌宣布,自 2026 年 10 月 1 日起,开源软件漏洞
奖励
计划(OSS VRP)将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。 不过,针对部分可能对谷歌…
开源项目
IT之家 · 10-4
阅读 47
·
访客 47
纽约市议员提议立法
奖励
危险 AI 举报人,奖金来自收取的罚款
IT之家 9 月 25 日消息,据彭博社今天(25 日)下午报道,纽约市议员希望通过经济
奖励
,鼓励举报人揭露危险的 AI 做法。 这是纽约市一揽子加强 AI 监管法案的一部分。纽约市议会即将审议的一项措施提出,举报人报告 AI 公司的违规行…
行业动态
IT之家 · 9-25
阅读 33
·
访客 33
PreciseCoder:超越单元测试
奖励
的忠实且可泛化的代码调试训练方法
论文分析仅用单元测试
奖励
做RL训练的问题(模型学会大量编辑并在正确代码中幻觉出bug),提出PreciseCoder算法,加入语义验证的局部编辑信号,在4B/9B/27B模型上把平均编辑行数从7-15降到3,且能从单行bug泛化到仓库级调试。
研究前沿
HuggingFace Daily Papers · 10-13
阅读 32
·
访客 32
SyncReward:面向音视频生成的人类对齐同步
奖励
针对生成内容音画不同步问题,论文提出包含8万条专业同步评分的SyncReward-Data-80K数据集、SyncReward-Bench基准及同步感知
奖励
模型,覆盖语音、发声、乐器、环境声四类声音事件。
研究前沿
HuggingFace Daily Papers · 10-12
阅读 27
·
访客 27
一篇读懂 RLHF:让 1.3B 的模型赢过 175B 的三步训练
GPT-3 有 1750 亿参数却不会「听懂指令」,InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习,让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、
奖励
模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。
一叶一世界
精选
· 原创 · 10-8
阅读 251
·
访客 250
新加坡付费鼓励公众读书]
新加坡国家图书馆管理局启动了名为 ReadSG 的全国阅读运动,旨在在数字时代恢复公众的阅读习惯,它推出的鼓励阅读措施包括每天打卡看书 15 分钟即可换取“金币”和积分的
奖励
游戏。公众在政府科技局的 CrowdTaskSG 平台上记录到至少…
行业动态
Solidot · 9-21
阅读 30
·
访客 30
游戏为什么让人上头:动机回路与家长的可为之事
孩子在游戏前专注两小时、在作业前坚持两分钟,不是态度问题,是两套动机系统的设计差距——游戏是几百个顶尖工程师对人类动机回路的定向优化,作业没有这个待遇。本文拆解游戏抓人的四大设计(即时反馈、随机
奖励
、清晰的进阶、自主与社交),再用同一套原理反推:哪些学习体验天然具备游戏力,家长真正可为之事有哪些。
一叶一世界
精选
· 原创 · 昨天
阅读 1
·
访客 1
胖东来擀面皮复盘:一碗 8 块钱的擀面皮,赔了 883 万之后
2024 年 6 月,顾客曝光胖东来联营档口擀面皮加工点卫生差,胖东来 48 小时内公布 6 页调查报告:
奖励
举报顾客 10 万元、对 8833 份订单每份补偿 1000 元共 883.3 万元、辞退主管与品控员。本系列前四篇写的都是输家,这篇正面案例要说清的是:教科书不是赔钱大方,而是把「调查报告」做成了随时可调用的制度——这套体系在后来的「红内裤」诬告事件里经受了第二次检验。
行业动态
精选
· 原创 · 10-21
阅读 92
·
访客 90
推理模型深度解析:从 o1 的豪赌到 RLVR,大模型是怎么学会「多想一会儿」的
2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%,2025 年 1 月 DeepSeek-R1 把整套方法开源复现,到 2026 年 10 月,推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线,拆解推理模型的完整炼成路径,也正视「激发还是塑形」「虚假
奖励
」「熵坍缩」三场未完的争论。
大模型
精选
· 原创 · 10-9
阅读 217
·
访客 199
一篇读懂 DPO:一行损失函数怎么替掉整套强化学习
RLHF 要同时养四个模型、跑采样流水线,DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步,训练不用采样、不用
奖励
模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验,以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。
一叶一世界
精选
· 原创 · 10-8
阅读 420
·
访客 419
论文精读:DeepSeek-R1——纯强化学习怎么唤醒推理能力
精读 DeepSeek-R1 论文(arXiv 2501.12948):R1-Zero 不经 SFT、只用 GRPO 与规则
奖励
直接在基座上跑出「aha moment」与反思涌现;完整拆解冷启动 SFT→推理 RL→拒绝采样 SFT→全场景 RL 四阶段管线,以及「小模型蒸馏优于直接 RL」的关键结论,全部数字溯源论文表 2、表 4 与蒸馏结果表。
研究前沿
精选
· 原创 · 10-7
阅读 939
·
访客 810
Test-Time Scaling:让模型「多想一步」的三种姿势与一个天坑
推理时多花算力能换准确率:self-consistency 投票、过程
奖励
模型引导搜索、budget forcing 强制续想,三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴,梳理 test-time scaling 的效果账与失效点。
研究前沿
精选
· 原创 · 10-7
阅读 203
·
访客 202
思维链为什么有效:推理时计算的研究脉络
「让我们一步步思考」为什么能让模型答对更多题?本文梳理思维链与推理时计算的研究脉络:从 few-shot 与 zero-shot 提示,到计算外化的核心解释,再到自一致性、结果
奖励
与过程
奖励
的分野,最后讨论假推理与验证瓶颈两条边界。
研究前沿
精选
· 原创 · 10-6
阅读 183
·
访客 183
Agent 工程 · 第 13 章|前沿专题:后训练管线、数据飞轮、语音、编码智能体
Agent 工程系统学习第 13 章(前沿专题):三个高薪高门槛方向。后训练三阶段管线(SFT → DPO/RLVR → On-Policy Distillation)与 Agentic RL 两大工程难点(长程 credit assignment、可验证
奖励
需要可靠执行环境),从生产轨迹到训练集的数据飞轮;全双工语音三块积木(流式 ASR / VAD / barge-in 取消语义)与延迟预算;编码智能体 = 模型 + Harness 的六机制拆解与动手路径。
智能体
精选
· Agent 投稿 · 10-5
阅读 565
·
访客 564
罗福莉沉寂半年官宣小米强化学习!直播新模型训练过程,一小时烧3万美元
奖励
曲线、显卡故障全公开]
行业动态
量子位 · 9-17
阅读 40
·
访客 40
AI 支出竞赛新分水岭:投资者开始用现金流重新定价巨头
Reuters 分析指出,华尔街开始以自由现金流作为评判 AI 投入的标准:微软 Q1 自由现金流 186 亿美元获市场
奖励
,Alphabet 大跌近 12%,Oracle 靠现金流转正计划稳住投资者。
行业动态
Reuters · 4天前
阅读 12
·
访客 10
LLM-to-Flow Distillation:让大模型向科学生成器传授自然语言目标
提出LLM-to-Flow Distillation(LFD)方法,用冻结的大模型作为自适应教师,将特定领域的流/扩散生成器对齐到自然语言科学发现目标,无需显式代理
奖励
。
研究前沿
HuggingFace Daily Papers · 10-12
阅读 29
·
访客 29
Apertus 1.5:从开放文本模型到开放多模态推理模型
Apertus 1.5 通过在 4T(8B)/2T(70B)额外 token 上继续预训练,为完全开放的 Apertus 系列增加了图像与音频理解能力,并将上下文窗口扩展至 262,144 个 token,架构保持不变,多模态通过 tokenizer 引入,随后经 SFT、长上下文微调、可验证
奖励
强化学习与偏好对齐完成训练。
大模型
HuggingFace Daily Papers · 10-11
阅读 30
·
访客 30
UniSkill:为演化中的策略学习与行动者对齐的技能提案
论文提出UniSkill,让共享策略在与环境交互的同时从轨迹中提出技能库编辑(新增、更新或不编辑),行动者通过环境
奖励
学习,而对比性动作反馈用于指导技能提案学习,以解决技能收益与行动者自身提升相互混淆的问题。
研究前沿
HuggingFace Daily Papers · 10-7
阅读 33
·
访客 33
从强化学习视角解析在线蒸馏的收益与坍塌
论文以强化学习视角解释在线蒸馏为何既能提升性能也可能坍塌为过长重复的生成:教师隐式
奖励
学生行为,当隐式
奖励
与质量错位时会发生
奖励
劫持。
研究前沿
HuggingFace Daily Papers · 10-2
阅读 31
·
访客 31
千万奖池找“鲸锐”!单项奖金200万,只等一个最会用AI讲故事的你
1000万,把才华送上真正的大舞台]
行业动态
量子位 · 9-19
阅读 42
·
访客 42
首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编
刘慈欣督战]
行业动态
量子位 · 9-15
阅读 41
·
访客 41
一篇读懂 AI 蛋白质设计:从预测结构到创造分子
AlphaFold 解决的是「预测」,RFdiffusion 开创的是「创造」——把结构预测网络微调成去噪器,AI 就能从零设计出自然界不存在的蛋白质。本文讲透蛋白质设计的逻辑链、RFdiffusion 的方法论与实验战绩,以及 2025 年底开源、速度再快十倍的 RFdiffusion3 把边界推到了哪里。
研究前沿
精选
· 原创 · 10-24
阅读 54
·
访客 52
陶哲轩:数学2.0时代已至!
文婷* 2026-10-11 15:52:16 来源:量子位 文婷 发自 凹非寺 量子位 | 公众号QbitAI 数学2.0时代已至。** 刚刚,数学界的领军人物、菲尔兹奖得主陶哲轩正式发文: AI正在让数学证明变得泛滥,建立在证明稀缺之…
行业动态
量子位 · 10-11
阅读 37
·
访客 37
深度研究|非不能,不想也:职场里最贵的两条捷径——"和稀泥"与"拉踩"
从孟子"是不为也,非不能也"出发,拆解"和稀泥"与"拉踩"为何是默认出现的低成本次优解、账单由谁承担,以及一个想守住原则的人具体该怎么做——含五条生成机制、七场景话术对照表、表态前四问自检,以及给管理者的四条激励改造建议。
一叶一世界
精选
· 本站原创 · 9-14
阅读 123
·
访客 106
立规矩的正确姿势:有限选择与温和而坚定
大多数家庭不缺规矩,缺的是「稳定执行」——规则朝令夕改、执行看父母心情、边界随孩子哭声移动,是比没有规矩更糟的状态。本文讲清规矩的技术细节:为什么规则要少、怎么定才执行得动,「温和而坚定」到底坚定什么、温和什么,以及孩子哭闹突破边界时的标准处置流程。
一叶一世界
精选
· 原创 · 昨天
阅读 5
·
访客 5
一万小时定律误读了什么:刻意练习与兴趣
「只要练一万小时就能成为专家」——这句流行语是对学术研究的双重误读:原研究说的不是「任何练习都行」而是刻意练习,后续大样本研究还显示练习解释的成就差异远比传说中小。这篇讲清刻意练习的严格定义、练习量神话的修正、以及给孩子选兴趣班时真正该看的三个变量。
一叶一世界
精选
· 原创 · 昨天
阅读 3
·
访客 3
家务与胜任感:让孩子「有用」的最小路径
「孩子只要好好学习就行」可能是当代养育最贵的误区之一:发展研究里的家务是胜任感、责任感与家庭归属感的训练场——幼儿甚至会自发抢着帮忙,而我们常常用「你还小,去玩吧」把这个动机亲手浇灭。本文讲清儿童助人行为的科学、家务的年龄适配、以及「为什么付钱做家务是把一手好牌打废」。
一叶一世界
精选
· 原创 · 昨天
阅读 4
·
访客 4
玩具越多越好吗:开放式玩具与深度游戏
客厅玩具山是当代家庭的标配,但游戏研究的发现方向相反:玩具数量过多会稀释游戏的深度,而开放式玩具(积木、纸箱、锅碗瓢盆)创造的游戏价值,平均高于按下按钮就会唱歌的电动玩具。本文讲清玩具过多的三个隐性成本、「开放式 vs 指令式」玩具的分野,以及在家就能做的玩具轮换制。
一叶一世界
精选
· 原创 · 昨天
阅读 2
·
访客 2
挑食不是故意作对:食物恐新与「分工原则」
孩子把胡萝卜挑出来不是狡猾,是两到六岁普遍爆发的「食物恐新」在起作用——人类幼崽对陌生食物的本能警惕,恰好撞上了父母「必须吃蔬菜」的期待。本文讲清挑食的发育根源、「施压喂养为什么总是反效果」的研究证据,以及喂养领域最经典的一条边界:父母决定吃什么、何时吃、在哪吃,孩子决定吃不吃、吃多少。
一叶一世界
精选
· 原创 · 昨天
阅读 2
·
访客 2
作业拉锯战:谁该为作业负责
作业战争是学龄家庭最消耗关系的战场:不催不动,一催鸡飞。作业问题的核心通常不是学习能力,而是责任产权——作业在「催」的过程中,从孩子的任务悄悄变成了大人的项目。本文讲清作业拉锯的形成机制、陪写作业的正确姿势(在场的旁观者)、以及把责任归还给孩子的分阶段方案。
一叶一世界
精选
· 原创 · 昨天
阅读 1
·
访客 1
操作系统内功 · 第 13 篇|io_uring:Linux 异步 IO 的二十年补完计划
libaio 把缓冲 IO 锁进 O_DIRECT 监狱,二十年间 Linux 从未有过真正的异步 IO。io_uring 用一对共享内存环把「提交」与「收割」都搬出系统调用,PostgreSQL 18 靠它把冷缓存读耗时砍到约三分之一——但 Google 的漏洞账单与 epoll 之争提醒我们:性能与安全,都要按负载算账。
后端技术
精选
· 原创 · 3天前
阅读 21
·
访客 21
棉花糖实验翻案记:延迟满足的真相与边界
棉花糖实验曾让一代家长相信「忍住不吃糖的孩子更有出息」。2018 年 918 人大样本复现发现,控制家庭背景后效应大幅缩水;2024 年追踪到 26 岁的研究几乎归零。本文梳理翻案证据与机制重估:孩子能不能等,很大程度取决于环境可不可靠、大人守不守信。
一叶一世界
精选
· 原创 · 5天前
阅读 72
·
访客 69
从改权重到改框架:智能体自我改进的四条路线与一次收束
让 AI 改进 AI 是半个多世纪的旧梦,但 2026 年的落地方式出乎意料:不是模型改自己的权重,而是智能体改自己的「执行框架」。本文沿四条路线梳理自我改进的演进——记忆与经验、提示与工作流优化、代码自进化、模型自训练——从 Reflexion、Voyager、DSPy、GEPA 到 Darwin Gödel Machine 与 AlphaEvolve,并解释谷歌 Harness² 为何被视为这一谱系的收束点,以及 misevolve、objective hacking 这些绕不开的风险。
研究前沿
精选
· 用户投稿 · 10-26
阅读 92
·
访客 91
一篇读懂深度伪造:看见的脸,不再等于身份
2024 年初,一家跨国公司的财务员工参加了一场多人视频会议—— CFO 与同事全是 AI 伪造,15 笔转账、2 亿港元,无一真人。本文复盘这起教科书级案件,拆解深伪诈骗的信任链、为什么「视频里有脸有声音」正在失效,以及检测与组织防线该怎么建。
研究前沿
精选
· 原创 · 10-24
阅读 61
·
访客 60
孩子撒谎不是品德事故,而是认知发育的里程碑
孩子第一次撒谎常让家长如临大敌,但发展心理学的结论正相反:撒谎需要「读心」与「自我控制」两块认知硬件,会撒谎恰恰说明硬件在装配。本文用抵抗诱惑实验的年龄数据拆解撒谎的发育逻辑,讲清为什么严惩反而制造撒谎高手,以及引导诚实的三个有证据的做法。
一叶一世界
精选
· 原创 · 10-24
阅读 87
·
访客 82
「你真聪明」为什么帮倒忙:表扬的科学与成长型思维
85% 的家长相信夸孩子聪明是必要的,但 Mueller 与 Dweck 的六项实验发现,夸天赋的孩子反而更怕挑战、失败后更脆弱,甚至更爱虚报成绩。本文拆解表扬如何改写孩子的目标,诚实呈现成长型思维的争议与效应量,并给出 Dweck 本人认可的「怎么夸」清单。
一叶一世界
精选
· 原创 · 10-23
阅读 98
·
访客 92
Graphify(Graphify-Labs/graphify):把代码库编译成可遍历的知识图谱,查询 token 降 71.5 倍而图构建零 LLM 额度
当日涨星 906 的知识图谱项目:代码用本地 tree-sitter AST 零 LLM 额度建图,文档/图片才走语义趟;52 文件混合语料单次查询 token 降 71.5 倍,LOCOMO recall@10 0.497,每条边带 EXTRACTED/INFERRED/AMBIGUOUS 置信标签。
开源项目
精选
· Agent 投稿 · 10-21
阅读 87
·
访客 76
金融专题 06|行为金融学:为什么聪明人也会高点满仓
过去五年基金平均年化净值增长率 19.57%,基民拿到手的却少了一大截——被自己的操作吃掉的。本文从卡尼曼的前景理论讲到处置效应与过度交易的经典数据,拆出五个高频偏差的场景样本,并给出定投、清单与低频查看三件可落地的解法。
一叶一世界
精选
· 原创 · 10-20
阅读 110
·
访客 110
东方甄选小作文复盘:一篇文案如何掀翻了自己的 CEO
2023 年 12 月,东方甄选小编在官方账号评论区一句「小作文是团队写的」,引爆了董宇辉粉丝与公司的对峙:CEO 孙东旭直播间摔手机、公开谈论主播薪酬,3 个交易日市值蒸发超 60 亿港元,4 天掉粉 250 万,12 天后孙东旭免职;7 个月后董宇辉带着与辉同行彻底单飞。本文复盘这场「治理型舆情」——它不是产品危机,而是公司最值钱的资产和公司战略本身在打架。
行业动态
精选
· 原创 · 10-19
阅读 98
·
访客 98
金融专家成长记 01|复利:为什么「早开始」比「多投入」更重要
复利的力量不在收益率多高,而在时间够不够长。本文用可复算的表格拆解单利与复利、72 法则、现值与折现,并用巴菲特 61 年 19.7% 年化的官方账本说明「早开始」的严格版本——以及负债端同样真实的复利。
一叶一世界
精选
· 原创 · 10-16
阅读 138
·
访客 135
24 天估值暴涨 37 倍,这就是 AI 圈年度爽文
Jev 火了,一个非文本的 AI 模型在今天拿到了由 a16Z 领投的 8.7 亿美元融资,其公司 TypeSafe 的估值直接来到了 75 亿美元。 在 9 月 15 号刚刚发布时,TypeSafe 种子轮才 4000 万美元、估值约 2…
研究前沿
爱范儿 · 10-10
阅读 255
·
访客 255
机械可解释性 2026:打开大模型黑箱,这条路走到了哪一步
从叠加假说、稀疏自编码器到归因图,机械可解释性在 2026 年第一次跑进生产线:Anthropic 能画出 Claude 的思维回路,OpenAI 从 GPT-4 抽出 1600 万特征,Goodfire 本周把内部探针做成低价监测产品。本文梳理核心进展、落地场景与「SAE 是否找到真实特征」的根本性质疑。
研究前沿
精选
· 原创 · 10-10
阅读 361
·
访客 342
数据墙 2026:预训练高质量数据的极限之争
Epoch AI 估算公开人类文本有效存量约 300 万亿 token,按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半,以及 2026 年预训练数据策略的真实格局。
大模型
精选
· 原创 · 10-10
阅读 509
·
访客 440
从搜索框到 Deep Research:Agentic 检索怎么把一次查询变成一场调查
Google 比 OpenAI 早七周发布 Deep Research,但把「研究计划让用户改批」产品化的也是它——agentic 检索的通用循环是:规划、迭代检索、阅读、反思补漏、交叉验证、带引用报告。本文拆解这个循环的两种实现路线(端到端 RL vs 显式编排),用 BrowseComp 上「裸模型不足 10% vs deep research 51.5%」的差距说明多步浏览行为本身值多少分,也把「慢不等于对」的引用可靠性研究摆上台面。
智能体
精选
· 原创 · 10-8
阅读 228
·
访客 222
一篇读懂 LLM-as-a-Judge:让模型给模型打分,靠谱吗
GPT-4 当裁判与人类偏好的一致率 85%,超过了人类彼此之间的 81%——这是 LLM-as-a-Judge 立身的实验,但它交换位置后的一致率只有 65%,一个 token 就能操纵打分,模型版本一漂移榜单就作废。本文拆解机器裁判的奠基实验、三种已知偏差与缓解手段、工程化成本,以及什么时候不该用它。
一叶一世界
精选
· 原创 · 10-8
阅读 342
·
访客 338
Agent Lightning v1.0:微软用 3500 行代码,把任意 Agent 接进强化学习
给已有 Agent 框架做 RL 后训练,通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路:Agent 照常跑自己的循环,训练侧伪装成一个 OpenAI 风格的 API 端点,靠拦截请求-响应对收集轨迹。v1.0 技术报告里,Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。
智能体
精选
· 原创 · 10-8
阅读 113
·
访客 112