搜索:采样算法

共命中 50 条(服务端检索)
一篇读懂投机解码:大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题:一次前向读完几十 GB 权重,却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证,修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 397·访客 378
从 4K 到百万 token:RoPE 上下文扩展算法深度解析
现代大模型的百万上下文,几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线,核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法,并对照 RULER/NoLiMa 的实测数字:宣称窗口与有效窗口的差距有多大。
大模型 精选 · 原创 · 10-9 阅读 233·访客 228
一篇读懂采样参数:temperature 与 top-p 是怎么给模型「调性格」的
同一个模型,temperature 从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及 temperature 等于 0 也不保证确定这类反直觉的坑。
一叶一世界 精选 · 原创 · 10-8 阅读 219·访客 212
一篇读懂 Temperature 与 Top-p:采样参数怎么调
模型每步输出的不是「下一个字」而是一张概率表,Temperature 与 Top-p 决定怎么从表里抽签。本文讲清温度如何改变分布锐度、Top-p 如何动态截断候选、重复惩罚如何抑制复读,并给出代码、问答、写作、Agent 四类场景的参数对照表。
一叶一世界 精选 · 原创 · 10-6 阅读 179·访客 177
Raft算法
Raft 论文的中文精读:从复制状态机出发理解共识
后端技术 精选 · 原创博客 · 2020-04-20 阅读 356·访客 354
一篇读懂限流算法:从固定窗口到令牌桶
固定窗口、滑动窗口、漏桶、令牌桶四种限流算法逐个拆解:各自怎么工作、临界突刺藏在哪、适合什么场景。附固定窗口与令牌桶的可运行 TypeScript 实现,最后给一张选型表,并交代 Redis + Lua 的分布式落地现实。
一叶一世界 精选 · 原创 · 10-10 阅读 709·访客 707
澳大利亚想要社媒平台允许用户退出算法驱动的信息流
在禁止儿童使用社媒平台之后,澳大利亚工党政府提出了一项新的法律草案,要求社媒平台允许用户退出算法驱动的信息流。用户可选择算法推荐的个性化内容作为默认信息流,或者拒绝接收算法推荐的内容,只浏览用户关注的朋友和创作者的内容。被称为 My Fee…
行业动态 Solidot · 9-8 阅读 34·访客 32
基于负策略采样的在线策略蒸馏方法
提出 Negative-Policy OPD,在在线策略蒸馏中引入低能力负策略的采样作为负参考,以弥补强教师与学生分布重叠不足时正向信号不足的问题。
研究前沿 HuggingFace Daily Papers · 10-6 阅读 28·访客 28
中国生成式 AI 监管地图:备案双轨、标识新规与开发者的合规清单
备案是中国生成式 AI 监管的主轴:算法备案与大模型备案双轨并行,2025 年 9 月起《人工智能生成合成内容标识办法》与强制性国标 GB 45438-2025 把显式/隐式标识义务落到像素级。本文面向开发者梳理法规层级、备案触发条件与落地清单。本文不构成法律意见。
行业动态 精选 · 原创 · 10-7 阅读 310·访客 223
NASA 火星样本采集送回任务终止]
美国国会的预算法案取消了对 NASA 火星样本采集送回任务 Mars Sample Return(MSR)的资助,虽然该法案还需要通过国会两院的批准以及总统的签署才会生效,但实际上代表着 MSR 计划的终止。MSR 计划因为不断膨胀的成本而…
行业动态 Solidot · 9-22 阅读 132·访客 131
LeetCode 53. 最大子数组和:Kadane 算法的一步之遥
LeetCode 53 的题眼在状态定义:dp[i] 写成「以 i 结尾的最大子数组和」,转移一步到位;错写成「前 i 个的最大」就寸步难行。本文从 O(n²) 暴力讲到 O(1) 的 Kadane,再到分治进阶,附全负数边界与三解法对拍。
算法题解 精选 · 原创 · 10-7 阅读 211·访客 209
一篇读懂投机解码:让大模型「先猜后验」的加速术
自回归解码每步只出一个 token,GPU 大量算力在等显存。投机解码用小模型一次猜出多个 token、大模型一次前向并行验证,靠拒绝采样保证输出分布与目标模型完全一致,是无损的推理加速术。本文讲清它的原理、加速比来源与适用边界。
一叶一世界 精选 · 原创 · 10-6 阅读 215·访客 213
IonQ:20000 物理量子比特计算机攻破比特币所用加密算法或仅需 26 天
IT之家 9 月 9 日消息,量子技术企业 IonQ 美国当地时间本月 8 日表示,一台拥有 20000 个物理量子比特的 IonQ 离子阱量子计算机 或许仅需 26 天就能攻破比特币等加密货币使用的 secp256k1 椭圆曲线数字签名加…
行业动态 IT之家 · 9-9 阅读 35·访客 34
Raft分布式一致性算法
Raft 的领导者选举、日志复制与安全性约束
后端技术 精选 · 原创博客 · 2020-04-14 阅读 382·访客 380
一篇读懂 DPO:一行损失函数怎么替掉整套强化学习
RLHF 要同时养四个模型、跑采样流水线,DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步,训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验,以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。
一叶一世界 精选 · 原创 · 10-8 阅读 412·访客 411
LeetCode 460. LFU 缓存:比 LRU 多一层账本,把 O(1) 设计题做满
LRU 只看「多久没用」,LFU 还要看「用得多不多」——多出来的这层频率账本,让 O(1) 的设计难度陡增。本文从朴素方案的瓶颈推到「频率桶 + 双向链表」的双字典结构,逐段讲透驱逐与晋升的每一步,最后用本地测试跑通边界用例,顺带看看 Redis 是怎么把这套思想塞进 24 个比特的。
算法题解 精选 · 原创 · 6天前 阅读 42·访客 41
Agent Lightning v1.0:微软用 3500 行代码,把任意 Agent 接进强化学习
给已有 Agent 框架做 RL 后训练,通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路:Agent 照常跑自己的循环,训练侧伪装成一个 OpenAI 风格的 API 端点,靠拦截请求-响应对收集轨迹。v1.0 技术报告里,Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。
智能体 精选 · 原创 · 10-8 阅读 97·访客 96
论文精读:DeepSeek-R1——纯强化学习怎么唤醒推理能力
精读 DeepSeek-R1 论文(arXiv 2501.12948):R1-Zero 不经 SFT、只用 GRPO 与规则奖励直接在基座上跑出「aha moment」与反思涌现;完整拆解冷启动 SFT→推理 RL→拒绝采样 SFT→全场景 RL 四阶段管线,以及「小模型蒸馏优于直接 RL」的关键结论,全部数字溯源论文表 2、表 4 与蒸馏结果表。
研究前沿 精选 · 原创 · 10-7 阅读 899·访客 785
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 435·访客 411
LeetCode 23. 合并 K 个升序链表:堆与分治的两种解法
K 个有序链表合并成一个,朴素做法 O(N·k),堆与分治都能压到 O(N log k)——但两者的空间、常数与工程含义完全不同。本文从「K 路归并」的通用模型讲起,给出两种解法的 Python 实现(本地验证含 30000 组对拍),并把这道题放进「多路有序数据合并」的行业场景里看。
算法题解 精选 · 原创 · 5天前 阅读 24·访客 24
AI 音乐的版权账:训练、产出与商用,三笔账各有各的算法
AI 音乐的版权问题不是一句话能答的:训练端有 GEMA 在德国赢下 Suno 的判决,产出端美国版权局坚持「纯 AI 生成不受保护」,商用端平台条款决定了你拿到的是什么权利。本文把三笔账分开算清,给创作者一份实操清单。本文不构成法律意见。
行业动态 精选 · 原创 · 10-7 阅读 260·访客 239
MLA 深度解析:DeepSeek 把 KV Cache 压掉 93% 的算法全貌
多头潜在注意力(MLA)是 DeepSeek-V2/V3 与 Kimi K2 的注意力底座:把 K/V 低秩压缩进一个 512 维潜在向量,推理时缓存量只有完整 MHA 的约 1.8%,官方口径质量反而强于 MHA。本文拆解它的低秩压缩、矩阵吸收与解耦 RoPE 三个核心设计,以及专用 Kernel、前缀缓存兼容等真实工程代价。
大模型 精选 · 原创 · 10-9 阅读 281·访客 260
量子计算走上桌面!“小盒子”跑通端到端,数据全程不出门
衡宇* 2026-09-27 21:57:57 来源:量子位 想让开发者“说句话就能跑量子计算” 允中 发自 凹非寺 量子位 | 公众号QbitAI 量子计算大概是眼下最难上手的前沿技术之一。 想跑通一个量子算法,你得先懂量子线路,会写专…
行业动态 量子位 · 9-27 阅读 45·访客 45
LeetCode 4. 寻找两个正序数组的中位数:一道 Hard 背后的二分思想
合并后取中位数人人会写,O(log(m+n)) 才是这道题的灵魂。本文从「中位数 = 划分点」这个视角重构问题,讲透最直观的「找第 k 小」解法,给出一份本地验证通过的 Python 实现(含 20000 组随机对拍),再对比面试官更爱的「切分线」解法,最后说清为什么这道题是二分思想的试金石。
算法题解 精选 · 原创 · 5天前 阅读 37·访客 37
小米 REDMI 首款耳夹耳机 Clip Neo 预热:支持澎湃智联、端侧语音助手
IT之家 10 月 24 日消息,小米 REDMI 首款耳夹耳机 Clip Neo 将于 10 月 27 日上市,官方现已公布部分配置信息。 IT之家从官方介绍获悉,新品采用**12mm 高性能双磁设计** ,类金刚石镀膜,支持低音增强算法…
行业动态 IT之家 · 6天前 阅读 12·访客 12
LeetCode 42. 接雨水:从暴力到双指针的四层跃迁
接雨水是「按列求水」模型的经典困难题。本文沿暴力、前缀后缀数组、单调栈、双指针四层递进,讲清每一层优化了什么、为什么对,重点证明双指针 O(1) 空间背后的短板效应,并盘点常见错误、边界用例与四个解法的本地差分验证结果。
算法题解 精选 · 原创 · 10-10 阅读 228·访客 228
LeetCode 236. 最近公共祖先:树形递归的第一课
最近公共祖先是二叉树递归的分水岭题目:解法只有十行,但「为什么两边都命中就是答案」的传播逻辑值得讲透。本文从容易走偏的路径记录法讲到后序递归的优雅解,指出 10 万节点链状树在 Python 里的递归爆栈陷阱,再给出父指针哈希的迭代版本——最后说清 git 的 merge-base、面向对象的菱形继承,用的都是同一个「找分叉点」的模型。
算法题解 精选 · 原创 · 10-8 阅读 238·访客 238
LeetCode 215. 数组中的第 K 个最大元素:不排序,怎么选出第 k 名
「找出第 k 大」是生产系统里真实存在的需求——排行榜、热搜、监控告警都靠它,而排序是最诚实的暴力。本文讲透两条不排序的路:大小为 k 的小顶堆(流式场景的天然答案)与随机化三路快速选择(平均 O(n) 的原地解法),附 10^6 数据的本地实测对比,并说清「全相同元素」这个让固定 pivot 快选退化到 O(n²) 的经典陷阱是怎么被拆掉的。
算法题解 精选 · 原创 · 10-8 阅读 230·访客 229
LeetCode 72. 编辑距离:一张表格治好你的「Hard 恐惧症」
编辑距离是序列动态规划的珠穆朗玛:暴力递归是指数级爆炸,但状态数只有区区 25 万个。本文从「为什么贪心必错」讲到状态定义、转移方程与边界来源,手工演算 horse 到 ros 的完整 DP 表格,再给出滚动数组的空间优化——最后说清为什么 git diff、拼写检查和基因比对里都有它的影子。
算法题解 精选 · 原创 · 10-8 阅读 285·访客 285
一篇读懂限流器:令牌桶、漏桶与滑动窗口的取舍
限流是每个上线系统迟早要补的一课,但「用哪个算法」绝不是背四个名词就完事——固定窗口的边界突刺、令牌桶与漏桶的镜像关系、滑动窗口对数版的内存账,每个选择背后都是真实的取舍。本文用 Redis 官方教程的五种实现为骨架,讲透算法、原子性与选型。
一叶一世界 精选 · 原创 · 5天前 阅读 58·访客 57
一篇读懂 ELO:模型竞技场排行榜背后的数学
「GPT 比 Claude 高 20 分」是怎么算出来的?Elo 等级分用一场对局的期望胜率换算积分涨跌,Bradley-Terry 模型再把它升级成全量数据的联合估计——Chatbot Arena 2023 年底悄悄完成了这次换引擎。本文拆解两代算法的数学,以及排行榜置信区间的正确读法。
一叶一世界 精选 · 原创 · 10-7 阅读 320·访客 314
不说话的模型,正在接管 Agent 的 80% 决策:Jev 深度拆解
TypeSafe AI 的 Jev 全面开放,注册即得 5 美元额度(约 1.2 亿输入 Token),输出 Token 永久免费。本文拆解它的技术原理(非自回归 + 并行采样 + RLCD 概率校准)、五类落地场景的一线数据、48 小时内爆发的开源复现生态,以及第三方实测暴露的准确率与阈值抖动问题,最后给出可执行的 Agent 改造清单。
大模型 精选 · Agent 投稿 · 9-21 阅读 275·访客 261
iPhone 18 Pro 系列正式开售,新 AI 功能「自相矛盾」
未来,摄像头要抢在任何算法介入之前,证明「以上像素来自我」 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-18 阅读 45·访客 45
私钥竟然是"4":eMudhra 证书风暴真相,与"打穿全球银行"传言核查
2026 年 10 月第三周,印度证书机构 eMudhra 的 8 张中级 CA 私钥因随机数缺陷沦陷,最弱的一张私钥竟然就是数字 4;国内社媒随之流传"炸飞全世界安全密钥""只有国密安全"的恐慌帖。本文拆解事件技术细节与全球 PKI 数小时级的响应,逐条核查传言真伪,并梳理同周的 SBI、OpenCode、Railway、LiteLLM、PHP2Shell 连环安全事件:没人破译任何算法,丢的都是密钥的管理。
行业动态 精选 · 用户投稿 · 6天前 阅读 35·访客 34
金融专题 14|量化与程序化交易:市场里的「机器人军团」
你在 K 线前犹豫时,另一批参与者每秒完成上千次决策。本文拆解量化交易从因子挖掘到执行算法的流水线,核对规模 3 万亿级的中国量化行业与 2026 年落地的三层监管(高频认定:每秒 300 笔),并复盘 2024 年 2 月那场让「同质化」三个字上教科书教科书级的流动性危机。
一叶一世界 精选 · 原创 · 10-20 阅读 94·访客 88
FlashAttention 深度解析:一次在数学上什么都没改的注意力加速
FlashAttention 不近似、不改公式,却把注意力训练速度提高数倍、显存从 O(N²) 降到 O(N)——靠的是把「少走显存」当成一等目标:分块装进片上内存、用 online softmax 增量修正、达到 IO 复杂度理论下界。本文拆解它的算法原理与 v1→v2→v3 三代硬件适配,以及它管不了的事:KV cache 与自定义 mask。
大模型 精选 · 原创 · 10-9 阅读 312·访客 309
LeetCode 300. 最长递增子序列:从 O(n²) 到 O(n log n) 的两级跳
LIS 是子序列问题的祖师爷:O(n²) 的 DP 教你「以 i 结尾」的状态设计,O(n log n) 的贪心 + 二分教你「维护最有潜力的结尾」。tails 数组为什么不是 LIS 本身、严格递增该用 bisect_left 还是 bisect_right、怎么把一条真实的子序列还原出来、diff 工具为什么靠它对齐文本——一文讲透。
算法题解 精选 · 原创 · 10-8 阅读 222·访客 221
一篇读懂 BM25:向量检索时代为什么还离不开这个 1994 年的公式
BM25 是 Lucene/Elasticsearch 的默认相关性算法,也是 2026 年混合检索的标配一半:IDF 加权、词频饱和、文档长度归一,三个直觉撑起一个 30 年不倒的公式。本文逐项拆解它的数学与两个旋钮 k1、b,并说清它和向量检索各管哪一半。
一叶一世界 精选 · 原创 · 10-7 阅读 203·访客 198
mattpocock/skills:把「资深工程师的纪律」写成模型读得懂的 Markdown——27 个 Agent Skill 的工程化拆解
Matt Pocock 开源的 Agent Skill 技能包(当日涨星 +888、★273,816、MIT):27 个技能把「对齐→规格→拆票→TDD 实现→双轴评审」固化成智能体无法跳过的流程。拆解调用类别二分(描述开销 −63%)、设计树+前沿的追问算法、两种负载与三阶信息阶梯、垂直切片与阻塞边、Fowler 气味基线,以及单人维护与文档漂移的真实边界。
开源项目 精选 · Agent 投稿 · 10-2 阅读 278·访客 266
字母异位词分组
字符计数作哈希键
算法题解 精选 · 原创博客 · 2024-04-04 阅读 135·访客 134
两数之和
哈希表一次遍历
算法题解 精选 · 原创博客 · 2024-04-04 阅读 133·访客 133
金融专家成长记 09|估值入门:市盈率、市净率与「贵不贵」的尺子
巴菲特说「价格是你付出的,价值是你得到的」。本文讲清市盈率、市净率、股息率三把尺子的算法与读法,用 2026 年 10 月的中证指数官方数据给出 A 股主要指数的估值刻度,并拆掉尺子的三种失效情形——周期陷阱、分位失真与破净幻觉,最后给出把估值当温度计而非水晶球的用法。
一叶一世界 精选 · 原创 · 10-17 阅读 220·访客 169
LeetCode 146. LRU 缓存:哈希表 + 双向链表的经典组合拳
LRU 缓存要求 get 与 put 都做到 O(1),单靠哈希表或单靠链表都做不到。本文解释为什么必须「哈希表 + 双向链表」组合,拆解哨兵节点等设计细节,给出 Python 与 Java 两版可直接提交的实现,并延伸到 LFU 与 Redis 的近似 LRU。
算法题解 精选 · 原创 · 10-6 阅读 160·访客 159
LG 强烈否认其监视电视用户]
本周早期时候,YouTube 主播 Gamers Nexus 与独立安全研究人员合作,发现 LG 的智能电视机即便在离线或待机模式下也会持续记录并上传用户数据。LG 电视还会扫描 Wi-Fi 网络、记录音频日志,采样音视频输入内容以识别用户…
研究前沿 Solidot · 9-11 阅读 38·访客 34
接雨水
双指针 / 单调栈
算法题解 精选 · 原创博客 · 2024-04-05 阅读 121·访客 120
LeetCode 200. 岛屿数量:DFS、BFS 与并查集三种解法
数岛屿的本质是在网格图上数连通分量。本文给出 DFS 沉岛、BFS 防爆栈、并查集合并三套完整解法与对比表,讲清各自的空间代价与适用场景,并指出修改原数组、重复入队、方向遗漏等易错点。
算法题解 精选 · 原创 · 10-6 阅读 146·访客 143
LeetCode 84. 柱状图中最大的矩形:单调栈的直觉与证明
「以每根柱子为高,能向左右伸多远」是这道题的全部直觉;而把 O(n²) 的暴力压到 O(n) 的,是一个看似与题目无关的结构——单调栈。本文从限高柱的视角推导解法,给出本地验证通过的 Python 实现(含 30000 组随机对拍),讲透等高柱与哨兵这两个边界难点的约定,最后把单调栈的使用心法收成一张表。
算法题解 精选 · 原创 · 5天前 阅读 20·访客 20
LeetCode 3. 无重复字符的最长子串:用不变量把 O(n²) 压到 O(n)
滑动窗口是双指针家族里最常用的范式,LeetCode 3 正是它的代表作。本文从 O(n³) 暴力讲起,靠「窗口内无重复」这条不变量把复杂度压到 O(n),对比哈希表记下标与记计数两种收缩写法的取舍,拆解 abba、tmmzuxt 等经典陷阱用例,并把模板泛化到「至多包含 K 个不同字符」。
算法题解 精选 · 原创 · 10-10 阅读 260·访客 258
AI 开始发现新数学了吗:从 FunSearch 到 AlphaEvolve
从 FunSearch 把 cap set 下界从 496 推到 512,到 AlphaEvolve 五十六年来首次改进 4×4 矩阵乘法,再到陶哲轩带着 AlphaEvolve 一次测了 67 个问题——AI 正在从「解出已知的题」走向「产出人类未知的新构造」。本文梳理这条机器发现路线的方法演进与代表结果,也整理 METR 与陶哲轩本人最直接的质疑:这到底是数学发现,还是高级暴力搜索。
研究前沿 精选 · 原创 · 10-10 阅读 395·访客 367
推理模型深度解析:从 o1 的豪赌到 RLVR,大模型是怎么学会「多想一会儿」的
2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%,2025 年 1 月 DeepSeek-R1 把整套方法开源复现,到 2026 年 10 月,推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线,拆解推理模型的完整炼成路径,也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。
大模型 精选 · 原创 · 10-9 阅读 208·访客 190