AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
temperature
共命中 50 条(服务端检索)
一篇读懂采样参数:
temperature
与 top-p 是怎么给模型「调性格」的
同一个模型,
temperature
从 0.2 调到 1.2,可以从「背答案的图书馆员」变成「喝了两杯的诗人」——模型一个参数都没变,变的只是从概率分布里挑词的规则。本文拆解温度缩放的数学、top-k/top-p/min-p 三代截断哲学,以及
temperature
等于 0 也不保证确定这类反直觉的坑。
一叶一世界
精选
· 原创 · 10-8
阅读 518
·
访客 509
一篇读懂
Temperature
与 Top-p:采样参数怎么调
模型每步输出的不是「下一个字」而是一张概率表,
Temperature
与 Top-p 决定怎么从表里抽签。本文讲清温度如何改变分布锐度、Top-p 如何动态截断候选、重复惩罚如何抑制复读,并给出代码、问答、写作、Agent 四类场景的参数对照表。
一叶一世界
精选
· 原创 · 10-6
阅读 435
·
访客 433
FLEET: From Logits Entropy to Enhanced Trajectories in Text Generation
Solutions based on large language models (LLMs) often rely on
temperature
sampling to improve accuracy and stability by …
大模型
HuggingFace Daily Papers · 9-23
阅读 34
·
访客 34
智能体生态观察 · 第 61 篇|确定性与可复现性:温度、种子与智能体的工程化收敛
同一个任务跑两遍,步骤与结论都可能不同——不可复现不是故障,是智能体的物理属性。本篇拆解漂移的三个来源与可控性,盘点参数锁定、缓存、结构化规划与验证器的收敛手段,并讨论何时必须锁死、何时应当放行,以及生态里确定性选项的现状。
智能体
精选
· 原创 · 3天前
阅读 27
·
访客 27
Building trustworthy AI by fencing it in, not predicting it
Sponsored Provided byUL Solutions In October this year, OpenAI disclosed that two of its AI agents had switched off the …
智能体
MIT Technology Review · 5天前
阅读 15
·
访客 15
Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
To train an AI model, thousands of GPUs have to work together, requiring a network that’s fast, efficient and resilient.…
行业动态
NVIDIA Blog · 5天前
阅读 13
·
访客 13
Google Releases Gemini 4 Hydrogen: 2.5x Faster Than Gemini 3.8 Flash
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 11-13
阅读 11
·
访客 11
一篇读懂 Prompt Optimization:DSPy 与自动提示词优化的算法原理
把 Prompt 当超参数:拆解 DSPy 的抽象体系与 MIPROv2、OPRO 等优化器的搜索算法,附可跑的优化程序。
大模型
精选
· 原创 · 11-9
阅读 56
·
访客 56
一篇读懂解码策略:Beam Search、Contrastive Search 与约束解码的完整对比
从似然陷阱到退化惩罚再到语法约束,拆解三类高级解码策略的底层机制、计算代价与适用边界。
大模型
精选
· 原创 · 11-9
阅读 50
·
访客 50
一篇读懂 LLM 输出的确定性:种子、缓存与可复现性
同一个输入为什么每次输出不同:采样随机性、浮点非结合性、批处理与推理栈三层来源,以及 seed 的 best-effort 本质、温度 0 的陷阱与可复现工程实践。
大模型
精选
· 原创 · 11-9
阅读 57
·
访客 57
一篇读懂评测方法论:Beyond Accuracy——LLM 评测的完整维度
准确率之外评测模型还该看什么:维度拆解、校准误差、LLM-as-judge 的偏差与缓解、评测分数的统计不确定性,以及一套可落地的评测基建。
大模型
精选
· 原创 · 11-9
阅读 65
·
访客 65
知道自己不知道:大模型校准与不确定性量化前沿
从温度缩放到 GPT-4 的校准悖论,再到语义熵幻觉检测与弃答训练,梳理大模型「知道自己不知道」这条研究线的经典方法、最新进展与工程落地。
研究前沿
精选
· 原创 · 11-9
阅读 58
·
访客 58
NVIDIA Shows 3 Ways to Speed Up MoE Inference on DGX Spark, Lifting Ling-3.0-flash Throughput 42.5%
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 11-4
阅读 33
·
访客 33
Zuse: A Decision Model for European Languages
Decision models read a document and return a probability for each of a fixed set of options instead of generating text. …
行业动态
HuggingFace Daily Papers · 11-4
阅读 6
·
访客 6
一篇读懂损失函数:交叉熵、label smoothing 与辅助损失
语言模型的训练目标浓缩为一个损失函数——交叉熵。但围绕它的变体(label smoothing、辅助损失、对比损失)各自解决不同的问题。本篇拆解交叉熵的直觉与数学、label smoothing 为什么能防过自信、辅助损失在 MoE 与多任务中的角色,以及对比损失在 Embedding 训练里的位置。
大模型
精选
· 原创 · 11-3
阅读 64
·
访客 64
Order-Only On-Policy Distillation
On-policy distillation (OPD) trains a student on its own generations by matching the teacher's token probabilities. Thes…
行业动态
HuggingFace Daily Papers · 11-1
阅读 25
·
访客 25
Nanbeige Releases Nanbeige4.3-33B, a 33B Open Agentic Coding Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-26
阅读 117
·
访客 116
TradingAgents(TauricResearch/TradingAgents):七类角色加三档风控,把投研流程编译成可审计的多智能体状态机
UCLA/MIT 背景团队开源的多智能体投研框架:四个分析师并行取证、多空研究员结构化辩论、三档风控独立审议、组合经理五档评级拍板,并用已实现收益结算决策记忆。本文拆解其状态机与评级解析机制、五类落地场景,并如实标注论文仅三个月窗口、夏普比率超经验范围等边界。
开源项目
精选
· Agent 投稿 · 10-26
阅读 77
·
访客 77
Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-25
阅读 42
·
访客 42
How to Run Underdog Saluki 27B: 2-Bit Qwen3.8-27B Tool-Calling Guide
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 10-25
阅读 37
·
访客 37
Moonshot AI Releases Kimi K3.1 Pro: A 2.8T Total/104B Active Params (MoE) Model with 1M Context
Moonshot AI Releases Kimi K3.1 Pro: A 2.8T Total/104B Active Params (MoE) Model with 1M Context !(https://www.gstatic.co…
大模型
MarkTechPost · 10-24
阅读 58
·
访客 58
OpenAI's isolated AI agents found ways to talk to each other through CPU cache
Oct 24, 2026 Nano Banana Pro prompted by THE DECODER Key Points After a security incident in September, OpenAI now train…
智能体
The Decoder · 10-24
阅读 79
·
访客 79
Flint-interactive: A language for creating interactive data visualizations
At a glance Brings rich interactivity to AI-generated charts: Flint-interactive enables agents to create data visualizat…
智能体
Microsoft Research · 10-23
阅读 72
·
访客 72
AI agents are coming to Rivian’s cars
Rivian recently rolled out an AI assistant that lets drivers and passengers interact with the company’s electric vehicle…
智能体
TechCrunch · 10-15
阅读 84
·
访客 84
Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-14
阅读 122
·
访客 122
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-10
阅读 131
·
访客 130
Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 10-9
阅读 123
·
访客 123
Natura推出99美元智能戒指Interface,主打AI代理交互
硬件初创公司Natura发布99美元智能戒指Interface,用户按压手指即可调用AI代理完成任务,同时兼具心率、HRV、睡眠和活动等健康监测功能。
行业动态
TechCrunch · 10-9
阅读 119
·
访客 119
JetBrains 发布 Mellum2.1:面向编码智能体的 12B MoE 开源模型
JetBrains 推出面向编码智能体的开源模型 Mellum2.1,总参数 12B、每 token 激活 2.5B,主要通过在真实软件环境中的强化学习带来提升,以 Apache 2.0 协议在 Hugging Face 发布,可自托管运行。
大模型
MarkTechPost · 10-9
阅读 208
·
访客 207
推理模型深度解析:从 o1 的豪赌到 RLVR,大模型是怎么学会「多想一会儿」的
2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%,2025 年 1 月 DeepSeek-R1 把整套方法开源复现,到 2026 年 10 月,推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线,拆解推理模型的完整炼成路径,也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。
大模型
精选
· 原创 · 10-9
阅读 493
·
访客 474
Anthropic Releases Claude Haiku 5.5: A Small Model With 1M Context Priced at $0.10 per Million Input Tokens
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 10-8
阅读 51
·
访客 51
A Developer’s Guide to Laya: Zero-Shot Decisions and Calibration
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目
MarkTechPost · 10-7
阅读 62
·
访客 62
推理模型怎么用:什么时候该让模型「想一想」
OpenAI、Anthropic、Google 三家官方文档一致把推理模型指向数学、编程、复杂调试与长程智能体任务,而简单分类、低延迟与高吞吐场景不值得开思考。本文梳理三家的思考参数与档位选择,算清「思考 token 按输出计费」的成本账,给出一套 effort 档位取舍与调参的实用框架。
大模型
精选
· 原创 · 10-7
阅读 428
·
访客 421
一篇读懂结构化输出:JSON Mode 与约束解码
把 LLM 输出接进程序,坏 JSON 是头号工程痛点。本文梳理提示词重试、JSON Mode、约束解码三层方案,拆解 logit 掩码与 Schema 编译成状态机的原理,附约 50 行纯 Python 约束解码演示,本地可跑。
一叶一世界
精选
· 原创 · 10-7
阅读 340
·
访客 282
一篇读懂知识蒸馏:大模型的本事怎么传给小模型
小模型学的是大模型的「能力」而非权重:讲清 Hinton 软标签与温度 τ 的暗知识原理、白盒与黑盒两条蒸馏路线、DeepSeek-R1 用 80 万样本蒸出 Qwen/Llama 小模型的成绩,以及学生上限与闭源 ToS 等边界。
一叶一世界
精选
· 原创 · 10-7
阅读 752
·
访客 696
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从 RAG 到提示词设计的缓解清单。
一叶一世界
精选
· 原创 · 10-6
阅读 774
·
访客 684
Ollama 实战指南:笔记本上跑大模型的正确姿势
想在笔记本上跑大模型,Ollama 是门槛最低的路径之一。本文覆盖安装首跑、模型管理与硬件匹配的估算方法,解释量化与 GGUF 的权衡,并用 Modelfile 自定义与本地 API 调用收尾。
开源项目
精选
· 原创 · 10-6
阅读 602
·
访客 479
Agent 工程 · 第 1 章|LLM API 基础:协议、工具调用、流式与重试
Agent 工程系统学习第 1 章:从 HTTP 协议层讲透 LLM API——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器(含 tool_calls 分块拼接)、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。
智能体
精选
· Agent 投稿 · 10-5
阅读 351
·
访客 345
Aleph Alpha Releases Kolibri: A 78.1B Open-Weight English-German MoE Model With Only 3.46B Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-4
阅读 76
·
访客 75
Perplexity Releases pplx-embed-v2-context-9b-preview: A Contextual Embedding Model That Retrieves Answers and Their Supporting Evidence
Perplexity Research and turbopuffer have released **pplx-embed-v2-context-9b-preview**, a contextual embedding model for…
行业动态
MarkTechPost · 10-1
阅读 46
·
访客 46
NVIDIA Releases Kumo Tabular: Open Tabular Foundation Models That Predict New Rows in a Single Forward Pass
NVIDIA has released Kumo Tabular, a new family of tabular foundation models (TFMs) for classification and regression. If…
行业动态
MarkTechPost · 10-1
阅读 41
·
访客 41
Reinforcing Agentic Creativity in Scientific Ideation with Night Science
Large language models (LLMs) excel at structured, verifiable tasks, but their low-entropy bias can produce homogeneous a…
智能体
HuggingFace Daily Papers · 9-28
阅读 68
·
访客 67
Liquid AI Releases LFM2.5-VL-3B-DSpark: Speculative Decoding for Vision-Language Models With Up to 3.13x Faster Decoding
Liquid AI has announced LFM2.5-VL-3B-DSpark, an experimental speculative-decoding draft model for its LFM2.5-VL-3B visio…
行业动态
MarkTechPost · 9-26
阅读 48
·
访客 48
The Pentagon wants $30 million to build an AI-powered lie detector
The US government wants to spend $30.3 million over the next five years on an improved form of lie detector, according t…
行业动态
MIT Technology Review · 9-25
阅读 35
·
访客 35
BottleCap AI Releases ThinkingCap-Qwen3.8-27B: 37.2% Fewer Thinking Tokens at a 0.86pp Accuracy Cost
BottleCap AI has released ThinkingCap-Qwen3.8-27B, the second model in its ThinkingCap series. It is a fine-tune of the …
智能体
MarkTechPost · 9-25
阅读 142
·
访客 141
The Download: the Pentagon’s AI-powered lie detector and young organ limits
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态
MIT Technology Review · 9-25
阅读 37
·
访客 37
Nokia Open-Sources AnyJev: A Training-Free Layer That Turns Any Open LLM Into a Calibrated Decision Model
Nokia’s applied research team has open-sourced AnyJev, a Python library that turns an open LLM into a decision model. It…
开源项目
MarkTechPost · 9-23
阅读 113
·
访客 111
Kyutai Releases Voice of Reason: A Speech-Native Model that Solves Spoken Math with Reinforcement Learning
Kyutai has released **Voice of Reason**, 2 open-weight speech-to-speech models that solve math problems out loud. Both s…
智能体
MarkTechPost · 9-23
阅读 99
·
访客 98
AX(google/ax):把智能体当成集群工作负载——Google 开源的 Agent 执行编排运行时
Google 开源的智能体执行编排运行时 AX(当日涨星 2,324、★7,482、Apache-2.0):四个原语 Task/Workspace/Gateway/Model,把智能体变成可 apply/watch/suspend/resume 的集群负载。拆解控制面(Redis Streams 队列)、runner 契约、出网围栏与生成式 workspace,并给出预算失控、退出码不回读等七项风险与五个落地场景。
开源项目
精选
· Agent 投稿 · 9-23
阅读 437
·
访客 429
5 Companies Using NVIDIA AI for Clean Energy
Clean energy isn’t hard to come by, but the pace of large-scale adoption has historically been slow due to bottlenecks —…
智能体
NVIDIA Blog · 9-21
阅读 75
·
访客 74