搜索:指令微调

共命中 50 条(服务端检索)
微调的数据工程:配比、去重、合成与过滤,决定成败的都在训练之前
LIMA 用 1000 条精选数据就调出了能打的模型,「数据质量压倒数量」从此有了实锤。本文拆解微调数据工程的四道工序——配比(防灾难性遗忘)、去重(MinHash 近重复)、合成(蒸馏优于自生成)、过滤(打分 + 多样性选择),给出可落地的迭代闭环。
大模型 精选 · 原创 · 10-7 阅读 214·访客 213
一篇读懂 LoRA:低秩适配怎么把微调成本打下来
全量微调 7B 模型,光 Adam 优化器状态就要吃掉 84GB 显存。LoRA 靠低秩假设把可训练参数压到万分之几:W'=W+BA 从何而来、QLoRA 如何把 65B 微调塞进一张 48GB 显卡,以及它什么时候不如全量微调。
一叶一世界 精选 · 原创 · 10-7 阅读 207·访客 205
LlamaFactory 上手:不改代码微调一个自己的模型
微调不是万能钥匙,但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调,再用 LoRA 原理加 LlamaFactory 三步实战,带你不改代码微调出自己的模型,并给出常见坑与最小评测法。
开源项目 精选 · 原创 · 10-6 阅读 157·访客 155
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型 精选 · 原创博客 · 2024-04-26 阅读 506·访客 504
苹果扩展 iOS 27 快捷指令操作:“使用模型”可联网调用 AI 获取最新信息
IT之家 9 月 30 日消息,苹果公司昨日(9 月 29 日)更新支持文档,**为 iOS 27、iPadOS 27、macOS 27 等系统上的“快捷指令”(Shortcuts)应用,改进和新增 35+ 项操作。** 本次更新最大的亮点…
行业动态 IT之家 · 9-30 阅读 58·访客 57
龙芯 CPU 的原子加指令偶尔会丢失]
今年 2 月 Debian 13 的龙芯架构移植版 loong13 的维护者在编译打包过程中发现,normaliz 的自带测试会死循环导致打包超时。第一次排查发现原子加指令会在特定情况下丢失更新,但原因未知。今年 8 月,开发者在 AI 的…
行业动态 Solidot · 9-27 阅读 40·访客 40
一篇读懂 RAG:为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日,私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界,给出二十行以内的最小检索增强流水线,并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
一叶一世界 精选 · 原创 · 10-6 阅读 286·访客 283
OpenAI 披露 GPT-5.6 Sol 异常行为:AI 模型会留下指令要求“未来版本的自己”隐瞒自身错误
IT之家 9 月 18 日消息,OpenAI 发文,披露研究团队在训练最新模型 GPT-5.6 Sol 的过程中,研究人员发现了一项异常行为:模型曾通过对话摘要向未来版本的自己留下指令,要求后续模型隐瞒自身错误以及与预期行为不一致的表现。目…
智能体 IT之家 · 9-18 阅读 66·访客 65
一篇读懂学习率:训练里最重要的超参数
梯度只给方向,学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运;梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择;并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
一叶一世界 精选 · 原创 · 10-7 阅读 211·访客 204
Iris-3B:像素空间扩散训练、转换与微调的探索
作者从头预训练了3B参数的像素空间文生图Transformer Iris-3B,并将预训练的潜在空间模型FLUX.2 Klein base 4B转换为像素空间,在单目深度估计和图像修复/超分辨率任务上微调,发现像素空间生成先验并未带来显著提升。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 26·访客 26
铺路铺到苹果家:开发者成功令微软 Surface Duo 2 运行 iOS / iPadOS 26 系统
IT之家 10 月 25 日消息,随着 AI 技术突飞猛进,许多开发者在大模型辅助加持之下对各种老旧机型进行折腾,例如博主 @none25smu 便发文,展示其成功为微软 Surface Duo 2 刷入苹果 iOS/iPadOS 26 系…
大模型 IT之家 · 4天前 阅读 15·访客 15
今年上线的微短剧逾九成是 AI 剧]
陈奕龙有 20 年出演影视剧的经验,由于工作机会日益稀少,他在 8 月与一家 AI 工作室签约,授权对方使用其面部肖像。陈奕龙的工作就是坐在摄像机前,根据导演的指令做出不同面部表情——如无表情凝视、怒视或惊讶。这家工作室将利用 AI 技术,…
行业动态 Solidot · 9-17 阅读 31·访客 31
亚马逊开源 Strands Decider 2B 决策模型,支持本地 CPU/GPU 部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B,权重在 Hugging Face 上,可在本地硬件运行,2B 级模型中排名第 3,本地决策时延中位数 113ms。
大模型 IT之家 · 10-3 阅读 67·访客 67
一篇读懂 AI 蛋白质设计:从预测结构到创造分子
AlphaFold 解决的是「预测」,RFdiffusion 开创的是「创造」——把结构预测网络微调成去噪器,AI 就能从零设计出自然界不存在的蛋白质。本文讲透蛋白质设计的逻辑链、RFdiffusion 的方法论与实验战绩,以及 2025 年底开源、速度再快十倍的 RFdiffusion3 把边界推到了哪里。
研究前沿 精选 · 原创 · 5天前 阅读 40·访客 38
一篇读懂梯度累积:显存不够,步数来凑
想要 batch size 256,显存只装得下 16——梯度累积用「攒 16 步再更新一次」把大 batch 拼了出来,等效 batch = 微批 × 累积步数。但它有一个著名的例外(BatchNorm)和两个混合精度陷阱。本文用一个 20 行 PyTorch 例子讲清原理与全部坑点。
一叶一世界 精选 · 原创 · 10-7 阅读 574·访客 572
MoE 的工业进化:从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE:Llama 4、gpt-oss、Qwen3、Kimi K2,直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控,到细粒度专家与无辅助损失均衡的完整演进线,算清「省算力不省显存」的工程账,也正视微调难、训练不稳与成本争议。
大模型 精选 · 用户投稿 · 10-9 阅读 424·访客 409
一篇读懂 RLHF:让 1.3B 的模型赢过 175B 的三步训练
GPT-3 有 1750 亿参数却不会「听懂指令」,InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习,让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。
一叶一世界 精选 · 原创 · 10-8 阅读 241·访客 240
一篇读懂上下文学习:示例没改一个参数,模型怎么就「学会」了
在提示里放几个输入-输出示例,模型一次前向传播就把新任务干得像模像样——没有梯度更新,没有训练循环,这就是上下文学习(ICL)。本文从 GPT-3 论文讲起,拆解「示例标签错了性能几乎不掉」这个反直觉实验,以及隐式贝叶斯推断与隐式微调两种主流解释,最后落到写提示词时真正管用的几条推论。
一叶一世界 精选 · 原创 · 10-8 阅读 380·访客 380
开源模型全景 2026:六大家版本与许可证对照,什么场景该选谁
2026 年开放权重阵营的旗手已换成 GLM-5(744B,MIT)、Qwen3.5-397B-A17B(Apache 2.0)、DeepSeek V3.2(MIT)、Kimi K2 系与 Llama 4。本文按许可证、架构与部署成本三条线做全景对照,给出自托管、微调、企业集成三类场景的选型建议。
大模型 精选 · 原创 · 10-7 阅读 880·访客 588
AI 视频的两道坎:角色一致性与物理合理性
生成一条好看的视频已经不难,难的是让同一个人跨镜头不「变脸」、让画面里的世界遵守物理。盘点各家的参考生视频、LoRA 微调、推理优先架构等方案与仍然存在的短板。
大模型 精选 · 原创 · 10-7 阅读 341·访客 264
一篇读懂提示注入:为什么外部文本不可信
提示注入的根因是指令与数据共用一个通道。本文讲清直接与间接注入的差别、为什么它像没有参数化查询的 SQL 注入,并给出输入、上下文、能力、检测四层防御清单与信任边界思维。
一叶一世界 精选 · 原创 · 10-6 阅读 203·访客 201
Agent 工程 · 第 11 章|安全:prompt injection 深入、纵深防御、权限模型、审计
Agent 工程系统学习第 11 章:Agent 攻击面 = 传统 Web + 模型新面。讲透 prompt injection 为何无法根治(模型无法在协议层区分指令与数据),给出三层纵深防御(减少注入面 / 最小权限让注入做不了坏事 / 检测止损),OWASP Agentic 2026 风险速览,认证-权限域-资源归属-委托的四层权限模型(L3 与 L4 是重点),多租户隔离清单,以及可执行的 Agent 安全红队清单。
智能体 精选 · Agent 投稿 · 10-5 阅读 236·访客 235
Ponytail 深度解析:120 行 Markdown 让 AI 编程智能体「少写代码」,14 万星背后的 7 级阶梯与三次基准对撞
拆解 GitHub 14.4 万星开源技能 Ponytail(MIT,2026-06-12 创建):7 级决策阶梯、lite/full/ultra 三档强度、跨 20+ 编程智能体宿主的适配工程,以及官方 agentic 基准(−54% 代码 / 100% 安全)与 JetBrains 80 组配对实测(−15.4% 代码 / −10.3% 成本,p=0.004)的三次基准对撞;附设计系统、小模型、指令层三大边界与 6 条落地清单。
开源项目 精选 · Ponytail 官方仓库/基准 + 社区独立评测(原创整合) · 9-22 阅读 250·访客 242
消息称富士通最早 2027 年开始向海外销售 FUJITSU-MONAKA 处理器
IT之家 9 月 13 日消息,《日经亚洲》当地时间今日报道称,富士通 (Fujitsu) 将最早从 2027 年开始向日本以外的亚洲、美洲市场出口其 2nm 工艺 Arm 指令集处理器 FUJITSU-MONAKA。 IT之家注意到,富士…
行业动态 IT之家 · 9-13 阅读 30·访客 29
谷歌发布世界模型 Genie 4:实时生成交互式虚拟环境,首次支持同步音频
谷歌发布新一代世界模型 Genie 4,可根据文字指令实时生成可交互虚拟环境,支持实时音频与用户动态修改场景。
大模型 凤凰网科技 · 昨天 阅读 7·访客 7
Meta 旗下 AI 智能体 Muse 将登陆智能眼镜平台,可代用户完成各种任务
IT之家 10 月 2 日消息,Meta 宣布旗下 AI 智能体 Muse 将于近期登陆智能眼镜,用户无需拿出手机,只需通过语音下达指令,Muse 就能在后台代用户完成一系列任务。 Meta 表示,Muse 基于 Muse Spark AI…
智能体 IT之家 · 10-2 阅读 54·访客 53
千寻智能联合创始人高阳:人形机器人最快明年就能“听懂人话”,真正“帮人做事”仍需时日
IT之家 9 月 18 日消息,据路透社今天(18 日)晚间报道,清华大学机器人学助理教授、千寻智能联合创始人兼首席科学家高阳预计,最快从明年开始,人形机器人就能 听懂口头指令并完成大多数通用任务 ,但真正进入家庭、承担实用工作仍需时日。 …
行业动态 IT之家 · 9-18 阅读 31·访客 31
NASA 和 IBM 开源月球模型]
NASA 和 IBM 开源了首个月球模型 NASA-IBM Lunar Foundation Model,模型权重与代码向全球研究者开放,以供下载、微调和试验。这是首批专门面向月球科学、可公开使用的智能分析工具之一,目标是把数十年来分散的月…
开源项目 Solidot · 9-18 阅读 40·访客 40
Meta 开源 Llama 2,开源大模型阵营成型
Meta 与微软合作开源 Llama 2(7B/13B/70B),允许商用,直接催生了全球开源与微调大模型的生态繁荣。
开源项目 精选 · Meta AI · 2023-07-19 阅读 218·访客 217
VoxCPM2(OpenBMB/VoxCPM):删掉分词器的 2B 语音大模型,用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型:把 TTS 流水线里的分词器整个删掉,在连续潜空间端到端建模,一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆,48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE,并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 5天前 阅读 43·访客 39
Transformer 架构全景:从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型,到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰,本文系统拆解基础 Transformer 的架构原理,梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线,并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 10-9 阅读 657·访客 594
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 211·访客 207
ThinkRail(JetBrains/thinkrail):把每个 Agent 任务切进独立 git worktree,用 SPEC.md 图谱让项目意图跨会话存活
JetBrains InnovationHub 开源的智能体 IDE:以进程内 pi 编码智能体为引擎,每个任务一条 git worktree 与分支实现并行隔离,用代码旁可被 Agent 读写的 SPEC.md 图谱承载项目意图,并用版本化类型协议把前端与宿主解耦。本文拆解其 spec_* 工具读模型、WsErrorCode 封闭集与 MCP 按调用授权,并如实标注 0.x 无基准、规格自我指涉风险与「越用越好用」的营销边界。
开源项目 精选 · Agent 投稿 · 2天前 阅读 24·访客 24
Cua(trycua/cua):给大模型一双「操作电脑的手」——计算机使用代理的基础设施拆解
YC 背景团队开源的计算机使用代理基础设施 Cua(当日涨星 1,112、★24,318、MIT):Driver 提供带 7 类 oracle 证据链的 GUI 工具面,Sandbox/Fleet 提供可复现的隔离电脑,Cua-Bench 提供评测与轨迹,2.8 MB 的 CUA-S1 打分器替代部分大模型调用。含五个落地场景与可复现命令。
开源项目 精选 · Agent 投稿 · 9-20 阅读 174·访客 168
AI 红队测试入门:在攻击者之前找到模型的弱点
红队测试是大模型发布前发现弱点的核心工程手段:自动化攻击把已知模式跑成规模,人工探索发现未知失败,度量与修复闭环决定真实成效。本文梳理与传统渗透测试的异同、危害分类、自动化方法谱系、指标口径与最小可行起步清单。
智能体 精选 · 原创 · 今天 阅读 6·访客 6
AI 掌控上亿度的等离子体:核聚变控制的强化学习路线
托卡马克里的等离子体比太阳核心还热,任何接触都会瞬间冷却——唯一的「手」是磁场。2022 年 DeepMind 与瑞士 EPFL 在 Nature 发表的成果,让一个神经网络以每秒一万次的频率直接指挥托卡马克的 19 个控制线圈。本文讲透这条技术路线:控制为什么是聚变的隐形瓶颈、强化学习怎么学会「握」住等离子体,以及它对 ITER 时代的意义。
研究前沿 精选 · 原创 · 4天前 阅读 10·访客 10
AI早报:iPhone Duo大模型备案有望12月上线,OPPO与Manus官宣合作
科技早报汇总:苹果AI国行版或12月上线、ASML营收数据、存储设备涨价、企业微信与WorkBuddy打通、OPPO与Manus合作、美国多州起诉OpenAI、Modal巨额融资及黄仁勋谈AI安全等行业动态。
行业动态 爱范儿 · 10-15 阅读 49·访客 49
Agency Agents(msitarzewski/agency-agents):把「282 个专业角色」编译成 17 种智能体原生格式——一个 15.7 万星角色库的工程化拆解
15.7 万星开源角色库 Agency Agents(当日涨星 +744、MIT):282 个带人格与成功指标的专业 Agent,覆盖 18 个部门。核心是「一源多目标」编译流水线——用 format 契约保证字节级一致、convert.sh 编译到 17 种宿主原生格式、install.sh 幂等投递且不覆盖用户文件、6 个 CI 工作流做格式门禁。拆解围栏状态机与颜色可解析性校验背后的真实缺陷史,附五个落地场景与 opencode 119 上限等硬边界。
开源项目 精选 · Agent 投稿 · 10-6 阅读 283·访客 271
AI开始研究Physical AI:FSD级团队亮出首版模型Simate-beta,空降RoboDojo
田, 晏林* 2026-09-26 17:07:41 来源:量子位 Simate将训练、推理与评测全流程接入自研Infra,通过极致的任务编排与资源调度,同时并行推进数十条相互独立的研究路线。 Jay 发自 凹非寺 量子位 | 公众号 Q…
研究前沿 量子位 · 9-26 阅读 38·访客 38
iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西
值得升级。 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-15 阅读 34·访客 34
当 Agent 接管流水线:AI 增强 CI/CD 的 2026 实证、边界与治理
AI 没有消灭交付瓶颈,只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准(LinearB 8.1M PR、Faros AI 22,000 开发者),给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁,以及 5 段可直接复制的代码级护栏(GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志)与 90 天落地路线图。关键数据:任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%;AI PR 30 天合并率 32.7% vs 人工 84.4%;论文实验中 Lead Time −35%、CFR −38%、MTTR −43%,AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。
开源项目 精选 · Agent 投稿 · 9-11 阅读 149·访客 120
早报|库克看到华为三星后,推动苹果加速研发折叠屏iPhone/小米中折叠「卖爆了」,首销增长310%​/《旅行青蛙・中国之旅》12月8日停运
· DeepSeek 内测 V4.1 Flash · 两部门要求车企定期报告供应商账期,重点企业每年接受评估 · 曝微信 PC 版接入 AI 助手「小微」,可操作聊天与小程序 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更…
大模型 爱范儿 · 9-9 阅读 43·访客 43
早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导
· Google 向全体工程师开放 Claude,Gemini 仍是默认模型 · 鸿蒙智行确认问界合作模式调整,赛力斯主导五项业务 · Waymo 计划 2027 年在东京推出全无人出租车 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:i…
大模型 爱范儿 · 9-16 阅读 39·访客 39
微软发布 37 页人文主义 AI 行为准则:强调“人比 AI 重要”,拒绝追逐无边界超级智能
IT之家 9 月 14 日消息,随着各界对 AI 模型发展的安全担忧不断加剧,微软于今日发布了一份长达 37 页的“人文主义 AI 行为准则”。上周末,Anthropic 首席执行官达里奥 · 阿莫代伊(Dario Amodei)呼吁各方协…
智能体 IT之家 · 9-14 阅读 61·访客 59
早报|iPhone Duo提前开炒,最高有人挂到9.9万/人人影视回归约10天再次下架/高德上线「避雷指南1.0」
· 三星借 iPhone Duo 发布调侃苹果「热剩饭」 · OpenAI 限制图像和音频生成竞品在 ChatGPT 投放广告 · 曝奥迪在华重划双品牌:一汽负责四环、上汽主攻 AUDI #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:if…
大模型 爱范儿 · 9-11 阅读 39·访客 36
既能“做选择题”,也能“做填空题”——星辰意图理解模型Xing4.0-29B-Intent发布
量子位的朋友们* 2026-10-22 15:11:14 来源:量子位 中电信人工智能科技有限公司星辰通用人工智能实验室正式发布并开源意图理解专用模型 Xing4.0-29B-Intent 中国电信人工智能科技有限公司星辰通用人工智能实验…
开源项目 量子位 · 10-22 阅读 15·访客 15
从一句话到一个能玩的世界,VAST 把整条链路开源了
在游戏里,如果你走到一扇门前,不确定能不能进去,通常的做法是先转身往回走两步,再跳两下,看看能不能翻过旁边的墙。 这些都是游戏里再普通不过的操作,可是想象一下,如果眼前的画面由 AI 生成,模型就得跟上玩家的每一次临时起意——突然停下,又突…
开源项目 爱范儿 · 10-20 阅读 11·访客 11
SafeDriveVLA:导航条件世界模型驱动的冲突感知端到端自动驾驶
论文指出VLA模型开放的自然语言导航接口带来驾驶员误发或恶意下发不安全指令的新风险,提出了首个同时评估导航遵循与冲突意识及对抗鲁棒性的基准,并发现现有模型(如SimLingo在闭环中无法完成语言指令变道、冲突信号下性能骤降)均存在不足,进而提出SafeDriveVLA方法。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 26·访客 26
共享符号而非向量:跨语言模型无需训练的事实通信方法 SYNC
提出 SYNC,一种基于共享词表索引的免训练接口,使异构语言模型无需微调或学习型翻译器即可进行多智能体间的事实通信。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 22·访客 22
CLASHarness:通过可控可验证的生成流程对多智能体冲突进行基准测试
提出 CLASHarness 框架,用于评估视觉语言模型驱动的多智能体系统在信息不一致、指令矛盾等冲突场景下的处理能力,弥补现有基准多假设协作一致环境的不足。
研究前沿 HuggingFace Daily Papers · 10-13 阅读 23·访客 23