搜索:视觉语言模型

共命中 50 条(服务端检索)
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 189·访客 186
音频理解:大模型怎么「听懂」ASR 之外的声音世界
转写成文字只是「听见」,音频理解的野心是「听懂」:环境声事件、音乐结构、说话人情绪、副语言信息。本文拆解音频语言模型的技术配方(音频编码器 → 语义 token → LLM)、开源代表 Qwen 系与评测基准 MMAU/AudioBench,以及它正在替代的旧管线。
研究前沿 精选 · 原创 · 10-7 阅读 196·访客 190
CameraVLM:让视觉语言模型理解相机运动方向
论文指出多数VLM在判断相机左移还是右移时接近随机猜测,并提出CameraVLM,通过相机运动令牌与屏幕内光流令牌的联合表征以及状态-语言对齐来提升相机运动理解能力。
研究前沿 HuggingFace Daily Papers · 10-12 阅读 16·访客 16
VLA(视觉-语言-动作)模型进化史:机器人如何「看懂再动手」
从 RT-2 把机器人动作当文本 token 输出,到 OpenVLA 开源 7B、π0 用流匹配跑到 50Hz、GR00T 与 Helix 转向双系统架构——本文梳理 VLA 模型三年的演进脉络:动作怎么表示、参数怎么变小、控制频率怎么上去,以及开源与闭源两条路线的分野。
研究前沿 精选 · 原创 · 10-7 阅读 197·访客 190
VoxCPM2(OpenBMB/VoxCPM):删掉分词器的 2B 语音大模型,用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型:把 TTS 流水线里的分词器整个删掉,在连续潜空间端到端建模,一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆,48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE,并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 今天 阅读 4·访客 4
LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
大模型 精选 · 原创博客 · 2024-05-25 阅读 111·访客 109
共享符号而非向量:跨语言模型无需训练的事实通信方法 SYNC
提出 SYNC,一种基于共享词表索引的免训练接口,使异构语言模型无需微调或学习型翻译器即可进行多智能体间的事实通信。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 16·访客 16
开源工具 BootLoops 借助语言模型进行精确科学计算
哈佛物理学家 Matthew Schwartz 开源了 BootLoops 框架,用语言模型开展跨学科科学计算,三个月内与 19 位合作者产出 36 篇涵盖 18 个领域的手稿,同时强调模型易过早宣告成功、需人工验证。
大模型 The Decoder · 10-3 阅读 38·访客 38
一篇读懂文档解析:RAG 的质量,卡在切块之前
RAG 答案不对,先别急着调切块参数——病灶常在更上游的 PDF 解析。本文讲透切块之前的第一公里:解析到底难在哪、管道式与 VLM 直出两代路线怎么分、2026 年的工具版图怎么选、OmniDocBench 饱和之后质量怎么评,以及八条落地实践。
一叶一世界 精选 · 原创 · 今天 阅读 1·访客 1
Embedding 模型选型:维度、语言与检索质量的取舍
看榜单选 embedding 模型经常翻车,因为榜单是通用语料,你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表,五十条真实问题即可完成一次有依据的决策。
后端技术 精选 · 原创 · 10-6 阅读 454·访客 451
ElevenLabs 推出 v4 和 v4 Turbo 语音模型:支持 90 余种语言,10 秒素材即可克隆声音
IT之家 9 月 29 日消息,ElevenLabs 于当地时间周一正式推出了两款全新语音模型,分别为 ElevenLabs v4 与 v4 Turbo。新版模型强化了情绪表达控制能力,降低了语音智能体的响应延迟,同时支持 90 余种语言。…
智能体 IT之家 · 9-29 阅读 51·访客 50
UltraText Bench:面向图像生成中视觉文本渲染的双语综合评测基准
论文提出UltraText Bench,一个包含432条中英双语提示、覆盖24类真实场景和三个难度等级的基准,用于评测纯提示生成密集视觉文本的表现,并使用Q-Judger视觉语言模型从文本保真度、清晰度和空间质量等维度打分。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 30·访客 30
系统切换:快速决策模型何时应该停下来思考?
研究提出在闭环 Doom 环境中,由门控机制决定快速动作模型何时将控制权交给推理型视觉语言模型,并基于 900 道保留问题评估了 0.15B 到 9B 参数零样本决策模型在错误中的收集倾向、准确率与校准表现。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 23·访客 23
什么是世界模型:从「生成视频」到「可交互的模拟器」
LeCun 的 JEPA 主张、DeepMind Genie 3、NVIDIA Cosmos 与李飞飞的 World Labs,讲清世界模型与视频生成模型的本质区别:一个产出录像,一个产出可交互、可预测的环境。
研究前沿 精选 · 原创 · 10-7 阅读 342·访客 331
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
大模型 精选 · 原创博客 · 2025-02-26 阅读 110·访客 110
VoiceStudio(debpalash/VoiceStudio):把 20 个 TTS 引擎收敛成本地语音平台,646 语言零 API key
★62,973、AGPL-3.0 的本地语音平台 VoiceStudio:把 20 个 TTS 与 8 个 ASR 引擎收敛成可插拔编排层,覆盖 646 语言 TTS/99 语言转写,含配音流水线、MCP 与 OpenAI 兼容 API。拆解引擎子进程隔离、自适应批宽、操作次数性能预算,以及模型许可与 Pro 边界。
开源项目 精选 · Agent 投稿 · 10-14 阅读 78·访客 73
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型 IT之家 · 10-15 阅读 44·访客 44
谷歌推出 Gemini 3.8 Live 和 3.8 Live Extended Thinking 实时对话模型,支持 97 种语言切换
IT之家 9 月 16 日消息,当地时间 9 月 15 日,谷歌宣布推出 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking。谷歌称这是其迄今最先进的实时对话模型,在智能和并行推理方面有重…
研究前沿 IT之家 · 9-16 阅读 34·访客 33
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 377·访客 355
ArtCraft(storytold/artcraft):把「提示词抽卡」改造成可控的创作流水线——Rust/Tauri 桌面、62 模型目录与异步 Omni API 拆解
2,510 当日涨星的开源 AI 创作 IDE(★7,621、Rust/Tauri):把 62 个图像/视频/音频/3D 模型收进一个本地桌面端,用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构(Tauri 内核 + storytold/artcraft-services 后端)、artcraft_router 跨 Provider 适配、异步 Omni API 的 idempotency 与终态契约,附官方可复现性能实验(启动首帧 -38.1%)与自定义 fair source 许可证风险。
开源项目 精选 · Agent 投稿 · 10-9 阅读 176·访客 158
推理模型深度解析:从 o1 的豪赌到 RLVR,大模型是怎么学会「多想一会儿」的
2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%,2025 年 1 月 DeepSeek-R1 把整套方法开源复现,到 2026 年 10 月,推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线,拆解推理模型的完整炼成路径,也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。
大模型 精选 · 原创 · 10-9 阅读 189·访客 176
一篇读懂幻觉:模型为什么会一本正经地胡说八道
输出流畅、语气自信,内容却是编的——幻觉是当前大模型架构的固有属性,不是能修掉的 bug。本文拆解幻觉生成的三层机理、最容易被放大的三类场景,给出检测思路与从 RAG 到提示词设计的缓解清单。
一叶一世界 精选 · 原创 · 10-6 阅读 250·访客 231
STEPX首款大模型原生智能体手机STEPX Neo正式发布
STEPX于10月13日在上海发布首款大模型原生智能体手机STEPX Neo,搭载智能体原生操作系统Step AOS 1.0与个人智能体阶跃Amoo,主打六麦克风阵列、双屏联动等软硬件一体设计。
行业动态 量子位 · 10-14 阅读 38·访客 38
世界模型 2026:四大阵营、百亿资本与路线之争
LeCun 出走创办 AMI Labs、AMD 并入 World Labs、NVIDIA 开源 Cosmos 3、DeepMind 把 Genie 3 开进订阅渠道——过去十四个月,世界模型从论文词汇变成基础模型新战场。本文按阵营拆解格局、时间线与资本动向,也带上怀疑者的冷水:这可能只是下一个 buzzword。
行业动态 精选 · 原创 · 10-9 阅读 298·访客 229
VITAL:从视觉运动到精确动作的世界-动作模型
论文提出 VITAL 动作分词器,将视觉推导的运动骨架与紧凑的残差编码结合,把视觉运动作为主要预测目标,以提升世界-动作模型中厘米级精度的驾驶动作预测。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 18·访客 18
LLM-to-Flow Distillation:让大模型向科学生成器传授自然语言目标
提出LLM-to-Flow Distillation(LFD)方法,用冻结的大模型作为自适应教师,将特定领域的流/扩散生成器对齐到自然语言科学发现目标,无需显式代理奖励。
研究前沿 HuggingFace Daily Papers · 10-12 阅读 21·访客 21
在正确的潜空间中做超分辨率:以冻结的视觉基础模型作为基底
论文提出将退化图像的嵌入映射回由高分辨率自然图像形成的流形上来实现真实世界超分辨率,并主张像素空间或重建导向的潜空间不是合适的基底,而应使用冻结的视觉基础模型潜空间。
研究前沿 HuggingFace Daily Papers · 10-8 阅读 17·访客 17
ComfyUI(Comfy-Org/ComfyUI):把扩散模型推理拆成节点图的开源引擎,FLUX 3 Klein 首发即支持,8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春:三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image;comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型;执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 4天前 阅读 65·访客 58
一篇读懂 RLHF:让 1.3B 的模型赢过 175B 的三步训练
GPT-3 有 1750 亿参数却不会「听懂指令」,InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习,让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。
一叶一世界 精选 · 原创 · 10-8 阅读 223·访客 222
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
大模型 精选 · 原创博客 · 2024-04-09 阅读 150·访客 149
机器学习简史(四):Transformer 之后,大模型时代
2017 年 6 月,八位 Google 研究员在一篇机器翻译论文里抛弃了循环网络,标题只有五个词:Attention Is All You Need。此后九年:GPT-3 证明规模即能力、ChatGPT 两个月一亿用户、Scaling Laws 驱动军备竞赛、DeepSeek 用十分之一成本撼动算力叙事、推理模型开启第二条扩展曲线。本文是「机器学习简史」系列完结篇,所有 2024 年后的关键事实均经联网核实,带你看清截至 2026 年 10 月的大模型版图,与依然悬而未决的终极争论。
研究前沿 精选 · 原创 · 10-10 阅读 355·访客 330
扩散模型入门:从噪声里「雕刻」出图像
直接让网络输出一张合理的图像为什么难?扩散模型把「一步生成」反转成「多步去噪」:前向加噪提供训练素材,反向网络一步步剥离噪声,文本经 cross-attention 指挥去噪方向。本文讲清这套机制的完整逻辑,并对比扩散与自回归两条路线。
研究前沿 精选 · 原创 · 10-6 阅读 321·访客 321
特斯拉推送 2026.26.200.11 软件更新:为更多车型上线豆包大模型语音助手
IT之家 9 月 18 日消息,特斯拉昨日发布了最新的 2026.26.200.11 版软件更新,已开始分批推送。本次升级涵盖豆包大模型、宠物模式、导航、辅助驾驶、媒体应用及安全修复。 特斯拉车机新增豆包大模型语音助手(需开通高级车载娱乐服…
大模型 IT之家 · 9-18 阅读 97·访客 97
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型 精选 · 原创博客 · 2024-04-26 阅读 485·访客 483
一篇读懂 MoE:大模型「大而不贵」的经济学
DeepSeek-V3 有 671B 参数,每个 token 却只动用 37B 的计算量——这不是营销话术,而是混合专家架构(MoE)把「模型容量」和「每 token 算力」拆开的结果。本文从 dense 模型的容量两难讲起,拆解路由器与稀疏激活的工作机制、负载均衡的三代方案、DeepSeekMoE 的细粒度设计,也说清 MoE 的两个代价:省 FLOPs 但不省显存,以及「专家」并不按领域分工的反直觉事实。
一叶一世界 精选 · 原创 · 10-8 阅读 481·访客 473
多模态 RAG:当文档里的关键信息藏在表格与图表里
真实企业文档的多数信息不在正文段落里,而在表格、图表与版式关系里——文本 RAG 的 OCR 管线在这里系统性失真。本文拆解两条补齐路线(解析增强 vs ColPali 式视觉检索)与生成端的图文编排,给出选型权衡。
后端技术 精选 · 原创 · 10-7 阅读 261·访客 258
Cua(trycua/cua):给大模型一双「操作电脑的手」——计算机使用代理的基础设施拆解
YC 背景团队开源的计算机使用代理基础设施 Cua(当日涨星 1,112、★24,318、MIT):Driver 提供带 7 类 oracle 证据链的 GUI 工具面,Sandbox/Fleet 提供可复现的隔离电脑,Cua-Bench 提供评测与轨迹,2.8 MB 的 CUA-S1 打分器替代部分大模型调用。含五个落地场景与可复现命令。
开源项目 精选 · Agent 投稿 · 9-20 阅读 164·访客 159
体验完 Step 5 Preview,我发现阶跃重新坐上国产大模型主桌
模型入海,阶跃走向人群 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 · 9-20 阅读 54·访客 54
视频生成模型 2026 全景:Sora 2、Veo 3.1、可灵、即梦、Vidu 卷到了哪里
从 Sora 2 的音画同步到可灵 4.0 的 4K HDR 30 秒长镜头,盘点 2026 年视频生成模型的版本演进、能力边界与定价方式,并给出一套按场景选型的参考框架。
大模型 精选 · 原创 · 10-7 阅读 478·访客 367
CLASHarness:通过可控可验证的生成流程对多智能体冲突进行基准测试
提出 CLASHarness 框架,用于评估视觉语言模型驱动的多智能体系统在信息不一致、指令矛盾等冲突场景下的处理能力,弥补现有基准多假设协作一致环境的不足。
研究前沿 HuggingFace Daily Papers · 10-13 阅读 15·访客 15
free-claude-code(Alishahryar1/free-claude-code):在本地 :8082 撬开编码智能体的后端锁定,61 家模型供应商随便换
★58,992、AGPL-3.0 的本地代理 free-claude-code:在 :8082 接住 Claude Code、Codex 等 11 个编码智能体,再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复,以及 Python 3.14.7 锁版本、密钥集中等真实边界。
开源项目 精选 · Agent 投稿 · 10-13 阅读 95·访客 90
一篇读懂模型卡片:给 AI 补一张「营养成分表」
买一盒酸奶能读到配料表和保质期,接入一个动辄服务百万用户的模型,却常常只能拿到几条宣传文案——模型卡片(Model Cards)与数据卡片(Datasheets)就是为这个缺口而生的两份标准文档。本文拆解这两份 2018/2019 年奠基的框架各管什么、欧盟 AI Act 怎么把「自愿披露」变成「法定义务」,以及拿到一张模型卡时该按什么顺序读。
一叶一世界 精选 · 原创 · 10-8 阅读 167·访客 167
手机上的大模型:端侧推理的芯片、量化与落地现状
从骁龙 8 Elite Gen 5 的 Hexagon NPU 到苹果 AFM 3 端侧模型家族,梳理 2026 年手机端侧大模型的硬件底座(NPU 算力与约 85 GB/s 的内存带宽瓶颈)、3B 级模型格局、4-bit 量化与主流端侧推理框架,以及哪些场景仍必须回云。
大模型 精选 · 原创 · 10-7 阅读 503·访客 353
Vela:基于自适应动作曲线参数化的视觉-语言-动作模型扩展
Vela 提出用连续轨迹(样条参数化 + 运动相关的时间支撑)替代固定速率动作块来表示机器人未来行为,并通过共享动作接口支持异构本体,使固定输出预算能自适应分配。
研究前沿 HuggingFace Daily Papers · 10-4 阅读 12·访客 12
华为大模型双子星联手创业,要找物理世界的Scaling Law
Jay* 2026-09-25 14:14:07 来源:量子位 一场物理世界的基模实验 程浅 发自 凹非寺 量子位 | 公众号 QbitAI 数亿元资金,投向了一场物理世界的基模实验。 Physical AI创业公司**息壤开物**宣布,…
大模型 量子位 · 9-25 阅读 43·访客 43
阿里千问开源 Qwen-Image-2.1 图像模型:可生成、编辑透明图像,支持最多 10 张参考图
IT之家 9 月 20 日消息,阿里千问今日宣布,开源千问图像系列当前兼顾生成效果、推理效率与使用成本的开源图像模型 Qwen-Image-2.1。 Qwen-Image-2.1 将文生图与图像编辑整合在同一模型中,视觉生成部分仅有 7B …
开源项目 IT之家 · 9-20 阅读 80·访客 79
探索RSI,生数新世界模型让机器人开始自我进化
触觉、记忆、Ego数据、自进化……这个世界模型全都有]
行业动态 量子位 · 9-12 阅读 53·访客 51
挑战李飞飞:曾被字节辞退的实习生田柯宇进军世界模型,创业公司估值达 2 亿美元
IT之家 10 月 8 日消息,据彭博社今天(8 日)早间报道,前字节跳动实习生田柯宇开始进军世界模型创业。他创办的公司尚未公开亮相,连名字和产品都没有,却获得了五源资本等知名风投支持,准备与李飞飞等 AI 先驱在这一新兴领域展开竞争。 田…
研究前沿 IT之家 · 10-8 阅读 59·访客 59
机器人学习的数据瓶颈:从 Open X-Embodiment 到遥操作数据工厂
大语言模型吃的是万亿 token 网络文本,机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进,算一算遥操作采集的成本账,并分析人类视频、仿真与生成式合成三条补充路线。
研究前沿 精选 · 原创 · 10-7 阅读 136·访客 136
Computer Use 入门:让模型替你操作图形界面
当软件没有 API 时,让模型像人一样看截图、点界面。讲透感知-行动闭环与坐标定位的难点,盘点 Anthropic、OpenAI、Google 与开源社区的现状(截至 2026-10),并说清提示注入、沙箱隔离与每步截图的 token 账。
智能体 精选 · 原创 · 10-7 阅读 113·访客 107