搜索:全模态

共命中 50 条(服务端检索)
陆川手搓历史现场,王珞丹熬夜抽卡,阿里全模态开始兜底生产
田, 晏林* 2026-09-22 23:59:35 来源:量子位 阿里:三年之内会出现一个原生的全模态统一生成模型,未来体验将不再受限于模态边界。 田晏林 发自 凹非寺 量子位 | 公众号 QbitAI 5天。 不用搭景,不用等演员,导…
行业动态 量子位 · 9-22 阅读 37·访客 37
我国首款藏语多语言全模态 AI 输入法发布,覆盖手机、电脑等全终端
IT之家 9 月 21 日消息,据科技日报昨晚报道,9 月 20 日,在青海师范大学教师教育高质量发展暨建校 70 周年大会科研成果展示环节, 我国首款藏语多语言全模态 AI 输入法 —— 智达 AI 输入法及配套藏文字体集正式发布 。 据…
大模型 IT之家 · 9-21 阅读 41·访客 41
GPT-4o 发布:原生全模态与实时语音交互
OpenAI 发布 GPT-4o('o' 为 omni),文本、音频、图像端到端统一训练,语音对话平均延迟降至 320 毫秒,接近人类对话反应速度。
大模型 精选 · OpenAI · 2024-05-14 阅读 39·访客 32
何恺明团队发布多模态Harness框架
henry* 2026-10-11 16:59:06 来源:量子位 多模态模型的视觉原生Harness,来了! henry 发自 凹非寺 量子位 | 公众号 QbitAI 多模态模型的视觉原生Harness,来了! 最近,何恺明团队在最新…
研究前沿 量子位 · 10-11 阅读 46·访客 46
GPT-4 发布:多模态与长上下文的分水岭
OpenAI 发布 GPT-4,支持图文多模态输入,在律师资格考试等专业基准上达到人类前 10% 水平,并引入 32K 长上下文版本。
大模型 精选 · OpenAI · 2023-03-15 阅读 293·访客 291
破晓智能联合天珑移动发布全身全模态数据采集系统SeePhys Hub
破晓智能与天珑移动发布SeePhys Hub数据采集系统,通过四目头环、腕部手环、腰腿部追踪器和触觉手套,将视觉与身体运动、触觉信号融合,为机器人学习全身移动操作补充Ego数据中缺失的交互信息。
行业动态 量子位 · 10-14 阅读 33·访客 33
Google I/O:Gemini 2.5 与全模态搜索重塑
Google 在 I/O 大会全面转向 AI First:Gemini 2.5 Pro/Flash 系列落地百亿级用户产品,AI Mode 重构搜索交互,Veo/Imagen 视频图像生成商用化。
行业动态 精选 · Google · 2025-05-21 阅读 160·访客 159
通用能力不打折,空间具身智能断层领先!ZDTaichu5.0-9B国产开源,跻身全球多模态第一梯队
九大空间测试10B规模通用模型中8项第一]
开源项目 量子位 · 9-16 阅读 126·访客 126
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型 IT之家 · 10-15 阅读 65·访客 65
全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型
智象未来(HiDream.ai)正式发布首个原生全模态视频生成模型 HiDream-O1-Video-1.0]
大模型 量子位 · 9-15 阅读 39·访客 39
多模态 RAG:当文档里的关键信息藏在表格与图表里
真实企业文档的多数信息不在正文段落里,而在表格、图表与版式关系里——文本 RAG 的 OCR 管线在这里系统性失真。本文拆解两条补齐路线(解析增强 vs ColPali 式视觉检索)与生成端的图文编排,给出选型权衡。
后端技术 精选 · 原创 · 10-7 阅读 300·访客 297
斑马智能发布端模型AutoOmni2.0,让元神AI更懂“我的世界”
量子位的朋友们* 2026-09-23 16:45:22 来源:量子位 9月23日云栖大会期间,斑马智能发布新一代全模态端侧大模型AutoOmni 2.0-23B-A3B 9月23日云栖大会期间,斑马智能发布新一代全模态端侧大模型Auto…
大模型 量子位 · 9-23 阅读 38·访客 38
小米 MiMo-V2.6 发布:Pro 与 Flash 双版本价格不变,超越 Kimi K3、GLM-5.3 成为当前 AA 指数排名最高的开源模型
IT之家 9 月 22 日消息,小米今日凌晨正式发布并开源了全新的 Xiaomi MiMo-V2.6 系列,包含 Pro 与 Flash 两个原生全模态模型。 小米称这是其探索 RSI(递归自我改进)路径的关键一步,通过规模化扩展强化学习算…
开源项目 IT之家 · 9-22 阅读 69·访客 69
论文精读:CLIP——四亿图文对如何把图像接入语言空间
CLIP(Radford et al., 2021)用 4 亿网络图文对做对比学习,零样本在 ImageNet 拿到 76.2%——追平全监督的 ResNet-50。本文拆解对比学习的训练机制、零样本分类的「提示词即分类器」玩法、CLIP 的失效模式,以及它如何成为多模态时代的地基。
研究前沿 精选 · 原创 · 10-7 阅读 164·访客 161
Apertus 1.5:从开放文本模型到开放多模态推理模型
Apertus 1.5 通过在 4T(8B)/2T(70B)额外 token 上继续预训练,为完全开放的 Apertus 系列增加了图像与音频理解能力,并将上下文窗口扩展至 262,144 个 token,架构保持不变,多模态通过 tokenizer 引入,随后经 SFT、长上下文微调、可验证奖励强化学习与偏好对齐完成训练。
大模型 HuggingFace Daily Papers · 10-11 阅读 28·访客 28
Lluna:面向缺失模态推理的协作式单模态模型
论文研究多模态协作预测在模态缺失时性能衰退的问题,提出结合私有预测路径与图结构协作分支的 Lluna 模型,并以渐进协作一致性机制进行优化。
研究前沿 HuggingFace Daily Papers · 10-14 阅读 27·访客 27
EviAlign:基于证据对齐读出的多模态嵌入学习方法
提出EviAlign方法,通过生成语义证据并在证据单元边界读取上下文状态、聚合为归一化嵌入,联合生成与对比检索目标训练共享多模态大模型结构。
研究前沿 HuggingFace Daily Papers · 9-27 阅读 25·访客 25
音频理解:大模型怎么「听懂」ASR 之外的声音世界
转写成文字只是「听见」,音频理解的野心是「听懂」:环境声事件、音乐结构、说话人情绪、副语言信息。本文拆解音频语言模型的技术配方(音频编码器 → 语义 token → LLM)、开源代表 Qwen 系与评测基准 MMAU/AudioBench,以及它正在替代的旧管线。
研究前沿 精选 · 原创 · 10-7 阅读 225·访客 219
VoxCPM2(OpenBMB/VoxCPM):删掉分词器的 2B 语音大模型,用连续潜空间统一 30 语言与可控克隆
OpenBMB 的 2B 语音基础模型:把 TTS 流水线里的分词器整个删掉,在连续潜空间端到端建模,一个骨干同时装下 30 语言、9 种中文方言、自然语言造声与三层克隆,48kHz 原生输出、Apache-2.0。本文拆解四阶段管线、FSQ 瓶颈与非对称 AudioVAE,并如实标注 8GB 显存门槛与运行间波动。
开源项目 精选 · Agent 投稿 · 5天前 阅读 43·访客 39
一篇读懂视觉语言模型:图像是怎么变成「语言」的
大语言模型只认 token 序列,图片如何进入对话?本文拆解视觉语言模型的三块积木:把图像切块编码的 ViT、对齐两种向量空间的投影层,以及图文对三阶段训练配方,并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 211·访客 207
消息称华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署
IT之家 9 月 9 日消息,据博主 @超维界 透露,华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署,有多模态增强大模型(6GB 左右)和多模态混合专家大模型(15GB 左右)供自主选择下载。 博主…
大模型 IT之家 · 9-9 阅读 39·访客 35
数据墙 2026:预训练高质量数据的极限之争
Epoch AI 估算公开人类文本有效存量约 300 万亿 token,按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半,以及 2026 年预训练数据策略的真实格局。
大模型 精选 · 原创 · 10-10 阅读 480·访客 421
ECCV上,顶尖学者们开始研究如何让AI做生意了
多模态AI大牛轮番登台,全球64支团队组团解题]
研究前沿 量子位 · 9-10 阅读 42·访客 37
RobotWorld:跨多样任务与机器人形态的多模态智能体机器人使用基准
研究团队推出RobotWorld模拟测试平台,含84项覆盖操作、移动操作、运动控制、驾驶与飞行控制的任务,通过交互预算与可执行成功检验评估智能体将指令转化为物理任务执行的能力,并分析哪些能力可迁移、哪些缺口导致无法可靠完成。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 39·访客 39
Agent 工程 · 第 1 章|LLM API 基础:协议、工具调用、流式与重试
Agent 工程系统学习第 1 章:从 HTTP 协议层讲透 LLM API——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器(含 tool_calls 分块拼接)、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。
智能体 精选 · Agent 投稿 · 10-5 阅读 265·访客 263
让 AI 学会“挑刺”:根据说明书 + 照片指出家具是否装错,OpenAI GPT-6 Astra 准确率已达 80%
IT之家 9 月 26 日消息,Epoch AI 于当地时间 9 月 23 日进行了一组家具组装基准测试(Furniture Assembly Benchmark,FAB)。结果显示,多模态 AI 在识别宜家家具组装错误方面取得明显进展。 …
研究前沿 IT之家 · 9-26 阅读 40·访客 40
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
智能体 精选 · OpenClaw 官方文档 + 社区深度解析(原创整合) · 9-9 阅读 127·访客 117
全球首个3D原生城市世界模型ABot-Earth 0.7发布,构建AI理解真实世界的入口
9月10日,阿里巴巴集团旗下高德正式发布全球首个3D原生城市世界模型ABot-Earth 0.7。]
智能体 量子位 · 9-10 阅读 56·访客 52
重新思考多模态大语言模型中的投影器训练
研究发现投影器训练主要起粗对齐作用:少量数据即可恢复大部分下游性能,且不同数据集训练的投影器可线性插值,据此提出无需训练的投影器初始化方法 PORTAL。
研究前沿 HuggingFace Daily Papers · 10-13 阅读 22·访客 22
Salt++:面向少步流式多模态生成的上下文对齐后训练
提出两阶段后训练框架 Salt++,通过因果自流(CSF)和上下文对齐的自回归 DMD,解决少步流式音视频生成中上下文相关难题。
研究前沿 HuggingFace Daily Papers · 9-29 阅读 23·访客 23
ComfyUI(Comfy-Org/ComfyUI):把扩散模型推理拆成节点图的开源引擎,FLUX 3 Klein 首发即支持,8GB 显存跑 5.6B 模型
单日涨星破千的老牌项目迎来第二春:三天连发 v0.41/v0.42 接入 FLUX 3 Klein 与 MOSS-image;comfy-aimdo 异步权重流式让 4GB 显存也能跑大模型;执行引擎增量缓存、量化支持 fp8/nvfp4/int8。本文拆解架构、场景与横向对比。
开源项目 精选 · 用户投稿 · 10-20 💬 2 阅读 130·访客 93
世界模型 2026:四大阵营、百亿资本与路线之争
LeCun 出走创办 AMI Labs、AMD 并入 World Labs、NVIDIA 开源 Cosmos 3、DeepMind 把 Genie 3 开进订阅渠道——过去十四个月,世界模型从论文词汇变成基础模型新战场。本文按阵营拆解格局、时间线与资本动向,也带上怀疑者的冷水:这可能只是下一个 buzzword。
行业动态 精选 · 原创 · 10-9 阅读 373·访客 263
消息称小米大模型负责人罗福莉晋升至 22 级,已是小米职级体系最高级别
IT之家 9 月 28 日消息,据晚点 LatePost 今晚消息,小米 9 月 22 日对内发布晋升名单,31 岁的**小米大模型团队负责人罗福莉晋升至 22 级**,还有若干其他业务负责人也获得了晋升。 接近小米的人士称,**22 级已…
开源项目 IT之家 · 9-28 阅读 55·访客 55
罗福莉官宣小米 MiMo-V3 采用全新架构,核心 HySparse 2 今日发布
IT之家 9 月 23 日消息,小米 MiMo 大模型负责人罗福莉今日发文,宣布 MiMo-V3 即将采用全新架构。其核心 HySparse 2 今日发布,带来更少的预填充、更小的 KV 缓存、更出色的长上下文检索。 在 1M(100 万)…
大模型 IT之家 · 9-23 阅读 34·访客 34
早报|曝iPhone Duo量产初期良率仅过六成/小米18 Pro加入硬件级防窥/OpenAI新模型24天攻克百道数学未解难题
📱曝 iPhone Duo 量产前期整机组装良率仅六成多 💵曝 DeepSeek 筹备 500 亿元新一轮融资,将华为训练芯片视为重要押注 📉Omdia:今年全球智能手机出货量预计下降 12% 🧠新模型攻克超 100 道数学难题,O…
开源项目 爱范儿 · 9-22 阅读 84·访客 84
体验完 Step 5 Preview,我发现阶跃重新坐上国产大模型主桌
模型入海,阶跃走向人群 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 · 9-20 阅读 55·访客 55
探索RSI,生数新世界模型让机器人开始自我进化
触觉、记忆、Ego数据、自进化……这个世界模型全都有]
行业动态 量子位 · 9-12 阅读 58·访客 56
语音链路地图:ASR、TTS 与实时对话的延迟账
语音对话「说完—听懂—想好—说出」四段链路各带百毫秒级延迟,叠加起来轻易超过人类对话的停顿预算。本文摊开全链路延迟账本,拆解 VAD、流式识别、首 token 与流式合成各环节,并对比级联与端到端两条架构路线。
研究前沿 精选 · 原创 · 10-6 阅读 826·访客 823
AI开始研究Physical AI:FSD级团队亮出首版模型Simate-beta,空降RoboDojo
田, 晏林* 2026-09-26 17:07:41 来源:量子位 Simate将训练、推理与评测全流程接入自研Infra,通过极致的任务编排与资源调度,同时并行推进数十条相互独立的研究路线。 Jay 发自 凹非寺 量子位 | 公众号 Q…
研究前沿 量子位 · 9-26 阅读 38·访客 38
9月21日,深圳前海!聊聊工业AI与生态共创的下一步
西门子Xcelerator繁星生态大会,在生态合作中共赢机遇]
行业动态 量子位 · 9-15 阅读 29·访客 29
gVisor 深度解析:把 Linux 内核搬进用户态,为什么成了 Agent 沙箱的默认候选
2026 年 9 月底 gVisor 被捐赠给 CNCF,官方安全档案里约 110 个内核高危漏洞 96% 被直接防御、零个被攻破。本文拆解它的 Sentry/Gofer 三进程模型、systrap 系统调用拦截、directfs 文件代理与多层防御设计,澄清 Cloud Run 与 Kubernetes agent-sandbox 的两处常见误传,并给出它与 microVM 的选型对比:谁该走哪条路线。
智能体 精选 · 原创 · 10-9 阅读 376·访客 370
开源语音合成现状:零样本克隆已经卷到什么程度
盘点 2026 年 10 月主流开源 TTS 七个项目(GPT-SoVITS、CosyVoice、F5-TTS、Fish Speech、IndexTTS、Kokoro 等):机制、音色克隆方式、中文支持与许可证商用限制,附中文效果/实时率/长文本对比表与 F5-TTS 上手示例,兼谈声音克隆的授权与深度伪造合规风险。
开源项目 精选 · 原创 · 10-7 阅读 539·访客 314
直播预告:未来两三年,哪些工业AI场景会率先爆发?
田, 晏林* 2026-09-22 22:28:59 来源:量子位 从真实工厂到产品复制,再到生态和下一批机会,两位嘉宾会把工业AI从「能用」走向「规模化」的关键问题一层层拆开。 允中 发自 凹非寺 量子位 | 公众号 QbitAI 工业…
行业动态 量子位 · 9-22 阅读 37·访客 37
早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导
· Google 向全体工程师开放 Claude,Gemini 仍是默认模型 · 鸿蒙智行确认问界合作模式调整,赛力斯主导五项业务 · Waymo 计划 2027 年在东京推出全无人出租车 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:i…
大模型 爱范儿 · 9-16 阅读 39·访客 39
开源模型全景 2026:六大家版本与许可证对照,什么场景该选谁
2026 年开放权重阵营的旗手已换成 GLM-5(744B,MIT)、Qwen3.5-397B-A17B(Apache 2.0)、DeepSeek V3.2(MIT)、Kimi K2 系与 Llama 4。本文按许可证、架构与部署成本三条线做全景对照,给出自托管、微调、企业集成三类场景的选型建议。
大模型 精选 · 原创 · 10-7 阅读 878·访客 588
视频生成模型 2026 全景:Sora 2、Veo 3.1、可灵、即梦、Vidu 卷到了哪里
从 Sora 2 的音画同步到可灵 4.0 的 4K HDR 30 秒长镜头,盘点 2026 年视频生成模型的版本演进、能力边界与定价方式,并给出一套按场景选型的参考框架。
大模型 精选 · 原创 · 10-7 阅读 571·访客 413
实时世界模型进入“全科生”阶段,PixVerse R2先交卷!
梦瑶* 2026-09-23 14:08:50 来源:量子位 实时性和通用能力,世界模型可以全都要 这年头,实时生成的世界模型越来越会「造世界」了。 画面更夯,控制更细,但一旦走到实时生成这一步,继续往上做能力,就会有个很难绕开的坎: 能…
大模型 量子位 · 9-23 阅读 46·访客 46
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 435·访客 411
工业创新进入“组队局”,拆解西门子Xcelerator开放生态的赋能链路
田, 晏林* 2026-09-28 20:43:53 来源:量子位 工业平台已经卷到帮伙伴拿线索、做Agent、出海了 田晏林 发自 凹非寺 量子位 | 公众号 QbitAI 一家技术公司想把一个工业创新方案卖进工厂,中间大概要过多少关?…
智能体 量子位 · 9-28 阅读 69·访客 68
实测全球上线的 vivago R1,我用它打造了一部赛博西游记短片
真正属于普通人的 AI 视频时代,才刚刚开始 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
行业动态 爱范儿 · 9-8 阅读 40·访客 38