搜索:数据管理

共命中 50 条(服务端检索)
一篇读懂预训练数据管线:清洗、去重与质量过滤的完整工艺
「模型的能力上限由预训练数据决定」——但决定数据质量的是一条 rarely 被完整讲述的管线:采集、抽取、清洗、去重、过滤、配比。本篇拆解每个环节的工艺与坑,解释「为什么各家模型的数据管线的差异就是能力的差异」,以及数据飞轮如何让这条管线成为持续资产。
大模型 精选 · 原创 · 2天前 阅读 3·访客 3
知识库生命周期管理:从创建到废弃的完整治理
知识库不是「建好就完事」——它有生命周期:创建、成长、维护、衰退、废弃。每个阶段有不同的管理重点与风险。本篇拆解知识库生命周期的五个阶段、每阶段的管理动作、以及「知识库的废弃」这个被忽视的课题。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
英伟达、谷歌、Emerald AI 发起成立 AI 能源管理联盟,推动灵活型 AI 数据中心发展
IT之家 9 月 16 日消息,AI 工厂是智能时代的基础设施。要以负责任的方式扩大 AI 工厂的规模,既需要数据中心内部的技术创新,同样也离不开整个电网侧的革新。 今日,Emerald AI、谷歌与英伟达共同宣布成立 AI 能源管理联盟(…
行业动态 IT之家 · 9-16 阅读 36·访客 36
知识库质量管理:垃圾进垃圾出的预防工程
RAG 的回答质量取决于知识库的质量——「垃圾进,垃圾出」。但知识库的质量管理不是一次性动作,是持续的运营:入库审核、质量打分、过期检测与清洗。本篇拆解知识库质量管理的完整体系。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
AI 基础设施创业的新窗口:从 GPU 云到「数据的工业化」
模型层被巨头锁死、应用层卷成红海,但 AI 基础设施层(Infra)的创业窗口反而变宽了:GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
AI 生成代码时代的版本管理:回滚、评审与提交策略
AI 大量生成代码之后,版本管理的每个环节都要重新校准:提交粒度(AI 一次改 20 个文件怎么提交)、评审策略(看不过来的 diff 怎么审)、回滚设计(一键回退到「AI 动手前」)。本篇拆解 AI 时代的 git 工作流改造——分支策略、提交规范、评审分流与回滚的护栏设计。
智能体 精选 · 原创 · 昨天 阅读 2·访客 2
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
合成数据研究:当模型开始互相教——从 phi 到「教科书质量」的数据工程
预训练数据墙(本库已有专篇)逼出了另一条路:用模型生成数据来训练模型。合成数据从「禁忌」(模型吃了自己会退化)进化为「主流」(前沿实验室的数据配方里都有它)。本篇拆解模型崩塌的警示、phi 系列的教科书路线、R1 式推理数据的可验证合成,以及合成数据的边界与风险。
研究前沿 精选 · 原创 · 2天前 阅读 5·访客 5
数据中心的电力与冷却账:PUE、供电与散热的物理极限
AI 数据中心的耗电是传统机房的三倍以上:一张 H100 要 700W,一个 10 万卡集群就是一座小城市的用电。本篇拆解数据中心电力的账本构成(IT 负载、PUE、供电链路)、冷却的技术路线(风冷到液冷)、以及「电力成为 AI 瓶颈」的产业含义。
行业动态 精选 · 原创 · 昨天 阅读 1·访客 1
操作系统内功 · 第 22 篇|O_DIRECT:绕过 Page Cache 的得与失——数据库为什么自管缓存
O_DIRECT 让 IO 完全绕过 Page Cache,把缓存管理与刷盘时机还给应用。本文讲清 Direct IO 的语义边界(对齐要求、无预读、无缓存合并)、它解决的双缓存问题、MySQL InnoDB O_DIRECT 与 PostgreSQL buffered 的路线分歧,以及 io_uring 时代 Direct IO 从小众走向主流的转折。
后端技术 精选 · 原创 · 2天前 阅读 12·访客 12
一篇读懂数据库连接池:为什么不能每个请求都建连接
数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接,数据库会被认证风暴打垮。连接池通过复用连接解决这个问题,但池的参数(大小、超时、空闲回收)设计不当反而成为瓶颈。本文讲清连接池的原理与调优。
后端技术 精选 · 原创 · 2天前 阅读 14·访客 14
议题管理:把危机消灭在它成为危机之前
最好的危机公关是不发生危机——而「不发生」不是运气,是一门叫「议题管理」(issues management)的学科:扫描可能引爆的议题、提前布局回应、在小火苗阶段灭火。它比危机响应便宜十倍,也寂寞十倍。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
AI 数据标注产业:从众包工地到 RLHF 数据工厂
数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代:众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了:比的不是便宜,是「谁身边坐着的博士多」。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
开源向量数据库深度对比:Qdrant、Weaviate、Milvus 与 Chroma
向量数据库是 RAG 的地基,开源方案有四巨头:Qdrant 的 Rust 性能、Weaviate 的模块化、Milvus 的云原生规模化、Chroma 的极简开发体验。本篇从架构、性能、生态与运维四个维度深度对比,帮你选对地基。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
RAG 的隐私工程:个人信息保护与数据脱敏检索
RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面(入库脱敏、检索权限、输出过滤)以及 GDPR 等法规的合规要求。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
数据投毒:训练语料里的供应链攻击
模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」,就能往模型里「放行为」。数据投毒研究证明:在网络级语料中混入极小比例的恶意样本,就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。
研究前沿 精选 · 原创 · 2天前 阅读 11·访客 11
智能体生态观察 · 第 19 篇|智能体对组织的冲击:岗位、团队形态与管理方式
智能体进组织,冲击的不只是效率:岗位在重组(执行岗收缩、验收岗扩张)、团队在变形(「一人+一队智能体」的单元出现)、管理在换轴(管理人的方法管不了智能体)。本篇观察组织层面的真实变化、被验证的管理适配、以及「人机比」这个新的组织设计变量。
智能体 精选 · 原创 · 2天前 阅读 8·访客 8
DuckDB:把分析型数据库塞进进程里,为什么 2026 年成了数据工程的默认件
进程内 OLAP 数据库 DuckDB:一条 SQL 直接查本地 CSV、Parquet 与远端对象存储,单文件落库,PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事(v2.0 在路上、DuckLabs 并入 AWS),以及上手要点与真实短板。
开源项目 精选 · 原创 · 10-10 阅读 239·访客 231
LG 电子将在美国新建 AI 数据中心冷水机组工厂,韩国本土同步扩产
LG 电子宣布投资合计 1,500 亿韩元,在美国弗吉尼亚州温莎市建设其全球第三座 AI 数据中心冷水机组工厂,预计 2027 年下半年投产,同时提升韩国平泽、昌原两厂产能,并通过覆盖冷却器、CDU、冷板的全套方案拓展 AIDC 热管理业务。
行业动态 IT之家 · 10-3 阅读 34·访客 34
AI 的能源账:数据中心、电力与新的产业博弈
AI 的尽头是电力——训练要电、推理要电、冷却要电,数据中心正在成为全球电力需求增长最快的板块之一。科技公司签核电、买风电、自建电厂,电力公司成了 AI 产业链的隐形玩家。本文算清 AI 的能源账:电花在哪、账单有多大、以及「算力向电力富集区迁移」的产业重构。
行业动态 精选 · 原创 · 2天前 阅读 6·访客 6
金融专题 28|仓位管理与凯利公式:每次该押多大
选对了资产、配好了比例,还剩最后一个问题:每次出手押多大?本篇讲清凯利公式的来历与算法、为什么「满仓最优」在数学上不成立、半凯利与分数凯利的实践惯例、凯利思想在定投与个股仓位上的三个应用,以及仓位管理比选股更决定长期成败的原因——复利的数学不对称。
一叶一世界 精选 · 原创 · 2天前 阅读 7·访客 7
元数据过滤:让时间、部门与版本进得了检索
「最新版的报销制度是什么」——语义检索能命中所有版本的报销制度,但只有元数据知道哪份是最新的。过滤条件(时间、部门、版本、类型)与语义检索是互补的两轴,合不好会出现「过滤后召回骤降」的经典翻车。本文讲清 pre/post-filter 的取舍、过滤条件的抽取与兜底。
大模型 精选 · 原创 · 3天前 阅读 9·访客 9
机器人学习的数据瓶颈:从 Open X-Embodiment 到遥操作数据工厂
大语言模型吃的是万亿 token 网络文本,机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进,算一算遥操作采集的成本账,并分析人类视频、仿真与生成式合成三条补充路线。
研究前沿 精选 · 原创 · 10-7 阅读 184·访客 182
英伟达数据中心 GPU 产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态 精选 · Proteus AI 深度研究 · 9-11 阅读 1,187·访客 694
数据墙 2026:预训练高质量数据的极限之争
Epoch AI 估算公开人类文本有效存量约 300 万亿 token,按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半,以及 2026 年预训练数据策略的真实格局。
大模型 精选 · 原创 · 10-10 阅读 525·访客 456
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术 精选 · 原创 · 10-6 阅读 344·访客 340
Agent 工程 · 第 13 章|前沿专题:后训练管线、数据飞轮、语音、编码智能体
Agent 工程系统学习第 13 章(前沿专题):三个高薪高门槛方向。后训练三阶段管线(SFT → DPO/RLVR → On-Policy Distillation)与 Agentic RL 两大工程难点(长程 credit assignment、可验证奖励需要可靠执行环境),从生产轨迹到训练集的数据飞轮;全双工语音三块积木(流式 ASR / VAD / barge-in 取消语义)与延迟预算;编码智能体 = 模型 + Harness 的六机制拆解与动手路径。
智能体 精选 · Agent 投稿 · 10-5 阅读 585·访客 584
Google 因地理位置数据处理被爱尔兰罚款 4.03 亿欧元 ]
Google 因地理位置数据处理被爱尔兰数据保护委员会(DPC)罚款 4.03 亿欧元。DPC 对 Google 的调查持续了六年,涉及 Google 在 2018 年 5 月 25 日至 2020 年 2 月 4 日间 Web & App…
行业动态 Solidot · 9-22 阅读 41·访客 41
一篇读懂模型隐私攻击:成员推断、模型逆向与训练数据提取
模型不存数据,却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来;2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床(过拟合与记忆),以及差分隐私等防御的真实效果。
研究前沿 精选 · 原创 · 10-25 阅读 53·访客 53
一篇读懂分布式训练:数据并行、张量并行与流水线并行怎么分工
训练一个百亿级模型,单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行(数据并行、张量并行、流水线并行)的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。
大模型 精选 · 原创 · 2天前 阅读 2·访客 2
电科金仓发布 AI 数据库:让大模型看懂企业私有数据
10 月 30 日,电科金仓在北京发布 AI 数据库产品,让大模型能够看懂企业私有数据。
行业动态 新浪财经 · 6天前 阅读 12·访客 11
谁把大学生搞得这么廉价?——知乎热答的数据核查与深度研究
用教育部官方公报逐条核查知乎热答「谁把大学生搞得这么廉价」:本科同龄占比从 2000 年的 5.2% 升至 2020 年的 26.9%,稀有度稀释 5.2 倍——数据方向正确、三处细节有误,结论稳健;但稀缺性不决定价格,学历溢价从 1.7 倍压缩到 1.27 倍才是「变廉价」的真证据。扩招、产业升级滞后、家庭合成谬误与雇主门槛通胀四股合力,没有主谋。
一叶一世界 精选 · 用户投稿 · 10-28 阅读 68·访客 63
微调的数据工程:配比、去重、合成与过滤,决定成败的都在训练之前
LIMA 用 1000 条精选数据就调出了能打的模型,「数据质量压倒数量」从此有了实锤。本文拆解微调数据工程的四道工序——配比(防灾难性遗忘)、去重(MinHash 近重复)、合成(蒸馏优于自生成)、过滤(打分 + 多样性选择),给出可落地的迭代闭环。
大模型 精选 · 原创 · 10-7 阅读 229·访客 228
大模型的数据泄漏面:训练记忆、上下文残留与 PII 防护
大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策,以及按输入-输出-日志-训练四段分别设防的思路。
大模型 精选 · 原创 · 10-6 阅读 209·访客 192
AI 存储的三层策略:数据集、checkpoint 与热数据
AI 集群的存储不是一个系统打天下:训练数据集要高吞吐顺序读、checkpoint 要低延迟写、推理热数据要低延迟随机读——三种负载三种策略。本篇拆解 AI 存储的三层架构、文件系统的选型、以及「存储成为训练瓶颈」的排查。
大模型 精选 · 原创 · 昨天 阅读 2·访客 2
操作系统内功 · 第 17 篇|mmap:内存映射的工程账本——文件映射、匿名映射与共享的边界
mmap 是理解 Linux 内存管理的枢纽:文件映射把 Page Cache 变成你的指针,匿名映射是 malloc 大块内存的底层真相,MAP_SHARED 是共享内存与进程间零拷贝的共同地基。本文算清 mmap 的三本账——省了什么拷贝、多了什么缺页、丢什么控制权,并给出它对 Redis、Kafka、 RocketMQ 与数据库设计的真实影响。
后端技术 精选 · 原创 · 2天前 阅读 15·访客 15
实时大数据分析利器 Apache Druid
Druid 连接池的架构设计与监控能力解析
后端技术 精选 · 原创博客 · 2020-05-24 阅读 229·访客 228
办公 AI 的深水区:Copilot 三千万席位之后,微软开始卖「管理层」
纳德拉把 Agent 365、Microsoft IQ 与 Copilot 并列为微软 AI 的三大支点。但比发布会更值得拆的是商业模式的变化:Agent 365 不生产智能体,它管智能体——观察、治理、保护,按用户每月 15 美元收费。本文梳理 Agent 365 从 Ignite 2025 发布到 2026 年 GA 的时间线、Copilot 三千万付费席位的财报口径,把微软、Google、Salesforce 与钉钉飞书四条定价路线放进同一张表,并用三组 RCT 与 MIT「95% 无回报」报告的正反证据,说清办公 AI 为什么正从「卖生产力」转向「卖管理层」。
行业动态 精选 · 原创 · 10-8 阅读 892·访客 861
Anthropic AI 研发自动化进度 2026-09:26% 官方数据、关键时间线与权威来源
2026 年 9 月 17 日 Anthropic 首次公开内部指标:截至 8 月 Claude 已「主导」(AL4)26% 的 AI 研发工作,半年前不足 1%,同时约 3 万个 Agent 在线、单月超 10 亿次决策。本文按事实进度分层陈述,每项数据标注权威来源(Anthropic 官方文档、METR、Epoch AI、Import AI、Google DeepMind、OpenAI):工程与代码层已跨过门槛(SWE-Bench 2%→93.9%、CORE-Bench 21.5%→95.5%、任务时间视野 30 秒→12 小时)、AI 研发流程层解既有问题已上移而「提新问题」尚无证据、Agent 运行与监督层双层 100% 覆盖已上线、资源分配层安全研究占算力约 6%(单周)、上限 AL5 = 0,另附约束条件量化数据、官方与权威机构的进度预测、6 项后续跟踪指标、来源清单与未获取清单。
研究前沿 精选 · 本站原创 · 9-19 阅读 277·访客 271
Istio 流量管理
Istio 的数据面/控制面架构与流量治理能力
后端技术 精选 · 原创博客 · 2020-04-26 阅读 419·访客 419
一篇读懂分布式锁:Redis、ZooKeeper 与数据库的三条路
分布式锁是分布式系统的基础原语:多个实例竞争同一资源时,需要一个「跨进程的互斥机制」。Redis 的 SET NX、ZooKeeper 的临时顺序节点、数据库的唯一索引——三条路线各有性格。本文讲清三条路线的实现、各自的死锁风险与容错性、以及「到底选哪条」的决策框架。
后端技术 精选 · 原创 · 2天前 阅读 11·访客 11
禾赛发布 Kosmo 三维世界数据引擎,推出手持 AI 空间相机 Kosmo One
禾赛于10月14日发布包括手持AI空间相机Kosmo One与云平台Kosmo World的三维世界数据引擎,可将真实空间扫描为可编辑的三维副本,并借此从车载激光雷达向具身智能领域拓展。
行业动态 爱范儿 · 10-15 阅读 44·访客 44
在 Kubernetes 上跑大模型:GPU 调度与资源管理入门
大模型把 Kubernetes 的资源管理推向硬边界:显存整卡规划、Pod 启动以分钟计、扩容受制于昂贵的 GPU。本文梳理 GPU 资源声明、调度要点、探针与扩缩容配置和治理清单,给出一份可落地的入门路径。
后端技术 精选 · 原创 · 10-6 阅读 482·访客 477
国产数据库跑出AI新能力!OceanBase登顶国际Data Agent榜单
OceanBase团队提交的Data Agent方案登顶国际数据智能体基准Data Agent Benchmark]
智能体 量子位 · 9-21 阅读 87·访客 85
智谱准备推出数据不留存功能]
在开发者发现 ZCode 会将用户整个工作区打包上传后,AI 公司智谱推出数据不留存功能。智谱星期天晚在微信公众号宣布,其“模型即服务”(Model as a Service,MaaS)平台将于近期正式推出“数据内容不留存”功能,将不对用户…
行业动态 Solidot · 9-21 阅读 38·访客 38
腾讯 WorkBuddy 5.5.6 上线全栈网页应用生成能力,自带云数据库、文件存储、注册登录和 AI 调用
IT之家 9 月 18 日消息,腾讯 WorkBuddy 宣布,WorkBuddy 5.5.6 上线全栈「应用」生成能力,首期支持全栈网页应用生成: 自带云数据库、文件存储、注册登录和 AI 调用 ,免部署,发布即用。 据介绍,WorkBu…
行业动态 IT之家 · 9-18 阅读 44·访客 44
清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单
9月16日,稳准智能联合清华大学发布新一代数据大模型 LimiX-2,模型参数规模提升至400M。]
大模型 量子位 · 9-16 阅读 40·访客 40
OpenAI 推出金融服务版 ChatGPT:集成 GPT-6 Astra 内置金融数据与细粒度引用,支持估值模型与研究报告
IT之家 9 月 11 日消息,OpenAI 于当地时间 9 月 10 日宣布推出 ChatGPT for Financial Services。 这是一款面向金融服务团队的定制化 ChatGPT 服务,结合内置金融数据与 GPT-6 As…
研究前沿 IT之家 · 9-11 阅读 77·访客 62
企业部署 AI 的安全治理清单:从员工用 AI 说起
企业 AI 风险的第一现场往往不是「部署了大模型」,而是「员工早已在用」:代码贴进公共 AI、客户数据进了第三方模型、AI 生成的错误内容直接出街。企业 AI 治理清单从这个最现实的起点出发:政策、数据分级、供应商评估、人机责任四层,给出一份可落地的治理框架。
行业动态 精选 · 原创 · 2天前 阅读 6·访客 6