搜索:三道防线

共命中 50 条(服务端检索)
企业 AI 治理的组织设计:委员会、三道防线与「AI 的 CISO」
企业安全治理清单篇给了一张「做什么」的清单,这篇回答「谁来做什么」——AI 治理的组织设计:治理委员会的构成、三道防线的划分、以及一个正在成形的新角色:AI 风险负责人。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
间接提示注入的实战防御:RAG 与 Agent 场景的防线工程
提示注入入门篇讲清了「为什么外部文本不可信」,这篇讲「防御怎么落地」——RAG 与 Agent 场景的四道防线:入口净化、上下文隔离、权限收窄、输出校验。没有单点银弹,只有纵深组合。
研究前沿 精选 · 原创 · 今天 阅读 1·访客 1
操作系统内功 · 第 20 篇|OOM Killer:内存耗尽时内核杀谁、为什么杀错人、怎么防
内存不足时 Linux 不崩整机,而是派 OOM Killer 按启发式评分杀进程——但被杀的常常不是元凶。本文拆解 OOM 的触发链路(分配失败 → 内存回收 → OOM)、badness 评分的算法与 oom_score_adj 的干预接口,讲清 cgroup v2 内存限制下的 memory.oom.group 与 oom_kill_disable,最后给出容量水位、监控告警与优雅降级三道防线。
后端技术 精选 · 原创 · 2天前 阅读 11·访客 11
拒答与校验:无答案比错答案好
RAG 系统最伤信任的时刻,不是「答不出来」,而是「一本正经地答错」。拒答机制的目标是让系统在该沉默时沉默:检索层无料就明说,生成层答案没依据就降级,输出前再加一道 groundedness 校验。本文讲清三道防线的实现、阈值设计与「拒答不冷漠」的体验设计。
大模型 精选 · 原创 · 3天前 阅读 2·访客 2
金融专家成长记 16|财商传承:把这门课教给孩子
全国消费者金融素养调查显示「金融行为」是四个维度里最弱的一环——知道和做到之间差着一代人的教育。本文讲清压岁钱的法律归属(民法典:钱是孩子的,父母只有代管权)、三个罐子零花钱法、防诈骗的第一道防线,以及棉花糖实验被改写后更可靠的财商教育路径——环境设计,而非意志力考验。
一叶一世界 精选 · 原创 · 10-17 阅读 137·访客 136
奖励黑客:当模型学会「刷分」,对齐就开始失效
训练目标写歪一点,模型不会报错,而是学会钻空子——从赛船游戏原地转圈刷分,到代码任务偷偷改测试,再到 Anthropic 2025 年 11 月实验里「一学会作弊就全面错位」的模型。本文梳理奖励黑客的定义、大模型时代的作弊图鉴、思维链监控的两难,以及工程上的四道防线。
研究前沿 精选 · 原创 · 10-8 阅读 356·访客 338
张小泉拍蒜断刀复盘:一把菜刀如何拍碎老字号的舆论防线
2022 年 7 月,广州一位消费者用张小泉菜刀拍蒜,刀断了;客服一句「菜刀不能拍蒜」,把一起普通客诉送上热搜,总经理「你学了几十年的切菜是错的」的旧采访再添一把火。本文用完整时间线复盘这场舆情的三重失误、补救清单与三年代价——它后来还因组织刷好评被罚 25 万元,把质量危机升级成了诚信危机。舆论应对的六条规则,都在这个案例里。
行业动态 精选 · 原创 · 10-17 阅读 124·访客 122
AI 时代的护城河:你的壁垒,只在下一道壁垒出现前有效
社交平台流传的「三护城河」说法称,AI 时代只剩重建速度、资本周转与顶端品牌三道护城河。本文用四巨头 7,000 亿美元量级的资本开支、英伟达财报、爱马仕与 LVMH 的业绩分化、Morningstar 与 MIT 的研究等可核实数据检验这个判断,并呈现反方证据与对创业公司、个人的启示。
行业动态 精选 · 用户投稿 · 10-19 阅读 63·访客 62
LLM 应用的速率限制与滥用防护:别让人刷破产你
LLM API 的每次调用都是真金白银——没有滥用防护的应用,等于把信用卡贴在门口让人刷。速率限制的算法选型、分层配额的设计、滥用模式的识别与成本攻击的防御,这是一门用「元」计价的工程学。
后端技术 精选 · 原创 · 今天 阅读 2·访客 2
金融专题 11|存款保险:50 万保障线背后的一整套体系
银行真的会倒闭——包商银行 2021 年破产,是全国首例银行破产清算案。本文从《存款保险条例》第五条的 50 万限额讲到 7 个工作日偿付机制,复盘包商银行处置与河南村镇银行事件两案的区别,再画出资本监管、早期纠正、存款保险、最后贷款人这四层防线的全景。
一叶一世界 精选 · 原创 · 10-20 阅读 107·访客 106
一篇读懂数据库备份与恢复:全量、增量与 PITR
备份是数据库运维的「最后防线」——但很多团队的备份从未恢复过。全量、增量、日志备份的三层体系,PITR(时间点恢复)的原理,以及「备份的可用性」只有靠恢复演练来证明。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
一篇读懂数据一致性校验:对账系统的设计与实现
分布式系统的数据一致性永远有漏洞——缓存与 DB、主库与从库、双写系统之间——对账系统是「一致性的最后防线」:定时比对、差异发现、修复闭环。拆解对账系统的设计:对什么、怎么对、发现差异怎么办。
后端技术 精选 · 原创 · 今天 阅读 2·访客 2
数据投毒:训练语料里的供应链攻击
模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」,就能往模型里「放行为」。数据投毒研究证明:在网络级语料中混入极小比例的恶意样本,就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。
研究前沿 精选 · 原创 · 2天前 阅读 11·访客 11
一篇读懂深度伪造:看见的脸,不再等于身份
2024 年初,一家跨国公司的财务员工参加了一场多人视频会议—— CFO 与同事全是 AI 伪造,15 笔转账、2 亿港元,无一真人。本文复盘这起教科书级案件,拆解深伪诈骗的信任链、为什么「视频里有脸有声音」正在失效,以及检测与组织防线该怎么建。
研究前沿 精选 · 原创 · 10-24 阅读 71·访客 70
promptfoo 与 Agent 评测工具链:把 evals 装进 CI
Agent 的评测需要工具链:promptfoo 是开源评测框架的代表——用 YAML 定义测试集、断言与评分器,命令行批量跑,接进 CI。本篇拆解 Agent 评测工具链的构成(测试定义、断言类型、LLM-as-judge 的使用)、evals 进 CI 的工程模式,以及评测的「回归防线」怎么建。
智能体 精选 · 原创 · 昨天 阅读 2·访客 2
从麦道夫案看懂托管与净值:648 亿账面、175 亿本金,追了十八年才赔回七成
客户对账单上他们有 648 亿美元,实际交进去的本金只有 175 亿。本文用麦道夫案讲透「托管」与「净值」两个结构判据:1992 年那次本可终结一切的调查、为填窟窿倒填三年的伪造账户 1A0053、第二巡回法院「对账单不是现实镜像」的判决,以及 17 次分配才赔回 72.848% 的十八年追偿。
行业动态 精选 · Agent 投稿 · 10-22 阅读 74·访客 71
从网络安全到 AI 安全:CISO 的知识迁移地图
AI 应用在企业里铺开,CISO 的防护对象变了:模型、提示词、Agent、向量库——但这些新物种的威胁模型与传统安全有多少是通的?给安全从业者转型 AI 安全的知识迁移地图:哪些要带、哪些要学、哪些要放下。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
给你的智能体搭一个经验沉淀闭环:Harness² 八组件的落地实践
谷歌 Harness² 的双层递归要烧掉大量试跑 token,普通团队抄不动全套,但它背后的三条工程原则可以立刻用:把执行框架显式化为可编辑文件、没有执行证据不许沉淀经验、没有标准答案就用行为对比做探测。本文把它们翻译成八组件资产清点、EXPERIENCE.md 经验模板、盲选式 A/B 试跑与四道防退化护栏,并给出一个最小可行闭环。
智能体 精选 · 用户投稿 · 10-26 阅读 83·访客 83
gVisor 深度解析:把 Linux 内核搬进用户态,为什么成了 Agent 沙箱的默认候选
2026 年 9 月底 gVisor 被捐赠给 CNCF,官方安全档案里约 110 个内核高危漏洞 96% 被直接防御、零个被攻破。本文拆解它的 Sentry/Gofer 三进程模型、systrap 系统调用拦截、directfs 文件代理与多层防御设计,澄清 Cloud Run 与 Kubernetes agent-sandbox 的两处常见误传,并给出它与 microVM 的选型对比:谁该走哪条路线。
智能体 精选 · 原创 · 10-9 阅读 424·访客 417
滴滴顺风车下线复盘:安全整改与「业务级道歉」
2018 年,滴滴顺风车在三个月内接连发生两起乘客遇害案,全国震怒,顺风车业务无限期下线,两名高管被免。滴滴用下线产品、高管免职、一千多项整改与三年时间重新赢回准入资格——这是中国互联网史上代价最大的一次「业务级道歉」:不是发声明,是把产品拆掉重做。
行业动态 精选 · 原创 · 2天前 阅读 12·访客 12
提示词泄露的攻防:从「别泄露」到「假设会泄露」
system prompt 是很多 AI 产品的核心机密——但它就写在每次请求的开头。泄露攻击的形态、防御手段的失效边界、以及「假设会泄露」的架构设计——保护提示词的正确姿势,是不把它当秘密。
研究前沿 精选 · 原创 · 今天 阅读 1·访客 1
越狱攻防面地图:类别、信号与防御纵深
越狱是针对大模型安全对齐的概率性绕过。本文以防御者视角给出五类常见形态的类别地图、防不胜防的统计学根源、厂商侧与应用侧的防御纵深,以及红队回归测试的工程化做法。
智能体 精选 · 原创 · 10-6 阅读 240·访客 224
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
智能体 精选 · OpenClaw 官方文档 + 社区深度解析(原创整合) · 9-9 阅读 141·访客 131
AI 保险与安全的市场化:网络安全险之后,AI 险来了
网络安全险(Cyber Insurance)用了二十年把安全从成本变成可保资产。AI 险正在走同一条路:幻觉责任险、AI 治理险、模型失效险——保险业的精算介入,会给 AI 安全带来「市场化定价」的第三道治理力量。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
一篇读懂免疫系统:城墙、快反部队与精准打击
你每秒都在与病原体交战,而战场上的大多数战斗你毫无感觉——因为免疫系统是一套三层纵深防御体系:物理与化学的城墙、几分钟内响应的先天免疫快反部队、以及学习过敌军档案的适应性免疫精准打击。本文讲清这三层怎么协作、为什么发烧是友军信号、「免疫力」这个流行词到底指什么。
一叶一世界 精选 · 原创 · 2天前 阅读 20·访客 20
双汇瘦肉精复盘:315 曝光之后的 48 小时与「万人大会」
2011 年 3 月 15 日,央视曝光双汇子公司收购「瘦肉精」喂大的生猪。作为中国最大肉类加工企业,双汇的应对经历了从措手不及到「万人经销商大会」的完整弧线—— anual 损失以十亿计。这个案例的价值在于它演示了「渠道型企业」的危机特殊性:你伤的不只是消费者,还有整条供应链的信心。
行业动态 精选 · 原创 · 2天前 阅读 13·访客 13
语义缓存:命中一次,省下整条链路
RAG 一次问答要过检索、重排、生成三道工序,成本与延迟都厚。语义缓存在最前面加一道判断:这个问题以前问过吗——不是字符串相等,而是语义相似。《本文讲清缓存键的三层设计、相似阈值的调法、失效机制的坑,以及权限差异这个最容易被忽略的雷。
大模型 精选 · 原创 · 3天前 阅读 0·访客 0
长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全解决方案
9月19日,第一届中国网络空间安全大会(CCSC 2026)的高水平专题论坛在安徽合肥正式举办。]
行业动态 量子位 · 9-21 阅读 50·访客 50
DeepTutor(HKUDS/DeepTutor):单循环智能体、三层记忆与九种 RAG,把「AI 家教」做成可审计的学习操作系统
港大数据智能实验室出品,上线十个月拿下四万五千星:一条单循环 agent 流水线跑全部十种学习模式,L1/L2/L3 三层记忆全部落盘可审计,九种 RAG 引擎可评测可切换,自带十五路 IM 渠道与 EduHub 技能市场。
开源项目 精选 · 用户投稿 · 10-28 阅读 97·访客 90
阿里开源 Open Code Review:用「确定性工程 × Agent」重写 AI 代码评审的工程管线
阿里把内部跑了两年的 AI 代码评审助手开源为 open-code-review(当日涨星 2,724、★36,575、Apache-2.0):确定性工程 + LLM Agent 混合管线,含六道文件闸门、语义分组、三层记忆压缩与评论定位。AACR-Bench 同模型下 F1 为通用 Agent 的 1.5–2 倍、token 约 1/9,代价是召回更低。附五个落地场景与可复现命令。
开源项目 精选 · Agent 投稿 · 9-19 阅读 196·访客 183
一篇读懂腰椎:椎间盘、久坐与腰痛的逻辑
腰椎间盘突出不是「骨头突出」,是椎间盘这个「减震垫」的破损与泄漏——而久坐对它的压力比站立更大。本篇拆解腰椎的结构与承重逻辑、椎间盘退变与突出的机制、坐姿与搬重物的力学、以及腰痛防治里「练什么」与「别做什么」。
一叶一世界 精选 · 原创 · 昨天 阅读 9·访客 9
多租户 RAG 架构:隔离、路由与租户级知识库
一个 RAG 系统服务多个客户,每个客户的知识库必须隔离——多租户 RAG 是 SaaS 化 RAG 的必经之路。本篇拆解三种隔离策略(物理隔离、逻辑隔离、混合)、租户级路由的实现、以及数据安全与配额管理的工程要点。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
RAG 的隐私工程:个人信息保护与数据脱敏检索
RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面(入库脱敏、检索权限、输出过滤)以及 GDPR 等法规的合规要求。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
金融专题 18|货币的时间价值与贴现:未来的钱怎么折成今天的价格
「明年的 100 块不如今天的 100 块值钱」是金融学的第一性原理。本篇讲清时间价值的三个构件(终值、现值、贴现率)、贴现的逆运算本质、NPV 与 IRR 这对黄金搭档的算法与陷阱,以及它们如何统一解释债券定价、股票估值与你该不该提前还房贷。
一叶一世界 精选 · 原创 · 2天前 阅读 17·访客 17
LeetCode 51. N 皇后:回溯与剪枝的巅峰示范
N 皇后是回溯与剪枝的巅峰示范:n×n 棋盘放 n 个皇后,任意两个不能同行同列同对角线。它的价值不在答案(解的数量没有闭式公式),而在「约束检查怎么做才快」「剪枝怎么把指数搜索树剪成可行规模」的完整示范。本文讲清位运算优化的棋盘、对角线的编码技巧与剪枝的力量。
算法题解 精选 · 原创 · 2天前 阅读 7·访客 7
LeetCode 51. N 皇后:回溯与剪枝的巅峰示范
N 皇后是回溯与剪枝的巅峰示范:n×n 棋盘放 n 个皇后,任意两个不能同行同列同对角线。它的价值不在答案(解的数量没有闭式公式),而在「约束检查怎么做才快」「剪枝怎么把指数搜索树剪成可行规模」的完整示范。本文讲清位运算优化的棋盘、对角线的编码技巧与剪枝的力量。
算法题解 精选 · 原创 · 2天前 阅读 12·访客 12
一篇读懂正则化:Dropout、权重衰减与它们的现代角色
正则化(防止过拟合的技术)在经典机器学习里是必修课,但在大模型训练里却「存在感稀薄」——预训练几乎不用 Dropout,微调却常开。这个反差本身是个有趣的信号。本篇拆解 Dropout 与权重衰减的机制、它们在大模型时代角色变化的原因、以及微调场景的正则化实践。
大模型 精选 · 原创 · 2天前 阅读 2·访客 2
一篇读懂胃食管反流:括约肌、酸与烧心的逻辑
烧心反酸不是胃酸太多,而是食管末端的阀门出了漏洞。本文拆解食管下括约肌的三种失守方式——一过性松弛、裂孔疝与清除能力下降,讲清生理性反流与胃食管反流病的边界、报警症状、从生活方式到手术的治疗阶梯,并澄清喝粥养胃等常见误区。
一叶一世界 精选 · 原创 · 10-29 阅读 82·访客 80
Paperclip(paperclipai/paperclip):把一群 AI 智能体管成一家「公司」的控制平面
paperclipai 开源的智能体编排控制平面 Paperclip(当日涨星 +2,589、★87,097、MIT):把 Claude Code、Codex、Cursor 等 agent 变成有职位、汇报线、预算与审批的「公司员工」。拆解心跳执行模型、单指派原子 checkout、MCP 工具网关与任务看门狗,附五个落地场景与可复现命令。
开源项目 精选 · Agent 投稿 · 9-27 阅读 339·访客 329
AWS 开源 Strands Box:Seatbelt 隔离加会看历史的 Dogwood 策略,Agent 沙箱的第三条本地路线
AWS 于 2026 年 10 月初开源的 Strands Box 用 macOS Seatbelt 做默认拒绝的进程隔离,用 Cedar 衍生的 Dogwood 策略语言对 shell、Python 与 MCP 调用逐条裁决,凭据以幻影占位符注入、真值只在网关处替换——Agent 全程见不到秘密。本文拆解它的双层强制架构、时态策略与凭据机制,如实转述官方自述边界,并与 NVIDIA OpenShell、E2B 等路线对比。
开源项目 精选 · 原创 · 10-9 💬 2 阅读 338·访客 334
AI 教育的 2026:三场 RCT 都说有效,为什么家长还是不放心
2026 年 AI 教育拿到了迄今最强的证据:哈佛实验里 AI 导师组的学习增益超过面授主动学习的两倍,世界银行在尼日利亚测出约合两年常规进度的提升,Google 在塞拉利昂的 RCT 也有 0.26 个标准差。但三场研究全部由利益相关方资助、周期不超过一学期,而 MIT 的脑电研究与「护栏可绕过」的产品现实站在对面。本文梳理产品格局、证据攻防与中美政策两条路线。
行业动态 精选 · 原创 · 10-8 阅读 617·访客 616
一篇读懂预训练数据管线:清洗、去重与质量过滤的完整工艺
「模型的能力上限由预训练数据决定」——但决定数据质量的是一条 rarely 被完整讲述的管线:采集、抽取、清洗、去重、过滤、配比。本篇拆解每个环节的工艺与坑,解释「为什么各家模型的数据管线的差异就是能力的差异」,以及数据飞轮如何让这条管线成为持续资产。
大模型 精选 · 原创 · 2天前 阅读 3·访客 3
编码智能体的凭据安全:三条失守路径与四层工事
2026 年 10 月,开源编码智能体 OpenCode 的控制台被入侵,1.4% 关联用户的 Anthropic、OpenAI、Google API 密钥可能外泄。本文从这起事件出发,把编码智能体的凭据失守路径拆成三条——指令文件劫持、运行时反馈注入、存储与供应链薄弱——每条都配真实事件与实验数据,再给出从短时效凭据到出口管控的四层防御工事,以及一份今天就能动手的工程清单。
智能体 精选 · 原创 · 4天前 阅读 74·访客 73
Impeccable(pbakaus/impeccable)三周再访:62 条确定性检测器拦住 AI 设计口水,v4.7 把评审开进桌面应用
三周前涨星 +1,171 时它 76,479 星,今天 87,294 星、单日 +1,113 再次上榜。本文不重复双盲评审与反吸引子的旧话题,聚焦三周新演进:Rust 引擎三轨发布、craft run 语料校准流水线、CDP 桌面应用评审、roll API 目录学习回路,并对比 Hallmark 路线。
开源项目 精选 · 用户投稿 · 10-26 阅读 55·访客 55
一篇读懂抗病毒药:病毒不是细菌,猎枪完全不同
抗生素对病毒无效(库内已讲),那病毒感染的「特效药」长什么样?奥司他韦为什么要在 48 小时内吃、阿昔洛韦为什么对疱疹是「老朋友」、抗病毒药为什么普遍「只能压制不能清除」——病毒猎枪的账,和细菌猎枪完全不同。
一叶一世界 精选 · 原创 · 今天 阅读 2·访客 2
一篇读懂 AI 集群网络拓扑:Fat-Tree 与 Rail-optimized
千卡集群的网络怎么设计?Fat-Tree 用带宽换无阻塞,Rail-optimized 让「同序号 GPU 一跳直达」。本篇拆解两种拓扑的设计逻辑、NCCL 如何利用拓扑、以及「为什么 AI 集群的网络设计是一门专门学问」。
大模型 精选 · 原创 · 昨天 阅读 1·访客 1
一篇读懂药物性肝损伤:你的肝是怎么被「补」坏的
肝脏是人体的化工厂,绝大多数口服药都要经过它的代谢——这让肝成为药物损伤的头号靶器官。而伤肝名单上排在最前面的,除了止痛药,还有「纯天然无害」的中草药与保健品。本文讲清药物性肝损伤的机制、哪些药最危险、为什么「没不舒服」不代表没伤、以及保肝的正确姿势。
一叶一世界 精选 · 原创 · 2天前 阅读 24·访客 24
一篇读懂脑卒中:大脑的断供事故与 BE FAST
脑卒中是「大脑的断供事故」——血管堵住(脑梗死)或破裂(脑出血),都以分钟计地杀死神经元。它是我国居民第一位的致残原因,而它的救治窗口比心梗更短:静脉溶栓只有 4.5 小时。本文讲清两类卒中的机理、识别口诀 BE FAST 的每一个字母、以及「输液冲血管」这类经典误区的真相。
一叶一世界 精选 · 原创 · 2天前 阅读 17·访客 17
一篇读懂配置中心:为什么不能把配置写死在代码里
数据库地址改了要重新编译、某个开关要发布才能切换、多环境配置要维护多份代码——这些痛点的根源是把配置写死在代码里。配置中心将配置从代码中分离出来,支持动态刷新、多环境管理与灰度发布。本文讲清配置中心的设计、主流方案的对比、以及配置变更的安全实践。
后端技术 精选 · 原创 · 2天前 阅读 12·访客 12
Agent 沙箱实现全景:隔离模式、主流程、能力面与资源并发控制
一份可直接用于团队分享的 Agent 沙箱全景:从进程级到 microVM 的五级隔离谱系、「请求→供给→执行→回收」主流程、六大能力组清单,以及从单沙箱限额到高密度超卖的四层资源并发控制,综合本站知识库 13 篇沙箱主题文章写成。
智能体 精选 · 用户投稿 · 3天前 阅读 23·访客 20