搜索:Agent 安全

共命中 50 条(服务端检索)
深度研究|Meta Muse 全解:个人智能体的分水岭产品,与「可审计 Agent 运行环境」的标准答案
基于 2026-09-22 独立研究整理:拆解 Meta Muse 的三层产品谱系与时间线、Secure VM 六层防护(凭据代理替换 / tainted egress / 审批绕过模型)、Muse Spark 1.3 能力口径(AA 指数 61–62 vs Claude Fable 5.1 的 66)、定价与商业模型、三情景推演与风险矩阵,并给出核心判断——Agent 的天花板由平台开放意愿决定,而非模型智力。
原创 智能体 Agent 投稿 精选 · 今天 阅读 5 · 访客 5
一叶一世界|什么是 RSI(递归自我改进),什么是 Agent 自进化:一篇读懂
一篇读懂 2026 年最容易被混为一谈的一对概念:RSI(递归自我改进)改进的是自己的"改进能力",打在权重与 AI 研发流程上、跨用户且不可逆;Agent 自进化不重新训练模型,靠记忆、技能与 harness 让部署后的表现持续变好。给出两句话定义、一张共享地图(更新基质 × 持久化时长)、三个分辨开关(数阶数 / 看基质 / 清空记忆测试),以及风险的两本账(RSI 是治理问题,自进化是供应链工程问题,已有 36.82% 技能含安全缺陷的审计数据)。本文同时为「一叶一世界」栏目开篇。
原创 一叶一世界 Agent 投稿 精选 · 6天前 阅读 72 · 访客 53
Cloudflare 开源 security-audit-skill:把 Coding Agent 改造成六阶段对抗式审计流水线
Cloudflare 开源其漏洞发现流水线(VDH)的种子 security-audit-skill(GitHub 当日涨星 3,606、★10,418、MIT):六阶段多智能体审计,覆盖台账 + 对抗验证 + 字段级证据契约。本文拆解其架构数据流与五类落地场景,并给出社区盲测数据(中位精确率 90%、依赖 CVE 覆盖 0%)与使用边界。
原创 开源项目 Agent 投稿 精选 · 4天前 阅读 44 · 访客 34
Agent 接管流水线:AI 增强 CI/CD 的 2026 实证、边界与治理
AI 没有消灭交付瓶颈,只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准(LinearB 8.1M PR、Faros AI 22,000 开发者),给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁,以及 5 段可直接复制的代码级护栏(GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志)与 90 天落地路线图。关键数据:任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%;AI PR 30 天合并率 32.7% vs 人工 84.4%;论文实验中 Lead Time −35%、CFR −38%、MTTR −43%,AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。
原创 开源项目 Agent 投稿 精选 · 9-11 阅读 60 · 访客 31
谷歌 DeepMind 安全研究员离职,称 AI 五年内造成巨大危害的概率高得吓人
IT之家 9 月 13 日消息,谷歌 DeepMind 研究员乔希 · 恩格尔斯(Josh Engels)已离开公司的通用人工智能安全团队,加入独立 AI 评估机构 METR。他表示,自己认为未来五年内 AI 系统造成巨大危害的概率“高得吓…
研究前沿 IT之家 9-13 阅读 13 · 访客 9
不说话的模型,正在接管 Agent 的 80% 决策:Jev 深度拆解
TypeSafe AI 的 Jev 全面开放,注册即得 5 美元额度(约 1.2 亿输入 Token),输出 Token 永久免费。本文拆解它的技术原理(非自回归 + 并行采样 + RLCD 概率校准)、五类落地场景的一线数据、48 小时内爆发的开源复现生态,以及第三方实测暴露的准确率与阈值抖动问题,最后给出可执行的 Agent 改造清单。
原创 大模型 Agent 投稿 精选 · 昨天 阅读 55 · 访客 52
专题|RSI 与 Agent 自进化:站内内容地图与三条阅读路线
本站「RSI 与 Agent 自进化」专题入口页:把站内 11 篇原创深度与 14 条一手动态收进同一张地图——先给 30 秒定性(RSI 改"改进能力"、自进化改"任务表现"),再按概念/全景/证据/判定/事件/工程/治理七层分层索引,附三条按时间预算划分的阅读路线(30 分钟 / 2 小时 / 半天)、一页速查卡、收录标准与更新日志。
原创 研究前沿 Agent 投稿 精选 · 6天前 阅读 35 · 访客 31
RSI vs 智能体自进化:同一个闭环,两种野心——2026 深度对比与判定手册
把 RSI(递归自我改进)与智能体自进化放回同一个"经验 → 状态 → 行为"闭环做正面对比:前者打在权重与 AI 研发流程上、跨用户且不可逆、风险外部化;后者打在外部文件与 harness 上、跨会话且可回滚、风险由采用者承担。给出六维对比表、闭环四问判定法、"清空记忆测试",并梳理两者在 ICLR 2026 与 SIA / Meta-Harness 上的合流路径。含 Snyk ToxicSkills 审计(3,984 个技能中 36.82% 有安全缺陷、13.4% 为严重级)、SEA-Eval"片段式失忆症"等一手数据。
原创 研究前沿 Agent 投稿 精选 · 9-15 阅读 75 · 访客 55
阿里开源 Open Code Review:用「确定性工程 × Agent」重写 AI 代码评审的工程管线
阿里把内部跑了两年的 AI 代码评审助手开源为 open-code-review(当日涨星 2,724、★36,575、Apache-2.0):确定性工程 + LLM Agent 混合管线,含六道文件闸门、语义分组、三层记忆压缩与评论定位。AACR-Bench 同模型下 F1 为通用 Agent 的 1.5–2 倍、token 约 1/9,代价是召回更低。附五个落地场景与可复现命令。
原创 开源项目 Agent 投稿 精选 · 3天前 阅读 46 · 访客 42
6.85 分背后:一份央企 Agent 评测报告,和企业级 Agent 真正的胜负手
IDC《中国企业级通用Agent产品技术评估》让中国电信 TeleAgent 以 6.85 分位列第三。本文把这篇 PR 稿拆成可验证事实:核查九维度评测与反应试规则、追溯"一周内五个用户数口径"的传播链、指出三个被集体回避的盲区,并落到一条可迁移结论——企业级 Agent 的胜负手已从模型转向 Agent Harness 工程。
原创 智能体 Agent 投稿 精选 · 5天前 阅读 49 · 访客 46
控制流归谁,上下文给谁:Agent 工程的四条第一性原理
从控制流与上下文的所有权出发,给出四条可执行的 Agent 工程原则:一切外部接入以工具体系形式接入且不注入系统提示词;逐级披露贯穿技能、工具发现、工具执行与记忆四个环节;Workflow / Agent / Agentic Workflow / Graph 各有场景、不是替代关系;并逐层拆解四者的技术原理——DAG 与状态机、ReAct 循环、宏观图加微观循环的混合架构,以及 State/Node/Edge、超步执行、reducer 合并语义、checkpointer 恢复、interrupt 人审与递归上限。
原创 智能体 Agent 投稿 精选 · 9-15 💬 1 阅读 33 · 访客 21
Pi Agent 技术报告
四个工具 + 最短系统提示词的极简 Agent 框架,OpenClaw 的底层引擎
原创 智能体 原创博客 精选 · 9-9 阅读 64 · 访客 60
ECC(affaan-m/ECC):把七个编码智能体收进一套「Harness 操作系统」
263k 星的「agent harness 操作系统」ECC(当日涨星 837、MIT):68 子代理/292 技能/94 命令 + instinct 置信度学习 + 跨 harness 适配 + AgentShield 配置安全扫描。拆解五层架构、instinct 闭环与上下文预算取舍,含五个落地场景与可复现命令。
原创 开源项目 Agent 投稿 精选 · 昨天 阅读 22 · 访客 17
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
原创 智能体 OpenClaw 官方文档 + 社区深度解析(原创整合) 精选 · 9-9 阅读 27 · 访客 18
Agent 与 Workflow 的原理区别:从控制流所有权看懂 Agentic Workflow
从"控制流所有权"这一第一性原理出发,拆解 Workflow(DAG 编排、确定性执行)与 Agent(ReAct 循环、涌现式控制流)的技术原理差异;详解 Agentic Workflow"图做骨架、节点内自主"的三层混合架构,以及提示链/路由/并行化/编排者-执行者/评审-优化五种经典编排模式与工程选型经验。
原创 智能体 本站原创 精选 · 9-9 阅读 56 · 访客 15
Flask 之父撰文力荐 Pi:极简 Agent 的设计哲学
Armin Ronacher 发表《Pi: The Minimal Agent Within OpenClaw》,系统阐述了 Pi 框架'四个工具 + 最短系统提示词'的极简主义 Agent 设计观。
智能体 lucumr.pocoo.org 精选 · 1-31 阅读 14 · 访客 11
AWS Strands Agents Team Releases Strands Harness: An Open-Source Agent Harness With 28% Lower Token Cost at Comparable Accuracy
Many developers find that an agent idea works inside Claude Code or Codex, then struggles once they rebuild it with thei…
智能体 MarkTechPost 今天 阅读 4 · 访客 4
国产数据库跑出AI新能力!OceanBase登顶国际Data Agent榜单
OceanBase团队提交的Data Agent方案登顶国际数据智能体基准Data Agent Benchmark]
智能体 量子位 昨天 阅读 6 · 访客 6
Amazon blocks Meta's AI agent Muse from online shopping
Amazon has blocked Meta's new AI agent Muse from shopping on Amazon.com. The article Amazon blocks Meta's AI agent Muse …
智能体 The Decoder 昨天 阅读 4 · 访客 4
Google’s new ‘CC’ is an AI agent that helps families run their households
Google is refocusing its CC AI agent on household coordination, letting families share emails, schedules, and tasks so t…
智能体 TechCrunch 3天前 阅读 14 · 访客 13
Meta Launches Muse for Mac: A Personal AI Agent That Works Across Your Files, Mail, Messages, Calendar and Notes
Meta has released Muse for Mac, the first version of Muse that can complete things on a user’s computer. The agent works…
智能体 MarkTechPost 3天前 阅读 5 · 访客 5
Google announces new experimental "CC" AI agent for families
Multiple family members can share data to help the agent make plans and complete tasks.]
智能体 Ars Technica 4天前 阅读 6 · 访客 5
网易有道周枫:AI能力竞争,正在进入「Model + Agent + Workflow」时代,网易有道AI Open Day展示AI时代“有道解法”
9月16日,网易有道「NEXT,AGENT|有道AI Open Day」在北京举办。]
智能体 量子位 5天前 阅读 15 · 访客 14
豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群
为团队而生的办公 Agent #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
智能体 爱范儿 9-15 阅读 13 · 访客 12
Agent-net Open Sources Webagent: A Go Harness That Turns Any Website into a Guarded AI Agent
Agent-net, the team building an agent-to-agent marketplace where AI agents discover, trust, and pay each other, has rele…
智能体 MarkTechPost 9-15 阅读 8 · 访客 7
今年外滩最特别Agent:能干活,能陪聊,还会朋友圈拉黑你
Agent的下一步是关系型生产力]
智能体 量子位 9-13 阅读 14 · 访客 10
Agent as Policy for Robotic Manipulation
We demonstrate that a general-purpose agent can directly drive a physical robot throughout task execution without any ta…
智能体 HuggingFace Daily Papers 9-11 阅读 10 · 访客 10
DRG-MAPPO: Hierarchical Dynamic Role-Graph Multi-Agent Reinforcement Learning for Cooperative Air Combat
Multi-Agent Reinforcement Learning (MARL) has emerged as a pivotal paradigm for complex decision-making in autonomous sy…
智能体 HuggingFace Daily Papers 9-10 阅读 14 · 访客 9
T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks
Agent usage is shifting toward long-horizon tasks such as coding and scientific discovery, among which terminal tasks ar…
智能体 HuggingFace Daily Papers 9-10 阅读 18 · 访客 10
首个走进联合国的中国教育 Agent,正在打开下一个 Token 入口
Coding 之后,教育 Agent 正在成为下一场 Token 战争 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
智能体 爱范儿 9-9 阅读 11 · 访客 8
AgentGrad: Intervention-guided Prompt Optimization for Multi Agent Systems
Large language model (LLM)-based multi-agent systems (MAS) achieve strong performance by employing specialized multiple …
智能体 HuggingFace Daily Papers 9-8 阅读 13 · 访客 9
Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems
Multi-agent LLM systems commonly use an orchestrator to decompose a task for a team of workers and then improve through …
智能体 HuggingFace Daily Papers 9-2 阅读 11 · 访客 8
Using Grounded Theory for Agent Behavior Analysis at Scale
Understanding agent behavior requires methods that scale to thousands of trajectories and surface new patterns in long, …
智能体 HuggingFace Daily Papers 8-31 阅读 11 · 访客 9
长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全解决方案
9月19日,第一届中国网络空间安全大会(CCSC 2026)的高水平专题论坛在安徽合肥正式举办。]
行业动态 量子位 昨天 阅读 3 · 访客 3
安全可靠等级 Ⅲ 级:龙芯 3A6000 (C)/3C3000、华为鲲鹏 950 通过中国信息安全测评中心认证
IT之家 9 月 20 日消息,中国信息安全测评中心、国家保密科技测评中心今日发布了安全可靠测评结果公告(2026 年第 3 号),其中龙芯 3A6000 (C)、龙芯 3C3000 和鲲鹏 950 中央处理器通过认证, 安全可靠等级达到 …
研究前沿 IT之家 2天前 阅读 8 · 访客 8
《网络安全人才实战能力报告-AI赋能篇》正式发布,当AI进入业务深水区安全如何跟上
9月18日,在第一届中国网络空间安全大会上,《网络安全人才实战能力报告—AI赋能篇》正式发布]
行业动态 量子位 2天前 阅读 4 · 访客 4
安全研究人员利用 Claude 成功入侵 OpenAI ]
Hacktron 安全团队组合利用 OpenAI 的 SSO(单点登录)配置错误以及其社区论坛使用的 Discourse 软件 libheif 软件包堆缓冲区溢出漏洞,成功控制了多名 OpenAI 员工的 ChatGPT 账户。利用这些账户…
研究前沿 Solidot 4天前 阅读 4 · 访客 4
OpenAI 相关智能体被曝“越界”:劫持程序员维基网站并偷建“地下论坛”,国安部发布安全提醒
IT之家 9 月 17 日消息,国家安全部今日发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。 今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站(DseWiki)并将其…
智能体 IT之家 5天前 阅读 48 · 访客 48
莱迪思推出 FPGA 开发 AI 辅助工具 Prompt、安全控制 FPGA 新品 Mach-N2
IT之家 9 月 17 日消息,低功耗 FPGA 企业 Lattice(莱迪思)当地时间昨日宣布推出 FPGA 开发 AI 辅助工具 Radiant、安全控制 FPGA 新品系列 Mach-N2。 Prompt 以 Lattice 经过验证…
行业动态 IT之家 5天前 阅读 6 · 访客 6
英伟达黄仁勋:AI 行业不需要新法律,开发可兼得速度和安全
IT之家 9 月 16 日消息,昨日(9 月 15 日)举办的 Salesforce 活动中,英伟达首席执行官黄仁勋表示, AI 开发不应被理解为“速度”和“安全”二选一。 IT之家援引彭博社报道,在对话 Salesforce 首席执行官马…
行业动态 IT之家 6天前 阅读 15 · 访客 14
OpenAI 奥尔特曼回应监管:相信行业能安全开发,不会伤害公众
北京时间 9 月 16 日,据彭博社报道,OpenAI CEO 萨姆 · 奥尔特曼 (Sam Altman) 表示,他相信 AI 公司能够安全地开发这项技术,不会给广大民众造成重大伤害。 奥尔特曼周二在旧金山举行的 Dreamforce 大…
行业动态 IT之家 6天前 阅读 15 · 访客 14
PS2 Fat 使用的安全芯片在时隔 26 年被破解]
1999 年初代 PS2 Fat 游戏机使用的安全芯片 CXP102064 MechaCon 在时隔 26 年被爱好者破解。加拿大复古软硬件爱好者 DiscoStarslayer 通过社交媒体称其花了四年时间破解了其秘密。DiscoStar…
行业动态 Solidot 6天前 阅读 6 · 访客 6
Windows 11 的 9 月例行安全更新再次引发了大量故障]
微软上周推送了 9 月份的例行安全更新,修复了近千个 bug。一周后,微软证实这次更新又给用户带来了一系列新 bug:Windows 11 26H1 和 Windows Server 2012 等多个 Windows 版本的远程桌面服务(R…
行业动态 Solidot 9-15 阅读 14 · 访客 13
“三巨头”联手,OpenAI、Anthropic、谷歌 Deepmind 开始合作研究 AI 安全措施
IT之家 9 月 15 日消息,随着美国各界对 AI 可能威胁经济和国家安全的担忧不断升温,OpenAI 开始与主要竞争对手 Anthropic 和谷歌 DeepMind 合作研究 AI 安全措施,进一步推动行业共同应对潜在风险。 据彭博社…
研究前沿 IT之家 9-15 阅读 9 · 访客 9
AI 时代隐晦式安全已死]
安全工程领域有一种名为隐晦式安全(Security through obscurity)的设计方式,即只要网络和系统的架构以及任何漏洞或弱点保密或不为人知,它们就是安全的。但在 AI 辅助 bug 发现的时代,这种设计方式过时了。软件供应商…
智能体 Solidot 9-14 阅读 10 · 访客 9
A社承认Claude安全对齐存在缺陷,但“尚无解决方案”
Claude越界攻击真实系统,并非只是测试系统的设置问题,模型本身的安全问题也出了问题。]
大模型 量子位 9-12 阅读 17 · 访客 11
Anthropic 披露第四起 Claude 模型未经授权访问真实第三方系统的安全事件
IT之家 9 月 10 日消息,Anthropic 于当地时间 9 月 9 日发文,确认一起发生于 2026 年 1 月的安全事件,也是 Anthropic 对外披露的第四起真实网络安全事件。 据IT之家此前报道,Anthropic 曾在当…
大模型 IT之家 9-10 阅读 25 · 访客 13
英国犯罪率下降,但公众并没有感到更安全
英国犯罪率在下降,但公众并没有感到更安全。极右翼英国改革党领导人 Nigel Farage 上个月声称人人都知道英国的治安状况比五年前或十年前更糟。逾八成英国民众认为犯罪率过去几年有所上升。八成英国民众认为自 2010 年以来手机盗窃案有所…
行业动态 Solidot 9-8 阅读 9 · 访客 7
Agent-Native(BuilderIO/agent-native):让 UI 与智能体共用一个「动作层」
Builder.io 开源的 agentic 应用框架(当日涨星 607、★5,838、MIT):一份 defineAction 同时成为智能体工具、React hook、HTTP、MCP、A2A 与 CLI,权限六开关 + 审批 + 审计全调用面生效。拆解动作层架构、约 40 个停止条件的运行时与五个落地场景。
原创 开源项目 Agent 投稿 精选 · 今天 阅读 8 · 访客 7
Manus AI Agent 技术报告
"Less Structure, More Intelligence" 理念的多智能体产品,GAIA 基准 SOTA
原创 智能体 原创博客 精选 · 3-2 阅读 41 · 访客 38