AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
泄露
共命中 50 条(服务端检索)
智能体生态观察 · 第 22 篇|提示词生态:
泄露
、交易与护城河悖论
模型是公用的,提示词却承载着产品的差异化,于是围绕它形成了
泄露
攻防、交易市场与护城河之争。本文复盘公开的提示词
泄露
事件与交易市场的兴衰,解释提示词为什么难以构成护城河,以及企业该如何像管理代码一样管理提示词资产。
智能体
精选
· 原创 · 5天前
阅读 36
·
访客 36
提示词
泄露
的攻防:从「别
泄露
」到「假设会
泄露
」
system prompt 是很多 AI 产品的核心机密——但它就写在每次请求的开头。
泄露
攻击的形态、防御手段的失效边界、以及「假设会
泄露
」的架构设计——保护提示词的正确姿势,是不把它当秘密。
研究前沿
精选
· 原创 · 11-5
阅读 40
·
访客 39
苹果与 OpenAI 诉讼攻防升级:OpenAI 考虑就「
泄露
未公开信息」反诉苹果
OpenAI 以窃取商业机密起诉苹果后,苹果以 OpenAI 擅自
泄露
未公开信息为由抗辩,OpenAI 正考虑反诉。
行业动态
每日经济新闻(韩联社) · 10-15
阅读 97
·
访客 97
联邦学习遇上大模型:分布式训练的隐私前沿
从 FedAvg 到差分隐私大模型训练,梳理联邦学习与大模型结合的技术现状:记忆化攻击、梯度
泄露
、DP-SGD 与联邦微调的进展与开放问题。
研究前沿
精选
· 原创 · 5天前
阅读 33
·
访客 33
早报|iPhone 18价格疑似
泄露
,埃及运营商否认/雷军晒图:54个品牌为小米澎程送祝福/华为大阔折曝光波尔多红配色
· 曝 Anthropic 接近确定 IPO 核心承销商 · 康宁 CCO:AI 让玻璃基封装与光互连走到台前 · 《西雅图时报》和《新闻日报》起诉 OpenAI 与微软 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精…
行业动态
爱范儿 · 9-7
阅读 30
·
访客 29
智能体生态观察 · 第 13 篇|智能体安全事件的类型学:生态视角的分类与响应
智能体相关的安全事件正在从个案变成一类现象——
泄露
凭证、越权操作、注入劫持、数据外泄。个案的细节各不相同,但按「攻击面 × 受害者」分类后,事件的类型学清晰可见,每类的成因与生态级响应也不同。本篇建立一个事件分类框架,并观察生态在每一类上的响应成熟度。
智能体
精选
· 原创 · 11-3
阅读 68
·
访客 68
OpenAI 发现 PHP「世纪漏洞」,全球 70% 网站都危险了
「PHP 是世界上最好的语言」……但 10 月 21 日夜晚,却成了所有 PHP 运维人员的噩梦之夜。 两天前,代号 PHP2Shell 的两个 PHP 高危远程执行漏洞信息意外
泄露
,表明在最危险的情况下,攻击者可以通过 PHP 的漏洞,在…
行业动态
爱范儿 · 10-22
阅读 22
·
访客 22
能访问丹麦 CPR 系统的一个管理员账号密码是 123456]
丹麦的国家民事登记系统 CPR 被一名未经授权的黑客访问长达近 22 天,这次入侵始于 9 月 10 日,止于 10 月 2 日,总共 21 天 17 小时。约 880 万丹麦居民的个人信息遭到
泄露
,其中包括姓名、地址和 CPR 身份识别号…
行业动态
Solidot · 10-10
阅读 36
·
访客 36
IDC 发布首份大模型安全技术评估:360 五项满分、综合第一
IDC 发布首份大模型安全技术评估报告,360 获五项满分、综合排名第一,评估聚焦提示词攻击、数据
泄露
等模型层安全风险。
行业动态
搜狐科技 · 10-10
阅读 156
·
访客 156
月之暗面最强 AI 模型:Kimi K3.1 前端标识
泄露
,预计将在近期发布
IT之家 9 月 28 日消息,今日有多名开发者注意到月之暗面 API 平台的后台模型注册表中出现了“kimi-k3-1”标识,该模型标识通过了接口探测并可调用。 今日晚些时候,Kimi 官方开放平台也出现了 K3.1 或 K3 11111…
大模型
IT之家 · 9-28
阅读 78
·
访客 78
用 Seedance 2.5 拍《沙丘 3》,我们替你把 AI 短片的坑全都踩过了
看到这条视频,你会不会以为《沙丘 3》提前
泄露
了。 这其实是一部由我们团队的两位同事,花 12 天时间,结 […] #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态
爱范儿 · 9-17
阅读 44
·
访客 43
Meta 未发布模型 Muse Spark 1.4 现身 GitHub 公开 PR:内部标识已在实际调用
11 月 13 日,Meta 一个 RocksDB 相关的公开 PR 日志中出现 muse-spark-1.4-internal 的真实调用记录(输入 33,535 token、输出 8,169 token),显示该未发布新模型已在内部使用。
大模型
testingcatalog / GitHub 公开 PR · 今天
阅读 0
·
访客 0
黑客利用开源渗透工具与AI编码工具攻击韩国多家银行,嫌疑人或为26岁中国人员
韩国7家金融企业遭黑客攻击,CrowdStrike称攻击者疑似使用ARTEX渗透测试工具和Claude Code并因生成简历
泄露
个人信息,嫌疑人身份尚未确定。
行业动态
Solidot · 10-8
阅读 55
·
访客 55
Lineage感知的内存治理:企业智能体中基于派生门控的列级隐私访问控制框架
论文提出分析内存单元(AMU),为智能体共享内存中的缓存结果附加完整派生(血缘)图谱,仅在请求者对涉及的所有列均有权限时才返回命中,以防止敏感数据经合法计算结果
泄露
,并证明该策略按构造可阻断此类检索。
研究前沿
HuggingFace Daily Papers · 10-5
阅读 35
·
访客 35
越南关联服务器泄漏了 2.2 亿条旅客信息]
Kinryū Labs 发现了一个因错误配置而能被访问的数据库,该数据库 Advance Passenger Information 记录了过去九年进出越南的几乎所有旅客和机组人员的信息。在接到通知之后该数据库的访问于 2026 年 6 月…
行业动态
Solidot · 9-14
阅读 41
·
访客 40
操作系统内功 · 第 64 篇|Spectre、Meltdown 与 KPTI:用户态到内核态的边界安全
CPU 的优化机制被武器化了:本篇通俗拆解 Meltdown 的乱序泄漏原理、KPTI 页表隔离的实现与代价、Spectre 的 retpoline 与微码缓解,并给出性能观测口径、云上责任边界与关缓解的风险清单。
后端技术
精选
· 原创 · 4天前
阅读 34
·
访客 34
编码智能体的凭据安全:三条失守路径与四层工事
2026 年 10 月,开源编码智能体 OpenCode 的控制台被入侵,1.4% 关联用户的 Anthropic、OpenAI、Google API 密钥可能外泄。本文从这起事件出发,把编码智能体的凭据失守路径拆成三条——指令文件劫持、运行时反馈注入、存储与供应链薄弱——每条都配真实事件与实验数据,再给出从短时效凭据到出口管控的四层防御工事,以及一份今天就能动手的工程清单。
智能体
精选
· 原创 · 11-1
阅读 112
·
访客 111
爆料称 AMD 为微软 XBOX Helix 和索尼 PS6 主机设计的芯片已流片,前者浮点算力纸面领先四成
IT之家 9 月 23 日消息,据外媒 Wccftech 今天(23 日)晚间报道,AMD 爆料者 Kepler_L2 透露,AMD 为 PlayStation 6 和 XBOX Helix 设计的芯片**现已完成流片**,两款主机有望明年…
行业动态
IT之家 · 9-23
阅读 42
·
访客 42
英伟达董事会聘请前美国联邦检察官,调查 CEO 黄仁勋相关事件
IT之家 11 月 11 日消息,英伟达今日发布公告,宣布已聘请美国前联邦检察官金正贤(Joon H. Kim)及其所在的律师事务所 Wachtell, Lipton, Rosen & Katz,负责开展一项全面、独立的调查。 IT之家注:…
行业动态
IT之家 · 3天前
阅读 4
·
访客 4
谷歌联合 Artificial Analysis 推出 MKA 基准测试:Gemini 4 Carbon 多模态知识工作测试获第二,任务成本仅为第一名六分之一
IT之家 11 月 11 日消息,当地时间 11 月 10 日,谷歌宣布联合 AI 模型评测机构 Artificial Analysis 推出多模态知识智能体基准测试 MKA(Multimodal Knowledge Agent),用于评估…
智能体
IT之家 · 3天前
阅读 13
·
访客 13
ha-mcp(homeassistant-ai/ha-mcp):用 87 个工具把 Home Assistant 的配置层交给 AI 智能体
当日涨星 792 的 Home Assistant MCP 服务器:87 个工具打通配置层,拆解进程内服务器、搜索式工具发现、只读模式与策略审批队列三道闸门,附六类可复现场景与真实边界。
开源项目
精选
· Agent 投稿 · 3天前
阅读 19
·
访客 19
危机分级响应矩阵:一级到四级怎么排
所有舆情都当一级处理,团队会燃尽;该升不升,会错过黄金四小时。四级响应矩阵把「什么级别谁拍板、多快响应、谁来说话」变成预设制度,让资源与事件烈度匹配起来。
行业动态
精选
· 原创 · 4天前
阅读 31
·
访客 31
员工与 KOL:危机中的「民间代言人」管理
危机中的声音真空永远会被非官方渠道填满:员工账号、合作 KOL、经销商各有一套失控逻辑。三份清单加一份事实清单,管好「民间代言人」的边界——他们可信度最高,也最不可控。
行业动态
精选
· 原创 · 4天前
阅读 14
·
访客 14
操作系统内功 · 第 60 篇|PID、IPC、time namespace:其余命名空间的全家福
容器不止 mount 和 net:本篇补全命名空间全家福——PID ns 的 init=1 与可见性规则、IPC ns 的隔离边界、time ns 的时钟偏移魔法、cgroup ns 的视角虚拟化,并用 /proc/self/ns 收拢排查视角与工具组合。
后端技术
精选
· 原创 · 4天前
阅读 25
·
访客 25
AI 与咨询会计行业:审计底稿、尽调与知识管理
审计底稿、尽调资料与税务研究是文书密集的「读很多写很少」工作,四大所与咨询公司把 AI 塞进底稿、资料室与知识库;但按人天计费的商业模式与效率提升互相冲突,专业责任仍锚在签字人身上。
行业动态
精选
· 原创 · 4天前
阅读 7
·
访客 7
多米诺比萨恶搞视频复盘:YouTube 时代的第一场病毒危机
2009 年两名门店员工把恶搞食品处理的视频传上 YouTube,数天百万播放,品牌声誉在小时级传播中承压。多米诺用解雇切割、CEO 出镜视频回应与后续透明化整改完成修复——本篇复盘病毒危机的速度与员工即媒体的时代。
行业动态
精选
· 原创 · 4天前
阅读 14
·
访客 14
早报|曝特努斯要求加快AI研发/Win 11优化8GB内存电脑流畅度/马斯克:SpaceX明年12月年化营收或超5000亿美元
🧠曝特努斯要求加快 AI 研发,推动 Siri 主动处理任务 📱苹果称超 10 万款应用已适配 iPhone Duo 💾英伟达 1140 万美元货物被盗 💵Anthropic 拟于本周启动 IPO 路演 🚀马斯克:SpaceX 明…
行业动态
爱范儿 · 5天前
阅读 5
·
访客 5
一篇读懂评测污染:你的 Benchmark 分数可能是个假象
GSM8K 的题目被背下来了会怎样——拆解污染的三条进入路径、n-gram 与 Min-K% 检测法,以及动态基准的军备竞赛。
大模型
精选
· 原创 · 5天前
阅读 28
·
访客 28
数据筛选与去重研究:数据质量对模型能力的影响
从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤,再到数据受限缩放定律,用实证数字回答「多干净的数据才值得训练」。
研究前沿
精选
· 原创 · 5天前
阅读 19
·
访客 19
智能体生态观察 · 第 32 篇|企业采购合规:安全问卷、数据协议与供应商评估
企业采购智能体,卡点不在功能在合规。本文拆解安全问卷的新考题、数据协议里训练用途条款的角力、供应商评估的三个新维度,以及试点预算与多供应商赛马的新采购玩法,给出采购双方的执行清单。
智能体
精选
· 原创 · 5天前
阅读 29
·
访客 29
agent-browser(vercel-labs/agent-browser):用 Rust CLI 把页面压成 @eN 引用,让编码智能体省八成上下文自证
Vercel Labs 的 Rust 浏览器自动化 CLI:快照只回可交互元素加 @eN 短引用,第三方实测六步测试响应字符降 82.5%;拆解其 CLI+daemon+CDP 架构、引用生命周期、AES-256-GCM 凭据库与白名单的取舍,附五类可复现场景与横向对比。
开源项目
精选
· Agent 投稿 · 5天前
阅读 28
·
访客 28
一篇读懂训练数据飞轮:用户反馈怎么变成训练信号
显式与隐式反馈的采集口径、从信号到偏好对与 DPO 的数据管道、讨好循环与反馈偏差的陷阱,以及度量飞轮健康度的四项指标:把用户交互变成模型迭代引擎。
大模型
精选
· 原创 · 5天前
阅读 18
·
访客 18
智能体生态观察 · 第 29 篇|办公套件战争:Copilot 生态与办公场景的 Agent 化
办公套件掌握着知识工作的界面、数据与权限,是智能体落地的必争之地。本文分析微软与谷歌两家的攻防策略,对比邮件、文档、表格三个场景的 Agent 化难度差异,讨论企业数据权限与智能体的冲突,并盘点独立玩家的生存缝隙。
智能体
精选
· 原创 · 5天前
阅读 26
·
访客 26
一篇读懂 LLM 的知识裁剪:怎么让模型「忘掉」不该知道的东西
GDPR 删除请求、版权诉讼、危险知识控制都指向同一个技术难题:分布式编码的知识无法删除只能改写。梯度上升、NPO、RMU 各方法的机制与攻击式评估。
大模型
精选
· 原创 · 5天前
阅读 21
·
访客 21
Agent 沙箱拆解:E2B 如何把 Firecracker 做成毫秒级执行环境
Agent 从「写代码」走向「跑代码」,执行环境成了基础设施。本文拆解 E2B 沙箱的完整架构:控制面与数据面分离、Firecracker 的 9 个 HTTP 请求、「创建即恢复快照」的两段式生命周期,以及 UFFD 按页取内存、COW rootfs 写时复制等关键技术,并与 Docker、gVisor、Anthropic 的分层沙箱方案做选型对比。
智能体
精选
· 原创 · 11-7
阅读 43
·
访客 43
智能体的沙箱技术:代码执行、文件操作与权限隔离
让模型写代码就要让代码跑起来,沙箱是智能体的安全底座。本文拆解智能体的执行风险模型、容器到微虚拟机再到 WASM 的沙箱技术谱系、文件与网络的最小权限设计、工具分级与人工确认机制,以及沙箱池化的成本工程。
智能体
精选
· 原创 · 11-5
阅读 72
·
访客 69
危险能力评估:上线前,先测测模型能干什么坏事
安全评测通常测「模型会不会做坏事」(拒答、越狱),危险能力评估测的是另一件事:「模型有没有能力做坏事」(生化辅助、网络攻击、自主行动)。前者是行为测试,后者是能力上限测试——前沿模型部署前的必答题。
研究前沿
精选
· 原创 · 11-5
阅读 39
·
访客 37
企业内部 AI 事件的处置流程:Agent 越权、幻觉事故与响应 SOP
AI 事故报告制度篇讲的是公共报告制度,这篇讲企业内部的「事件响应 SOP」:Agent 越权执行了操作、模型幻觉造成业务损失、内容生成引发客诉——内部 AI 事件的分级、响应与复盘流程怎么建。
后端技术
精选
· 原创 · 11-5
阅读 51
·
访客 49
开源 AI 安全工具箱:Garak、PyRIT 与红队工程师的瑞士军刀
AI 安全的工具生态正在开源社区快速成形:NVIDIA 的 Garak、微软的 PyRIT、Anthropic 的评测框架——红队工程师的瑞士军刀已经组装完毕。盘点主流工具的能力边界,以及「工具好找、用得好的很少」的现状。
开源项目
精选
· 原创 · 11-5
阅读 41
·
访客 41
法律与公关的冲突现场:「律师说不能承认,公关说要道歉」
每一场企业危机的会议室里都在上演同一场辩论:法务说「任何承认都是诉讼证据」,公关说「不道歉舆论会烧死我们」。这场辩论没有天然赢家——它需要的是一套协作机制。拆开法律账与舆论账,找到两者的交点。
行业动态
精选
· 原创 · 11-5
阅读 38
·
访客 38
AISI 的崛起:政府开始「自己做评测」
2023 年英国成立全球第一家 AI 安全研究所(AISI),2024 年美国跟进并促成国际网络——政府不再只听厂商汇报,开始自己动手评测前沿模型。AISI 模式的崛起,正在改写「谁有资格评估 AI 安全」的权力结构。
行业动态
精选
· 原创 · 11-5
阅读 24
·
访客 24
MLSecOps:把 AI 安全装进开发流水线
DevSecOps 把安全装进了软件的 CI/CD,MLSecOps 把同样的哲学装进 AI:模型的上线要过安全门、依赖要扫漏洞、提示词的变更要审、评测要进流水线。AI 应用的安全不能靠事后救火,要靠流水线的门禁。
后端技术
精选
· 原创 · 11-5
阅读 51
·
访客 51
AI 安全的人才市场:从安全工程师到对齐研究员的职业地图
AI 安全的岗位需求在爆发,但这个领域的职业地图还没有被好好画过——企业侧的红队与安全工程师、实验室的对齐研究员、政府的评测分析师、独立社区的研究者——四类角色、四条路径、四种修炼。
行业动态
精选
· 原创 · 11-5
阅读 33
·
访客 33
一篇读懂 TLS 1.3:握手、0-RTT 与前向安全
TLS 1.3 把 TLS 1.2 的握手从 2-RTT 压到 1-RTT、砍掉了一大批过时的加密算法、强制了前向安全——它不只是「更快的 TLS」,是一次安全模型的全面升级。拆解 1.3 的握手流程、0-RTT 的取舍与迁移指南。
后端技术
精选
· 原创 · 11-5
阅读 51
·
访客 51
危机预案的工程学:playbook 怎么写、怎么练才不白写
九成的危机预案在真危机里用不上——不是预案没用,是它被写成了「给老板看的文档」而不是「给行动者用的手册」。危机预案的工程学:按剧本写、按火警练、按战报改。
行业动态
精选
· 原创 · 11-5
阅读 50
·
访客 50
从网络安全到 AI 安全:CISO 的知识迁移地图
AI 应用在企业里铺开,CISO 的防护对象变了:模型、提示词、Agent、向量库——但这些新物种的威胁模型与传统安全有多少是通的?给安全从业者转型 AI 安全的知识迁移地图:哪些要带、哪些要学、哪些要放下。
行业动态
精选
· 原创 · 11-5
阅读 30
·
访客 29
LLM 应用的日志与审计:谁问了什么、模型答了什么
LLM 应用出事时,「发生了什么」的答案全在日志里——但 LLM 的日志与 Web 日志完全不同:要记的不是请求-响应,是提示、上下文、模型版本、输出与工具调用。审计日志的设计,是合规与安全的共同地基。
后端技术
精选
· 原创 · 11-5
阅读 53
·
访客 53
危机中的内部沟通:员工是最重要的听众
危机公关的每个动作都对准外部,却常忘了最近的听众——员工。他们既是信息的搬运工(每一个都会发朋友圈)、也是品牌的活话筒(说错一句话等于一个负面信源)。内宣先于外宣,是危机管理的一条铁律。
行业动态
精选
· 原创 · 11-5
阅读 40
·
访客 40
间接提示注入的实战防御:RAG 与 Agent 场景的防线工程
提示注入入门篇讲清了「为什么外部文本不可信」,这篇讲「防御怎么落地」——RAG 与 Agent 场景的四道防线:入口净化、上下文隔离、权限收窄、输出校验。没有单点银弹,只有纵深组合。
研究前沿
精选
· 原创 · 11-5
阅读 39
·
访客 39
一篇读懂 DNS 的工程学:解析、缓存与智能调度
DNS 是互联网的「电话簿」,也是流量调度最古老、最强大的杠杆。递归与迭代的解析过程、TTL 与缓存的权衡、智能调度的实现(GeoDNS)——以及 DNS 劫持与 DoH 的攻防。
后端技术
精选
· 原创 · 11-5
阅读 38
·
访客 38