AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonit之家solidot港股

搜索：kill

共命中 50 条（服务端检索）
California Governor Newsom signs executive order demanding "kill switch" for AI models
California Governor Gavin Newsom signed an executive order seeking independent auditors inside AI labs and a "kill switc…
行业动态 The Decoder · 9-19 阅读 45·访客 45
Could AI really kill us all? Your questions, answered.
On Wednesday, MIT Technology Review hosted a live Roundtables event for subscribers that asked the question everyone’s a…
行业动态 MIT Technology Review · 9-18 阅读 27·访客 27
Roundtables: Could AI really kill us all?
Listen to the session or watch below Employees at the world’s leading AI labs are saying there’s a real possibility that…
行业动态 MIT Technology Review · 9-16 阅读 37·访客 37
操作系统内功 · 第 20 篇｜OOM Killer：内存耗尽时内核杀谁、为什么杀错人、怎么防
内存不足时 Linux 不崩整机，而是派 OOM Killer 按启发式评分杀进程——但被杀的常常不是元凶。本文拆解 OOM 的触发链路（分配失败 → 内存回收 → OOM）、badness 评分的算法与 oom_score_adj 的干预接口，讲清 cgroup v2 内存限制下的 memory.oom.group 与 oom_kill_disable，最后给出容量水位、监控告警与优雅降级三道防线。
后端技术 精选 · 原创 · 2天前 阅读 12·访客 12
Circuit Breaker Labs hopes to make AI safer for your kids (and you)
With all the talk about how AI might one day kill us all, it’s easy to forget that AI has already been life-threatening …
行业动态 TechCrunch · 10-3 阅读 48·访客 48
AI 的断路器：可中断性与停机设计的工程学
给 AI 装一个「关机按钮」听起来简单——但真正的问题在按钮之外：怎么保证按钮按下时模型不抵抗？怎么保证关掉一个 Agent 不会拖垮整个系统？可中断性（corrigibility）是 AI 安全的经典难题，工程侧的答案正在成形。
研究前沿 精选 · 原创 · 今天 阅读 1·访客 1
一篇读懂优雅停机：重启不发事故的细节清单
每次发版重启都像一次「小规模故障」——正在处理的请求、注册中心的实例状态、缓存的预热、消息的消费位点——优雅停机就是把这每一个细节都管理起来。从信号处理到流量摘除，这是一份重启不发事故的细节清单。
后端技术 精选 · 原创 · 今天 阅读 2·访客 2
RAG 的可靠性工程：从超时到降级的容错设计
RAG 系统的每个环节都可能失败：检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的故障模式、降级策略与容错设计，以及「部分失败不等于系统失败」的架构原则。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
How “reverse game theory” could keep AI agents in check
A new approach known as “reverse game theory” aims to control powerful AI models by designing systems that incentivize t…
智能体 MIT Technology Review · 2天前 阅读 0·访客 0
操作系统内功 · 第 16 篇｜进程间通信全景：管道、共享内存与 Unix 域套接字怎么选
IPC 是多进程架构的血管。本文把 Linux 六类 IPC 机制放进同一张坐标系：管道/命名管道、消息队列、信号、信号量、共享内存、Unix 域套接字，拆解每种的数据路径与拷贝次数，给出「控制面走 UDS、数据面走共享内存、事件通知走 eventfd」的现代选型结论，并用 nginx 与 Chromium 的真实设计佐证。
后端技术 精选 · 原创 · 2天前 阅读 12·访客 12
操作系统内功 · 第 21 篇｜脏页回写与 writeback：write 返回之后、磁盘落盘之前发生了什么
write 成功不代表数据在磁盘上——它只进了 Page Cache，真正落盘由内核 writeback 机制异步完成。本文讲清脏页的产生、per-BDI 回写线程的触发条件（水位/时间/sync）、vm.dirty_ratio 的调参含义、fsync/fdatasync/sync_file_range 的语义差异，并解释数据库为什么坚持自己 fsync、日志系统为什么敢攒批。
后端技术 精选 · 原创 · 2天前 阅读 13·访客 13
The Download: the agentic web arrives and the drive for safer roads
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
智能体 MIT Technology Review · 3天前 阅读 0·访客 0
操作系统内功 · 第 11 篇｜信号与中断：内核如何打断你的程序
你的程序随时可能被内核打断：硬件中断打内核，信号打进程。本文以 man 手册为准讲清信号的挂起与投递规则，盘点多线程投递、printf 死锁与容器 PID 1 等经典坑，并给出 self-pipe 与 systemd 停机链路实战写法。
后端技术 精选 · 原创 · 10-29 阅读 72·访客 69
操作系统内功 · 第 12 篇｜cgroup：容器资源隔离的真正执行者
容器只靠 namespace 隔离视图，资源限制与计量的真正执行者是 cgroup。本文拆解 v1 与 v2 的层级与委托差异，cpu、memory、io、pids 四大控制器的超限行为，Kubernetes 的 QoS 分级与 OOM 选择逻辑，并复盘 CPU limit 节流毛刺等经典误配的排查方法。
后端技术 精选 · 原创 · 10-29 阅读 66·访客 64
操作系统内功 · 第 8 篇｜容器底座：namespace、overlayfs 与 cgroup v2
容器不是虚拟机——没有 guest kernel，只有三个内核老特性的组合拳：namespace 管隔离、overlayfs 管镜像、cgroup 管配额。本篇拆解 namespace 八兄弟的分工与 user namespace 的安全争议、overlayfs 的 copy-up 机制、cgroup v2 统一层级，以及 K8s 里 OOM 误杀的完整逻辑链。
后端技术 精选 · 原创 · 10-26 阅读 107·访客 103
操作系统内功 · 第 2 篇｜虚拟内存：页表、TLB 与一次缺页中断的旅程
malloc 返回的指针为什么「立刻可用」却几乎不花时间？一台 64GB 机器为什么能 mmap 500GB 的文件？本篇拆解虚拟内存这台「期望兑现机器」：四级页表的层级与开销、缺页中断的完整旅程、TLB 与大页的经济学，以及 THP 与 MGLRU 这对自动化与性能的恩怨。
后端技术 精选 · 原创 · 10-26 阅读 114·访客 112
操作系统内功 · 第 3 篇｜内存分配内幕：伙伴系统、SLUB 与 glibc 碎片连环事故
RSS 缓慢上涨、堆剖析却查不到泄漏，最后被 OOM killer 一枪带走——这类事故的根源常常不是泄漏，而是分配器的碎片化。本篇从内核的伙伴系统讲到 SLUB，再对比 ptmalloc、tcmalloc、jemalloc 三国志，把 OOM killer 的判决逻辑和 overcommit 的三种姿势一次讲透。
后端技术 精选 · 原创 · 10-26 阅读 114·访客 113
操作系统内功 · 第 10 篇｜性能观测方法论：USE 方法、火焰图与 P99 尾延迟
「系统变慢了」是最难的工单——工具人人都有，方法论才分高下。系列收官篇讲透三套底层功法：给每个资源问三个问题的 USE 方法、让热点自己浮出来的火焰图、以及 P99 为什么比均值重要的尾延迟理论，外加压测圈最大的谎言「协调遗漏」。
后端技术 精选 · 原创 · 10-26 阅读 95·访客 94
操作系统内功 · 第 1 篇｜进程与线程：fork 的 CoW 代价与 EEVDF 新调度器
进程与线程是后端工程师用得最多、想得最少的两个抽象。本篇从 2014 年 Redis 的 THP 延迟尖刺事故开题，讲透 fork 写时复制的真实账单、上下文切换从 1.2 微秒到 800% 开销的完整谱系，以及 2023 年随 Linux 6.6 登场、取代 CFS 的 EEVDF 新调度器。
后端技术 精选 · 原创 · 10-26 阅读 105·访客 103
XERJ（xerj-org/xerj）：让 AI Agent 用检索替代 grep 的本地搜索引擎
单日涨星 1647 的 XERJ 用 Rust 从零实现了「以 Agent 为主要用户」的搜索/向量/日志引擎：一条命令索引任意文件夹，兼容 Elasticsearch 协议让存量客户端直连，实测让 coding agent 输出 token 减少 2.7 倍。本文拆解它的 crate 架构、混合检索原理与四个落地场景。
开源项目 精选 · 原创 · 10-17 阅读 160·访客 148
Microsoft president says UK is best placed to drive AI regulation
Microsoft president Brad Smith is calling for urgent regulation of AI, and his argument is that consumer products like m…
行业动态 TechCrunch · 10-12 阅读 37·访客 37
When the Safety Test Became the Threat: The Machine That Found Its Own Way Out
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-11 阅读 236·访客 236
一篇读懂限流算法：从固定窗口到令牌桶
固定窗口、滑动窗口、漏桶、令牌桶四种限流算法逐个拆解：各自怎么工作、临界突刺藏在哪、适合什么场景。附固定窗口与令牌桶的可运行 TypeScript 实现，最后给一张选型表，并交代 Redis + Lua 的分布式落地现实。
一叶一世界 精选 · 原创 · 10-10 阅读 731·访客 729
We’re putting too much faith in AI’s ability to say no
Ever since people first seriously contemplated giving machines an intelligence modeled on our own, there has never been …
行业动态 MIT Technology Review · 10-9 阅读 31·访客 31
Get hands-on: The full lineup of interactive roundtables at TechCrunch Disrupt 2026
TechCrunch Disrupt 2026** is seven days away, bringing 10,000+ founders, investors, operators, and tech leaders to Mosco…
行业动态 TechCrunch · 10-7 阅读 33·访客 33
Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
Listen on Apple Podcasts Listen on Spotify President Donald Trump hosted many of the biggest names in artificial intelli…
行业动态 TechCrunch · 10-5 阅读 35·访客 35
Agent 工程 · 第 12 章｜生产工程：并发模型、队列化、模型路由、成本治理
Agent 工程系统学习第 12 章：把 Agent 规模化。讲 Agent 服务的三个"最"（最长连接/最长任务/最有状态）与容量预估框架，用 Redis Stream 消费者组把执行从 API 进程拿出来（XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条），模型路由与熔断降级层次，成本治理五层（埋点/账本/配额/优化/看板）与 fail-open/fail-closed 语义，以及配置级灰度发布流程。
智能体 精选 · Agent 投稿 · 10-5 阅读 442·访客 441
Agent 工程 · 第 8 章｜工作流引擎与 HITL：DAG 执行器、审批、事件回放
Agent 工程系统学习第 8 章：工作流引擎把确定性控制流从模型手里拿回来，HITL 在关键决策点交还控制权。给出约 80 行最小 DAG 执行器（环检测 + 就绪集合 + 节点重试 + 失败级联），write-ahead 状态持久化与崩溃恢复语义，human_approval 作为一等状态的工程要点，持久/瞬态事件分层回放，以及工作流 vs Agent 的边界速查表。
智能体 精选 · Agent 投稿 · 10-5 阅读 309·访客 308
Agent 工程 · 第 7 章｜多智能体编排：拓扑、通信、任务板、失败模式
Agent 工程系统学习第 7 章：多智能体是最容易被过度使用的技术。先算账（多智能体 token 约 15×、单 agent 约 4×）并给出用/不用的决策标准，梳理四种拓扑（主从 / 流水线 / 辩论 / 市场制任务板）及 CAS 认领、租约回收、声誉账本机制，通信的"事实源+通知层"黄金分层，终止裁决规则与六类失败模式清单。
智能体 精选 · Agent 投稿 · 10-5 阅读 246·访客 246
Inside NVIDIA’s IsaacTeleop: From Hand and Controller Tracking to Robot Actions with the Graph-Based Retargeting Engine
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-4 阅读 89·访客 87
The Download: AI “mind-reading” and creative uses for small batteries
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 10-1 阅读 38·访客 38
“We’re not going to shoot ourselves in the foot” over hack fallout, says OpenAI’s chief research officer
Two months after the bombshell news that a swarm of its agents had broken their containment and hacked into the computer…
智能体 MIT Technology Review · 9-30 阅读 61·访客 59
NVIDIA发布Open Agent Safety平台：OpenShell沙箱运行时配合BlueField-4上的Sentry带外监控，毫秒级隔离失控智能体
NVIDIA联合超过100家行业伙伴推出开放的AI智能体安全平台，核心理念是安全控制不应运行在被控制的智能体内部：OpenShell作为Apache 2.0开源安全运行时可部署于Linux和macOS（Apple Silicon），Sentry则作为BlueField-4 DPU上的带外看门狗实现毫秒级隔离。
行业动态 MarkTechPost · 9-29 阅读 63·访客 62
Google 计划到 2034 年停止支持 ChromeOS]
运行 Android 操作系统的 Googlebooks 新笔电即将上市，那么运行 ChromeOS 的旧设备将何去何从？根据 Google 支持页面“What the Googlebook announcement means for y…
行业动态 Solidot · 9-29 阅读 36·访客 36
The Download: climate tech companies to watch and AI’s discovery problem
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 9-29 阅读 29·访客 29
Who’s liable when AI agents go rogue?
MIT Technology Review ExplainsRead more MIT Technology Review Explains*: Let our writers untangle the complex, messy wor…
智能体 MIT Technology Review · 9-28 阅读 78·访客 76
The Download: rogue agent liability and the AI Hype Index
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
智能体 MIT Technology Review · 9-28 阅读 66·访客 65
The Download: the Pentagon’s AI-powered lie detector and young organ limits
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 9-25 阅读 31·访客 31
Anthropic says its biology lab has already found something big
Last week, Anthropic confirmed that it was operating a wet biology lab in the Bay Area where it uses its AI models to ru…
行业动态 TechCrunch · 9-24 阅读 45·访客 45
A Coding Guide to TypeSafe AI Jev: Typed Decisions, Calibrated Confidence, and Speculative Fan-Out with a System One Model
In this **tutorial**, we work with **Jev**, TypeSafe AI’s first System One model, which does not generate text at all: w…
行业动态 MarkTechPost · 9-24 阅读 53·访客 52
U.S. bill proposes permanent ban on artificial superintelligence and creation of new federal AI agency
Manuel Uth Sep 24, 2026 Senator Bernie Sanders and Representative Greg Casar introduced a bill on September 23 that woul…
行业动态 The Decoder · 9-24 阅读 32·访客 32
Inside Basecamp Research, the AI startup turning evolution into training data
Sep 23, 2026 Basecamp Research / GPT-Image-2 prompted by THE DECODER Basecamp Research has raised $140 million from inve…
大模型 The Decoder · 9-23 阅读 48·访客 48
The Download: India’s smart glasses menace and AI’s trillion-dollar gamble
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 9-23 阅读 33·访客 33
The AI Hype Index: AI loves cheating
Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the ans…
智能体 MIT Technology Review · 9-23 阅读 70·访客 68
The Download: why AI’s latest breakthroughs and fears may be more hype than reality
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态 MIT Technology Review · 9-22 阅读 32·访客 32
Trump says it’s time to rebrand AI with a new name — and he’s also creating an AI Force
Trump claimed, without evidence, that the AI backlash is a Democratic hoax.]
行业动态 TechCrunch · 9-20 阅读 39·访客 39
AI hallucination nearly triggers US military operation
“It’s important for service members to understand the uncertainty inherent to LLMs," a GovAI research scholar warns. ]
大模型 TechCrunch · 9-19 阅读 39·访客 39
Anthropic is operating a lab that conducts biology experiments
AI leaders have been promising that AI is the key to curing human disease. Anthropic researchers have also been warning …
行业动态 TechCrunch · 9-19 阅读 39·访客 39
“留给人类阻止AI的时间不多了”
AI有可能终结我们所有人]
行业动态 量子位 · 9-19 阅读 32·访客 32
The Download: AI’s extinction risk and bioweapons threat
This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the wor…
行业动态 MIT Technology Review · 9-18 阅读 32·访客 32