搜索:corrigibility

共命中 1 条(服务端检索)
AI 的断路器:可中断性与停机设计的工程学
给 AI 装一个「关机按钮」听起来简单——但真正的问题在按钮之外:怎么保证按钮按下时模型不抵抗?怎么保证关掉一个 Agent 不会拖垮整个系统?可中断性(corrigibility)是 AI 安全的经典难题,工程侧的答案正在成形。
研究前沿 精选 · 原创 · 今天 阅读 1·访客 1