OpenAI 奥尔特曼:AI 事故无法完全避免,应借鉴航空业建立公开上报机制

IT之家 9 月 16 日消息,萨姆 · 奥尔特曼(Sam Altman)表示,部分 AI 事故无法完全避免,但关键在于如何从事故当中吸取教训。 当地时间周二,这位 OpenAI 首席执行官在赛富时(Salesforce)的 Dreamforce 大会上发表讲话。他提出,科技企业应当建立公开上报事故的企业文化,可以借鉴航空业的做法。 “我确实认为,对于一项新兴技术而言,一定程度上的事故是难以避免的。”奥尔特曼说道,“我真正在意的是,我们能够形成一套完善的事故上报与复盘学习机制。” 他以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)作为 AI 行业应当效仿的范例。这两家机构十分重视事故调查,正是这套机制让航空出行变得更加安全。 谈及 FAA 与 NTSB 的处置思路,他表示:“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验,并据此作出应对。” IT之家注意到,奥尔特曼发表此番言论之际,外界再次提出疑问:头部 AI 实验室在研发高能力自主系统的道路上,前进的步伐是否走得过快。 上周从 Anthropic 离职的研究员雅各布 · 考克森(Jacob Coxon)此前也曾任职于 OpenAI。他的发言引发了一场讨论;他称各大企业“正一股脑冲向能够自我迭代的超级智能,拿全人类的命运下注。” “世界对此感到担忧合乎情理” 此后另有多名 AI 安全研究人员表示,未来先

阅读原文(IT之家)↗ ← 返回资讯列表