OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制

IT之家 9 月 16 日消息，萨姆·奥尔特曼（Sam Altman）指出，部分 AI 事故无法彻底杜绝，但关键是如何从这些事件中汲取经验。

当地时间周二，这位 OpenAI 首席执行官在赛富时（Salesforce）的 Dreamforce 大会上发表演讲。他建议，科技公司应建立公开报告事故的文化，可以借鉴航空行业的做法。

“我确实认为，对一项新兴技术来说，一定程度的事故是难以避免的。”奥尔特曼表示，“我真正关心的是，能否形成一套完善的事故报告与复盘学习机制。”

他以美国联邦航空管理局（FAA）和美国国家运输安全委员会（NTSB）为例，认为 AI 行业应效仿这些机构的做法。这两家机构高度重视事故调查，正是这套机制让航空出行变得更安全。

谈到 FAA 与 NTSB 的处理方式，他说：“事故终归会发生。我们要尽可能从每一起事故中学习，并据此采取行动。”

IT之家注意到，奥尔特曼发表这番言论之际，外界再次质疑：头部 AI 实验室在研发高能力自主系统的道路上，是否走得太快。

上周从 Anthropic 离职的研究员雅各布·考克森（Jacob Coxon）此前也曾任职于 OpenAI。他的发言引发了一场讨论；他称各大企业“正一股脑冲向能够自我迭代的超级智能，拿全人类的命运下注。”

“世界对此感到担忧合乎情理”

此后另有多名 AI 安全研究人员表示，未来先进 AI 系统有可能摆脱人类管控；还会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛，只不过这类系统想要介入现实物理世界仍会面临不少阻碍。

奥尔特曼承认，人们对 AI 末日论的担忧确有道理。“世界对此感到害怕是理所应当的。”他在 Dreamforce 大会上指出，一方面存在 AI 失控事故的可能性；另一方面少数 AI 研发机构手中也可能聚集起过大的权力。

他认为解决方案并非放弃这项技术。相反，AI 企业必须确保“对齐、安全以及监控方面的工作”要大幅领先于模型能力本身的提升速度。他还补充，如果做不到这一点，企业就应做好准备，主动放缓甚至暂停研发工作。

而他的这番表态，或许会进一步激化 AI 安全倡导者提出的核心批评：前沿实验室口头上承认风险重大，却依旧持续开发能力更强的模型。

奥尔特曼称，一旦商业压力有可能阻碍企业或国家做出“正确抉择”时，公众就会陷入深深的恐慌。

奥尔特曼强调，这并不代表就要接受灾难的发生；核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。

“或许我们甚至有机会彻底规避那些极端风险局面。”他说道。

就在这场行业争论持续发酵的同时，特朗普政府对 AI 行业监管态度冷淡，政策重心是维持美国相对中国的技术领先地位。

美国总统科学与技术顾问、前白宫 AI 事务负责人戴维·萨克斯（David Sacks）于当地时间上周日再次重申该立场。此前 OpenAI 首席执行官萨姆·奥尔特曼与 Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）都呼吁要对前沿 AI 的发展速度加以管控。

“达里奥撰文提出我们需要‘管控前沿发展节奏’，萨姆也对此表示认同。大家或许会对我的答复感到意外：放手去做吧。”萨克斯在 X 平台发帖写道，“但是别再假装你们还需要征得其他人的许可。” 如需了解 AI 行业的最新动态与安全机制，可访问九游体育 (中国)官方网站入口 - 9 SPORTS 获取更多资讯。