达里奥·阿莫迪 · 待分类
Amodei 判断,当时的 AI 远未达到完全自主武器所需的可靠性,不能把无需人类参与的开火决定交给现有模型。
嘉宾观点 · 忠实转述
他认为模型仍存在尚未解决的基础性不可预测性,可能错误识别目标、射击平民或造成友军误伤;这些是他设想的风险,并非他声称已经发生的事故。
延伸分析 由 AI 生成
如果模型在高风险情境中的错误仍难以预测,普通任务上的能力提升可能不足以支持移除人类对致命决策的控制。
后续观察
- 高风险场景的可靠性评估
- 致命决策中的人类参与要求
达里奥·阿莫迪 · 待分类
嘉宾观点 · 忠实转述
他认为模型仍存在尚未解决的基础性不可预测性,可能错误识别目标、射击平民或造成友军误伤;这些是他设想的风险,并非他声称已经发生的事故。
如果模型在高风险情境中的错误仍难以预测,普通任务上的能力提升可能不足以支持移除人类对致命决策的控制。
讨论
还没有公开评论。
Web 当前为匿名只读,可在受邀小程序中参与讨论。