达里奥·阿莫迪 · 待分类
他不把对齐看作等待一次攻克的二元数学难题，而看作通过更好的训练、诊断和控制逐步降低失败概率的过程。
来自《Dwarkesh 2023：The hidden pattern behind every AI breakthrough》
嘉宾观点 · 忠实转述
强大模型的结果可能高度依赖训练细节，既不能假定默认对齐，也不能假定默认毁灭；现有控制办法不够好，需要扩充可用方法。
他的未来判断
在2023年，他希望未来两三年能改进诊断和可扩展训练方法，并逐步减少出错的可能性，而不是承诺届时彻底解决对齐。
延伸分析 由 AI 生成
如果安全进步是逐步降低风险，就需要持续记录残余失败模式和控制效果，不能只用是否解决对齐的标签衡量。
后续观察
- 诊断准确性
- 失败模式数量与严重程度
讨论
还没有公开评论。
Web 当前为匿名只读，可在受邀小程序中参与讨论。