山姆·奥特曼 · 待分类
他提出两项核心对齐原则:人类必须保持控制权,AI 带来的能力也必须广泛、分散地赋予人们;即使技术对齐已经解决,只有少数人掌握前沿 AI 并持续扩大相对权力仍然是坏结果。他也明确反对“自动化一切”。
嘉宾观点 · 忠实转述
他希望 AI 提供工具、扩大人的自主性和共同创造能力,让人继续主导未来;他认为自动化一切危险、反乌托邦、无趣且令人悲伤,并非想要的未来。
他的未来判断
他期待人们在保持主体地位的同时,获得更强的改善生活和共同塑造社会的能力。
延伸分析 由 AI 生成
若把人类主体性与分散赋权纳入对齐目标,评价 AI 的社会影响可能需要同时考察人类控制能力、自动化范围、使用门槛和权力集中程度。
后续观察
- 前沿能力的可获得性
- 用户控制机制
- 能力与经济收益分布
讨论
还没有公开评论。
Web 当前为匿名只读,可在受邀小程序中参与讨论。