公开访谈 · 山姆·奥特曼
莱克斯·弗里德曼对话山姆·奥特曼：GPT-4、AGI 与 AI 安全（第 367 期）
先看这几个判断
共 8 条重点- 01他将 AI 进展看作持续的指数曲线；若必须选一个已出现的关键节点，他更倾向 ChatGPT，关键在 RLHF 与界面带来的易用性。 →
- 02他支持在风险较低时迭代公开部署，让外部使用者发现内部无法预见的能力与缺陷，并给社会适应技术的时间。 →
- 03他明确表示，当时尚未找到让超级强大系统实现对齐的方法；RLHF 只是对当前能力规模有效的方法。 →
其余 5 条重点
- 04他预计大型语言模型是通向 AGI 的一部分，但还需要重要新想法；能够显著增加基础科学知识是他理解超级智能的重要要求。 →
- 05AI 行为边界应通过广泛社会讨论形成，在共同边界内允许国家和机构采用不同版本，个人配置也应处在所在国家允许的范围内；构建者需要参与并承担责任。 →
- 06他担心虚假信息与经济冲击会超出社会准备程度；这些风险不需要超级智能，也不需要机器产生欺骗意图。 →
- 07他预计 AI 会消除许多工作，也会增强现有工作并创造难以预想的新岗位；理想结果是工作更多成为创造与满足感的来源。 →
- 08他的工作假设是，未来几十年智能和能源成本会大幅下降，让社会显著富裕；经济变化会推动相当部分政治变化。 →
访谈导读 · 忠实转述
本场访谈以 GPT-4 发布后的能力、使用方式与风险为主线。奥特曼把 AI 进展看作连续过程，认为 ChatGPT 的关键不只是底层模型，更在 RLHF 和界面让能力变得易用；他也强调模型价值要看对人的实际帮助，而当时的模型在精确计数等任务仍有限制。他认为 GPT-4 尚不是 AGI，语言模型可能是通向 AGI 的一部分，但还需新想法，尤其要能增进基础科学知识。对于安全，他介绍 GPT-4 经历内部测试和外部红队测试，主张在风险较低时迭代部署、借外部反馈改进，并希望对齐进步快于能力增长；同时明确承认当时尚无对齐超级强大系统的方法。治理上，他主张通过广泛社会讨论确定共同边界，在边界内保留地区与用户差异化控制，也担心反馈评审者偏见和虚假信息。谈到工作，他预计 AI 会替代、增强并创造不同岗位，但认为编程效率提高未必减少程序员，客服岗位较快缩减也只是未确定的可能；全民基本收入可作转型缓冲，却不是完整答案。
访谈观点
嘉宾观点 · 忠实转述
正在阅读 8 条重点，保留原观点编号。
观点目录 · 8 条 选择一条，跳转阅读
嘉宾未来判断汇总 · 忠实转述
奥特曼预计编程工具会从对话式修改进一步走向自主排错，低安全限制的强开源模型也可能很快增多；他希望默认模型更中立、用户控制更细，同时认为越狱会长期存在。对于 AGI，他偏好较早开始、缓慢起飞的路径，并认为大型语言模型可能只是其中一部分，具体技术路径仍不确定；他当时明确判断 GPT-4 还不是 AGI。就业方面，他认为更便宜的代码可能扩大软件需求，客服岗位也可能在短期内明显减少，但对此明言没有把握；未来几十年智能和能源成本大幅下降、带来更富裕社会，是他的工作假设，并非确定预测。
延伸分析汇总
AI 条件式分析：如果易用性、人类反馈和外部修复速度持续影响真实任务价值，模型产品的竞争可能更多取决于可用性与安全表现，不能只用参数或评测分数衡量。如果编程工具降低代码供给成本，新增软件需求可能抵消部分劳动替代；客服自动化的岗位影响则取决于能否完整处理请求、何时仍需人工。即使智能和能源降本的工作假设成立，收益如何分配、制度能否适应仍需另行验证。这些是基于受访观点的条件推演，不是奥特曼的确定结论，也不构成投资建议。