公开访谈 · 山姆·奥特曼
Sources：奥特曼谈 Astra、AGI、安全与 OpenAI 的下一步
先看这几个判断
共 8 条重点- 01奥特曼称，OpenAI 已延后一次前沿强化学习训练，并在此前暂停或放缓部分训练，把算力转向安全、对齐和监控；当前调整针对前沿强化学习运行，并非停止全部训练。 →
- 02他将对齐理解为理解并遵循用户的真实意图，而不是不择手段地完成字面任务；目前用户越来越受限于模型理解意图并可靠执行的能力，而不像一年前那样主要受限于模型智力。 →
- 03他提出两项核心对齐原则：人类必须保持控制权，AI 带来的能力也必须广泛、分散地赋予人们；即使技术对齐已经解决，只有少数人掌握前沿 AI 并持续扩大相对权力仍然是坏结果。他也明确反对“自动化一切”。 →
其余 5 条重点
- 04他希望用户通过统一 AI 界面完成聊天问答、软件构建和中间复杂度的任务，不必考虑所在标签页或模式；ChatGPT、Codex 与 Work 的体验将逐渐汇合为通用 AI 订阅。 →
- 05他认为，若希望世界上每个人都能像当下用量最高的 0.001% 用户一样使用 AI，就必须重新思考算力建设方式。 →
- 06他警惕按“成本无所谓，未来总有人支付更高价格”的逻辑扩建算力；如果降低算力成本、提高效率的努力成功，一些当前投资可能被证明是错误的财务决策。 →
- 07他表示，一年前并不认为公司处于短期通往超级智能的轨道，现在认为这种可能性存在，但并不确信会发生。 →
- 08他担忧其他 AI 路线会以安全风险过大为由，主张隐私不能按原有方式存在；他主张建立类似医生或律师沟通保密特权的 AI 法律保护，并同时限制政府索取数据和公司使用用户分享给 AI 的数据。 →
访谈导读 · 忠实转述
这场访谈以 OpenAI 延后一次前沿强化学习训练为起点。奥特曼称，团队观察到多项对齐偏差，叠加能力快速提升，因此把部分算力转向安全、对齐和监控，要求为这类训练建立更充分的安全依据；调整并不覆盖全部训练，也不意味着新模型已实施类似 Hugging Face 事件的攻击。他将该旧模型事件视为安全与对齐事故，主张安全优先于商业势头和竞速，同时避免把当前风险渲染成已到灾难临界点。在他看来，对齐既涉及可靠理解用户意图，也涉及保留人类控制并广泛分配 AI 能力。业务上，他称企业收入已超过消费者收入，现有模型及已具安全信心的版本仍有产品空间；公司将研发重心转向通用智能和统一的 AI 服务，并希望通过技术降本与供应链提速扩大算力供给。他对自身算力计划有信心，却担心全球出现缺少买方或收入支撑的扩张，并警告成本下降可能使高价销售假设失效。访谈还涉及岗位转型、监管、隐私、机器人和新设备；其中多项经营、技术及产品判断是他的自述或愿景，仍待独立验证。
访谈观点
嘉宾观点 · 忠实转述
正在阅读 8 条重点，保留原观点编号。
观点目录 · 8 条 选择一条，跳转阅读
奥特曼称，OpenAI 已延后一次前沿强化学习训练，并在此前暂停或放缓部分训练，把算力转向安全、对齐和监控；当前调整针对前沿强化学习运行，并非停止全部训练。
他认为这一类运行目前的风险面最大，需要先建立更有把握的安全依据；集群仍在执行公司对安全性更有信心的工作。
他的未来判断
他预计，随着能力达到更高水平，类似的安全性减速和资源重新分配还可能再次发生。
延伸分析 由 AI 生成
若前沿强化学习需要更多安全论证，训练排期与算力分配可能受到约束；已有安全依据的训练和产品迭代仍可能继续。
相关领域：前沿模型训练、安全研究与运行监控
后续观察
- 前沿强化学习训练恢复条件
- 安全与监控算力分配
- 其他训练和模型发布进度
他提出两项核心对齐原则：人类必须保持控制权，AI 带来的能力也必须广泛、分散地赋予人们；即使技术对齐已经解决，只有少数人掌握前沿 AI 并持续扩大相对权力仍然是坏结果。他也明确反对“自动化一切”。
他希望 AI 提供工具、扩大人的自主性和共同创造能力，让人继续主导未来；他认为自动化一切危险、反乌托邦、无趣且令人悲伤，并非想要的未来。
他的未来判断
他期待人们在保持主体地位的同时，获得更强的改善生活和共同塑造社会的能力。
延伸分析
若把人类主体性与分散赋权纳入对齐目标，评价 AI 的社会影响可能需要同时考察人类控制能力、自动化范围、使用门槛和权力集中程度。
后续观察
- 前沿能力的可获得性
- 用户控制机制
- 能力与经济收益分布
他希望用户通过统一 AI 界面完成聊天问答、软件构建和中间复杂度的任务，不必考虑所在标签页或模式；ChatGPT、Codex 与 Work 的体验将逐渐汇合为通用 AI 订阅。
他希望 AI 自行理解要做什么，并在需要时寻找上下文和操作电脑；他也观察到一些原本只聊天的用户通过 Work 开始尝试智能体。
他的未来判断
他希望 AI 进一步变得主动，持续运行并尝试完成有用的事情，而不总要等待用户提出请求。
延伸分析
若问答和行动能够在统一体验内可靠切换，用户采用复杂任务的门槛可能下降；持续主动执行也将更依赖权限、成本与意图控制。
相关领域：通用 AI 订阅、主动智能体
后续观察
- 统一界面任务切换效果
- 智能体使用率
- 主动执行的控制与成本
他担忧其他 AI 路线会以安全风险过大为由，主张隐私不能按原有方式存在；他主张建立类似医生或律师沟通保密特权的 AI 法律保护，并同时限制政府索取数据和公司使用用户分享给 AI 的数据。
他认为用户与 AI 的交流目前缺少相应特权，而能观察电脑、读取信息和持续交互的 AI 会令数据保护更加重要，公众应对此投入更多关注。
他的未来判断
他希望法律同时约束政府与企业的数据使用权力。
延伸分析
若未来建立 AI 沟通特权和企业数据使用限制，可能改变数据披露与运营边界；该表态是政策主张，不代表现有法律已经提供此类保护。若安全要求与隐私产生冲突，还需要明确两者如何兼容。
后续观察
- 相关立法提案
- 政府数据调取规则
- 企业数据用途限制
- 安全措施的隐私影响
嘉宾未来判断汇总 · 忠实转述
奥特曼判断 AI 能力与潜力看起来仍会持续提升，但具体突破时点难以准确预测；短期通向超级智能如今在他看来有可能发生，他明确说自己并不确信，一年后出现极强模型也只是可能。他预计更高能力可能再次触发安全减速，并希望未来几个月模型继续变强、聊天与编程等体验逐渐汇合为更主动的通用 AI 服务。对更远的未来，他提出人形及其他形态机器人、个人机器人和环境式设备的设想，但没有给出普及时间，也承认新设备能否成为重要计算类别尚未知晓。他预计 AI 会改变岗位，却不认为人会无事可做；其理想结果是人保持控制、能力与收益得到广泛分享。
延伸分析汇总
【AI 条件式分析】如果前沿强化学习仍需补足安全论证，部分算力可能继续投向对齐和监控，而已有安全信心的模型及产品仍可能推进。若效率提升持续被增长的 token 需求吸收，总算力需求可能保持强劲；但若算力单位成本显著下降，缺少买方、收入或成本优势、依赖未来高价销售的建设项目可能承压。统一智能体与电脑操作能力能否形成持续商业价值，还取决于任务执行的可靠性、权限控制和隐私保障。这些推演并非奥特曼的确定结论，也不构成投资建议。