公开访谈 · 山姆·奥特曼
与山姆·奥特曼的炉边对谈(Rescale Big Compute)
先看这几个判断
共 8 条重点- 01数据仍然重要,但他认为当时 AI 研究中最令人印象深刻的进步,更多来自大规模算力,而非大规模数据。 →
- 02他在 2020 年预计,未来几年能够理解、处理、生成语言并进行有意义对话的系统会大量出现,语言可能成为普通人首次直接感受到强大 AI 的方式。 →
- 03他确信当时已经有效的方法还有很大前进空间,并把比直觉更大胆地扩大规模视为职业生涯中的核心经验。 →
其余 5 条重点
- 04扩大规模虽然有效,也可能遮蔽其他问题;AI 领域可能因为扩展规模持续奏效,而对更高效算法投入的研究不足。 →
- 05训练最大模型的能力可能集中在少数公司,解决算力拥有者与缺乏算力者之间差距的办法,是让有能力训练模型的机构把模型分享给其他人。 →
- 06他希望公众依据 OpenAI 章程监督其行为,但随着 AI 的影响上升,新的社会契约、技术用途以及治理和经济利益如何分享,不应由单一组织或个人决定。 →
- 07GPT-2 最终采用了分阶段发布;他预计 OpenAI 还会更多使用这种方式,让社会提前适应当前可能安全、但规模扩大后可能变得不安全的技术。 →
- 08他认为 AI 最理想的长期局面是紧密的国际合作,而非国家间军备竞赛;当时研究者合作相当开放,但他担心合作会越来越困难。 →
访谈导读 · 忠实转述
在这场 2020 年访谈中,奥特曼把算力视为当时 AI 研究进步的重要驱动,同时强调数据仍有价值:自我对弈与模拟可在某些任务中减少预先收集数据的需求,规模扩展却也可能掩盖算法效率等短板。他关注更大训练系统、广义学习与语言交互,并认为最大模型的训练可能集中于少数机构,需要探索向无法自行训练者分享模型。对于 AI 的社会影响,他既期待新工作与人机互补,也承认未来形态难以预测、技术障碍仍大;更好的结果需要治理和主动努力。技术不能独自解决公共政策与社会信心问题,他主张让不同群体参与决策,赞成国际合作,并以分阶段发布给社会适应能力变化的时间。以上是当时的判断与主张,其中长期愿望、预测和已发生的事实不能混同。
访谈观点
嘉宾观点 · 忠实转述
正在阅读 8 条重点,保留原观点编号。
观点目录 · 8 条 选择一条,跳转阅读
他希望公众依据 OpenAI 章程监督其行为,但随着 AI 的影响上升,新的社会契约、技术用途以及治理和经济利益如何分享,不应由单一组织或个人决定。
章程本身也可以被质疑;接近 AGI 时,团队既无权也不愿独自承担决定大家如何生活的责任。
他的未来判断
他设想未来几年或十年内,让代表世界不同群体的顾问委员会更多影响 OpenAI 的决策;当时尚没有这样的委员会。
延伸分析
若重大 AI 决策开始影响更广泛群体,引入多方代表可能增加决策所考虑的利益范围;实际效果需看代表构成与决策权限。
相关领域:AI 治理代表性
后续观察
- 顾问机制的代表范围
- 顾问意见对实际决策的影响
嘉宾未来判断汇总 · 忠实转述
以 2020 年访谈为起点,他预计未来几年可理解、生成语言并进行有意义对话的系统会大量出现;估计最大模型训练规模此前约八年每年增长约八倍,并判断这一趋势还可能延续约五年;还预计无监督学习在约两年内带来令人惊讶的进展。他认为 AI 进步可能经历持续数月或数年的低谷,走向最终目标很可能还缺少重大思想。较长期看,他认为先进 AI 对网络安全的威胁可能很大,但明确不是访谈后的两三年内;在文明未先毁灭且时间足够的条件下,他确信数字智能终将出现,但数字意识仍有争议。他希望国际合作延续,却明言无法有把握预测其走向;人机结合显著增强能力也是他的希望,而非已证实结果。
延伸分析汇总
AI 条件式分析:若训练规模继续带来可测量的能力增益,同时模型训练成本高于运行成本,训练资源可能集中,而模型分享的条件和运行费用将影响下游使用范围。若规模扩展遮蔽算法效率问题,评估投入还需比较固定算力下的能力增益;访谈中的增长倍数指训练规模能力,不能直接推为芯片性能、企业收入或投资回报。语言系统的实际业务价值也取决于对话可靠性与非结构化文本处理效果。这些是从受访者观点推导的待验证情景,不是他的市场结论或投资建议。