公开访谈 · 达里奥·阿莫迪
FLI：Daniela 与 Dario Amodei 谈 Anthropic
先看这几个判断
共 8 条重点- 01规模化是通向 AGI 的核心要素之一，但不应被理解为只把语言模型做大；还需要强化学习、人类交互、多模态和外部工具等要素，并继续扩大这些组合。 →
- 02研究未来 AI 安全应从今天可观察的问题入手，用现有模型作为实验室，发展能解决当前问题并可能迁移到未来的方法。 →
- 03模型的整体预测损失可以平滑改善，同时具体能力却在某个规模附近突然出现；平滑的总指标可能掩盖能力跃迁。 →
其余 5 条重点
- 04提高安全可靠性需要错误尽量不相关的多种方法，而不是堆叠会遗漏同一类问题的方法。 →
- 05对抗训练与对抗鲁棒性是安全工作的重要组成部分，需要广泛多样的训练案例，并由另一组人持续尝试突破已经训练过的模型，也可以利用模型攻击模型。 →
- 06机制可解释性应尽可能逆向理解模型内部运作，而不只解释某一次输出；理解机制有助于判断模型在新情境或更强大版本中会如何行动。 →
- 07AI 的社会冲击不只涉及经济分配，权力集中、公平与偏见在当时已经是严重问题；如果模型持续变强而缺乏干预，这些问题可能恶化。 →
- 08面对高度难以预测的 AI 未来，盲目悲观和盲目乐观都不太有用；更有效的态度是选择自己有能力改善的具体问题，争取让结果比原本更好。 →
访谈导读 · 忠实转述
在这场访谈中，Dario Amodei 将 Anthropic 的方向描述为围绕规模化与安全开展集中研究：安全研究需要接近前沿的模型，但不应竞逐远超同行的规模或渲染进展。他指出，模型整体预测损失可能平滑改善，具体能力却会跃迁，开放式系统的行为也难以穷尽测试；仅靠下一词预测不保证真实、对齐，互联网文本亦不能覆盖全部现实任务。因此，他主张从当下可观察的问题出发，结合对抗训练、错误尽量不相关的多重防护、机制可解释性与后续训练，并让学界、测量机构和政策相关方共同参与。他希望 AI 将来促进科学、健康与社会福祉，同时强调访谈当时的系统尚不足以被信任，偏见、错误、收益分配和权力集中仍需处理。
访谈观点
嘉宾观点 · 忠实转述
正在阅读 8 条重点，保留原观点编号。
观点目录 · 8 条 选择一条，跳转阅读
嘉宾未来判断汇总 · 忠实转述
他将能力超过人类且具有较强行动能力的 AI 在未对齐条件下造成严重后果，视为包含多步假设的长期可能性，而非必然结局；当下安全经验能否迁移到未来系统仍待验证。在能力路径上，他押注现有模型结合强化学习、交互等方法后可能不必彻底改变架构，但认为纯粹扩大语言模型在实践上不太可能达到所需的通用能力；他预期会出现新的训练方法，并仍需扩大这些组合。在妥善解决对齐及其他问题的条件下，更强 AI 可能带来巨大经济收益，分配问题则不会自动解决。他预计未来会出现相关法规，并主张法规可将已形成共识的最佳实践正式确立下来；这不等于预测法规必然采用这一做法。他也提醒，数年后的具体走向很难预测。
延伸分析汇总
【条件式 AI 分析】如果规模化持续带来可预测的总体性能收益，而具体能力与安全行为仍难以事先刻画，模型建设激励可能快于行为理解和评估能力。可跟踪任务层面的能力变化、不同安全方法的共同漏检、机制解释在更大模型中的复现，以及部署场景中的偏见与准确性问题。如果后续训练、交互和多模态成为能力扩展的重要部分，安全评估也需覆盖这些变化。以上只是从访谈观点推导的观察框架，不代表嘉宾对市场的预测。