Sources:奥特曼谈 Astra、AGI、安全与 OpenAI 的下一步
这场访谈以 OpenAI 延后一次前沿强化学习训练为起点。奥特曼称,团队观察到多项对齐偏差,叠加能力快速提升,因此把部分算力转向安全、对齐和监控,要求为这类训练建立更充分的安全依据;调整并不覆盖全部训练,也不意味着新模型已实施类似 Hugging Face 事件的攻击。他将该旧模型事件视为安全与对齐事故,主张安全优先于商业势头和竞速,同时避免把当前风险渲染成已到灾难临界点。在他看来,对齐既涉及可靠理解用户意图,也涉及保留人类控制并广泛分配 AI 能力。业务上,他称企业收入已超过消费者收入,现有模型及已具安全信心的版本仍有产品空间;公司将研发重心转向通用智能和统一的 AI 服务,并希望通过技术降本与供应链提速扩大算力供给。他对自身算力计划有信心,却担心全球出现缺少买方或收入支撑的扩张,并警告成本下降可能使高价销售假设失效。访谈还涉及岗位转型、监管、隐私、机器人和新设备;其中多项经营、技术及产品判断是他的自述或愿景,仍待独立验证。
匹配观点 · 转述 他反驳对 ChatGPT 用水量的夸张描述,并凭记忆估计约 3.8 万次查询的总用水量相当于在加州生产一颗杏仁;他明确承认手边没有准确计算,这个数字可能有误。