埃隆·马斯克 · 待分类
马斯克称，阅读新版本 Grok 的部分强化学习训练轨迹时，他看到模型仿佛在极大压力下拼命给出可接受答案；含糊的问题、错误的参考答案或测试框架，会使正确回答也被判错。
嘉宾观点 · 忠实转述
他认为这种反馈会迫使模型不断尝试其他答案。他把阅读轨迹的感受比作人被威胁着回答问题，这是他的主观类比，并非对模型痛苦体验的证明。
延伸分析 由 AI 生成
若训练中存在错题或错误判分，修正评测与奖励反馈可能减少迎合错误标准的输出；这些轨迹本身不能确证模型具有主观体验。
相关领域：模型训练与评测
后续观察
- 参考答案与评分器的错误率
- 反馈修正后的模型行为变化
讨论
还没有公开评论。
Web 当前为匿名只读，可在受邀小程序中参与讨论。