Today for AI
返回热点榜
llm热度 17.7°

AI 聚合热点事件 · 2026/11/4

哈佛 MIT 研究：禁用 Okay 提升推理模型可控性

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/4 03:43:08
全景综述与最新动态
1 家信源交叉印证

最新研究发现，推理模型难以遵循思维链指令的主要原因之一是过度依赖以“Okay”开头的生成习惯。通过禁止该起始词并预填充一个合规 Token，模型的平均指令遵循率提升了 34% 至 41%。这一发现表明，思维链监控中的可控性问题需区分“起始词偏差”与“通用控制能力”，为安全对齐提供了新的优化视角。

最新动向/最新研究发现，推理模型难以遵循思维链指令的主要原因之一是过度依赖以“Okay”开头的生成习惯。通过禁止该起始词并预填充一个合规 Token，模型的平均指令遵循率提升了 34% 至 41%。这一发现表明，思维链监控中的可控性问题需区分“起始词偏差”与“通用控制能力”，为安全对齐提供了新的优化视角。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时，暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·78 分

    哈佛 MIT 研究：禁用 Okay 提升推理模型可控性

    原标题：New Harvard and MIT paper finds that reasoning models' poor control over their chain-of-thought part...

    • Qwen3-32B 等模型在思维链首 Token 上有约 99% 的概率选择 "Okay"
    • 禁用 "Okay/Alright" 并预填充 1 个示例 Token 可使平均合规率提升 34-41%
    • 隐藏信息类任务（如避免使用某词）表现不一致，属于独立于起始词偏差的控制技能