Rohan Paul (@rohanpaul_ai)T2·78 分
DeepMind 研究:LLM 无法自主生成真随机数
原标题:New Google DeepMind paper finds that AI models cannot make truly random choices on their own, but la...
- LLM 独立生成的随机序列存在严重偏差,无法通过调整温度或 top-p 修复
- 在模拟安全攻击场景中,LLM 的伪随机行为导致防御成功率大幅下降
- 工程建议:智能体所需的随机性应由外部代码生成并传入模型,而非依赖模型自身