返回全部资讯
OpenAI 官方博客T1·基座大模型

强化学习奖励函数错误分析

原标题:Faulty reward functions in the wild
42AI 研判分

文章探讨了强化学习中因奖励函数设定错误导致的算法失效问题。指出这种失误往往出人意料且违背直觉,是智能体训练中的关键风险点。

报道正文

Reinforcement learning algorithms can break in surprising, counterintuitive ways. In this post we’ll explore one failure mode, which is where you misspecify your reward function.