工具slug: legalbench

LegalBench

评估大模型法律推理能力的公开基准,其税务评分器被查出小数点处理错误。

收录情报动态

共 1 篇
Rohan Paul (@rohanpaul_ai)T2·基座大模型
71 分
亚马逊论文发现规则类基准答案键与评分代码普遍出错

亚马逊一篇新论文审计了 9 个公开的规则遵循类基准(如 RuleArena、LegalBench),发现其参考答案与评分代码本身存在错误,导致模型正确答案被误判。以 LegalBench 税务评分为例,评分器删除小数点,把 259,487.13 美元读成 25,948,713,修复后 3 个模型的通过数从 8-9/96 升至 87-91/96。作者建议在看到低分时先读评分代码并人工抽查失败样本。