Rohan Paul (@rohanpaul_ai)T2·78 分
英伟达新方法将推理轨迹缓存为 CPU 代码 成本降 291 倍
原标题:New NVIDIA paper finds that once an LLM has reasoned through a problem, the solution can run as CPU ...
- 推理轨迹可编译为带参数的 Python 函数,在 CPU 上复用而非每次重跑大模型
- 8 个基准中 7 个持平或超越原模型,AIME '25 精度 93.3% 高于 83.3%
- 对改写与换数变体覆盖至少 90%,成本降低 16 至 291 倍