新智元 (微信公众号)T2·78 分
Claude 自写推理引擎 首 token 延迟从 12 秒降至 0.48 秒
原标题:Claude自写推理引擎!等AI回第一个字,12秒砍到半秒
- Claude Opus 5.5 在禁网、限时 12 小时、4 张 GB300 的条件下用 Claude Code 独立完成推理引擎开发
- 16 路并发真实编程会话回放中,P90 首 token 延迟从 SGLang 的约 12 秒降至约 0.48 秒
- Singularity-Bench 将“智能体能否构建智能体”转化为可量化、可复现的基准任务