返回热点榜
llm热度 15.6°

AI 聚合热点事件 · 2026/10/30

Baseten 开源 joey-1:2B 决策模型实现零 Token 生成路由分类

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/30 05:22:18
全景综述与最新动态
1 家信源交叉印证

Baseten 发布并开源了仅 20 亿参数的决策模型 joey-1,该模型通过单次预填充直接输出校准概率,无需生成任何文本 Token。在 Jev 决策指数测试中,joey-1 以 63.30 分成为 4B 以下最佳模型,推理延迟低至 20ms,为智能体路由和分类任务提供了极具性价比的轻量级解决方案。

最新动向/Baseten 发布并开源了仅 20 亿参数的决策模型 joey-1,该模型通过单次预填充直接输出校准概率,无需生成任何文本 Token。在 Jev 决策指数测试中,joey-1 以 63.30 分成为 4B 以下最佳模型,推理延迟低至 20ms,为智能体路由和分类任务提供了极具性价比的轻量级解决方案。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时,暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先
  1. Marktechpost (@Marktechpost)T2·78 分

    Baseten 开源 joey-1:2B 决策模型实现零 Token 生成路由分类

    原标题:▲ Baseten just open-sourced joey-1, a 2B decision model that answers routing and classification ques...

    • joey-1 采用“读取状态+类型化问题”范式,通过单次预填充返回概率分布,彻底消除文本解析开销与生成成本。
    • 在 Jev 决策指数中得分 63.30,位列 4B 以下参数规模第一,性能超越同价位的 Perplexity Decider Flash v1.2。
    • 推理速度极快,2000 token 请求的 P50 延迟仅为 20ms,比其 9B 兄弟模型 elephant-1 快约 2.5 倍。
    • MIT 许可证开源权重已上传至 Hugging Face,支持单张 CUDA GPU 自托管,输入成本低至 $0.01/百万 token。