资讯 · 中影响返回资讯

TypeSafe AI 推出系统一决策模型 Jev:毫秒级强类型判定,主打零语法幻觉与极低调用成本

由前 OpenAI 核心研究员 Diogo Almeida 联合创立的 TypeSafe AI 正式发布首款专为软件决策而生的系统一模型 Jev。该模型彻底摒弃自回归文本生成,直接输出 Noul、Choice 与 Score 等强类型基元,将端到端延迟压缩至 70ms 至 500ms,推理成本降低约 400 倍,专为解决 Agent 守门与微服务高频决策痛点而生。

诞生背景与命名寓意

Jev 是由前 OpenAI 核心研究员创立的 AI 初创公司 TypeSafe AI 于 2026 年 9 月推出的专为软件工程决策而生的新型 AI 模型。与 ChatGPT、Claude、GPT-4 等面向人类交互的自回归生成式大语言模型(LLM)截然不同, Jev 确立了 “要决策,不要文本字符串”(Decisions, not strings) 的设计哲学。它不负责写文章、写代码或闲聊,而是专注于在毫秒级内完成高精度、类型安全的逻辑判断,被业内称为系统一(System 1)模型或机器原生智能(Machine-Native Intelligence)。

TypeSafe AI 联合创始人 Diogo Almeida 曾是 OpenAI 的核心研究科学家,也是 InstructGPT 论文的核心作者之一,在推动 RLHF (人类反馈强化学习)技术落地的过程中起到了关键作用。在深入实践大模型应用后,团队意识到工业界超过 80% 的模型调用并不需要洋洋洒洒生成几百字,而只需要判断是否合规、属于哪个分类或打分是多少。公司走出隐身模式并宣布完成由 DCVC 领投的 4000 万美元 种子轮融资,其命名直接源自经济学中的 杰文斯悖论(Jevons Paradox) ——将决策延迟与成本拉低两个数量级之后,高频智能决策将像条件分支一样被密集嵌入软件的每一处管线。

核心架构与技术原理

传统 LLM 无论回答多么简短的问题,底层都受困于自回归逐 Token 生成与庞大的键值缓存(KV Cache)开销。 Jev 从底层推翻了这一机制,采用非自回归单次前向推理,在一次前向计算中直接完成语义提取与决策判定,端到端延迟通常稳定在 70ms 至 500ms 之间。在接口层, Jev 原生提供了三类强类型决策基元(Primitives):

  • Noul(布尔判断):专门处理是非断言(True / False),并附带经过严格校准的置信度。

  • Choice(多项分类):从预先声明的有限集合中做出选择,并输出完备的概率分布。

  • Score(连续标量打分):根据给定的判别准则,直接返回连续的数值评分。

不同于优化人类主观对话审美的 RLHF, Jev 采用了专门面向决策校准的 RLCDReinforcement Learning for Calibrated Decisions,带校准决策的强化学习)RLCD 的核心在于概率分布的数理对齐:当模型给出 98% 的置信度时,其历史准确率必须严格收敛在 98% ,使下游自动化系统能够安全设立自动化阈值闸门,从架构根源上杜绝了语法破坏与非法 JSON 解析崩溃。

Jev 与通用大语言模型对比

在分类、状态检验与逻辑裁决等任务中, Jev 与传统通用自回归大语言模型的性能规格对比如下:

评估维度通用大语言模型(LLM)Jev 决策模型
认知系统定位系统二(慢思考、长文本推演与生成)系统一(快思考、瞬时直觉与毫秒级裁决)
输出数据格式自由文本 / JSON 字符串原生强类型(Noul / Choice / Score)
端到端推理延迟1000ms 至 5000ms70ms 至 500ms
相对吞吐速度1x 基准最高提升达 200 倍(200x)
单次调用成本1x 基准降低约 400 倍(400x)
语法幻觉风险存在格式破损与解析中断风险架构级零语法幻觉

这一极低延迟与成本优势,使原本代价高昂的多轮状态检查变得极为轻快,工程师无需再编写脆弱的正则表达式或重试容错兜底。

典型工业落地场景

Jev 并非旨在取代擅长构思与编写代码的主力大模型,而是充当高频响应的神经突触与安全闸门:

  • AI Agent 的反思与守门人(Guardrails & Evaluators):在包含数十步工具调用的复杂 Agent 循环中,无需每次都唤醒耗时数秒的通用大模型来反思结果。系统调用 Jev 可在 100ms 内给出判定,大幅削减 Agent Loop 的空转等待耗时。

  • 微服务高并发语义路由(Semantic Router:在网关入口处以极低开销将用户意图准确分流至垂直微服务或特定模型,解决小模型理解力不足的同时,避免大模型造成的严重阻塞与高昂账单。

  • 实时风控与合规拦截(Real-time Risk & Safety):在金融反欺诈、Prompt 注入防御与内容安全场景中,实施百毫秒级的快速阻断。

  • 自动化数据清洗与标注管线:以高通量、极低单价将海量非结构化网页与日志数据批量转化为带置信度的类型化数据。

总结与启示

Jev 的问世标志着 AI 基础设施正在从“粗放的万能生成主义”走向 精细化解耦与职责分工 。过去行业习惯于用一个动辄几百亿参数的自回归大模型去包办一切任务,哪怕只是判断一个状态是否合规。

Jev 示范了现代软件架构演进的清晰路径:让大模型专注于深度思考与创造性生成,把高频、毫秒级、零语法容错的逻辑分支与状态守门交由专用系统一决策模型负责。两者协同工作,将为下一代自主软件系统提供兼具灵活性与确定性的坚实工程底座。

下一步

继续追踪 TypeSafe AI

沿着同一主题继续阅读。

打开实体档案