InfoQ 中文T2·开发与工程
62 分
谷歌云 API Gateway 正式公开预览流式处理能力,支持 SSE、WebSocket、gRPC 等模式,让流式端点可在网关后运行,同时保留鉴权、密钥校验与可观测性等原有策略。该功能面向流式模型响应、多步骤 Agent 工作流与交互式会话场景,并可与模型路由结合,通过兼容 OpenAI 的单一端点分发至 Gemini、Claude 或 gpt-oss。
SSE
基于 HTTP 的单向服务端推送协议,常用于流式输出模型响应
谷歌云 API Gateway 正式公开预览流式处理能力,支持 SSE、WebSocket、gRPC 等模式,让流式端点可在网关后运行,同时保留鉴权、密钥校验与可观测性等原有策略。该功能面向流式模型响应、多步骤 Agent 工作流与交互式会话场景,并可与模型路由结合,通过兼容 OpenAI 的单一端点分发至 Gemini、Claude 或 gpt-oss。
Spindle 是面向 OCaml 5 的全功能 Web 框架,基于 Eio 原生多核设计,自带严格遵循 RFC 的 HTTP/1.1 与 WebSocket 引擎,并实现端到端类型安全与自动生成 OpenAPI 文档。作者称单核基准下比 NestJS 快约 2 倍、比 FastAPI 快约 5 倍,但速度并非设计目标。
Gradio 发布 `gradio.Server`,允许开发者使用 React、Svelte 等任意前端框架,同时复用 Gradio 的后端能力(如队列、API、MCP 支持)。该功能旨在解决复杂交互应用开发中前端受限的问题,实现前后端彻底解耦。