英伟达推出 Kubernetes Engine(NVKE)预览版,提供可安装在自有 GPU 基础设施上的托管 Kubernetes 管理平面,每个工作负载集群拥有独立控制面、etcd 与节点池。该产品目前处于预览阶段,官方明确不建议用于生产环境,API 与行为可能随版本变化。
控制平面
Control Plane
负责管理、协调和监控分布式系统组件的核心层
收录情报动态
Buoyant 推出开源项目 Kinference,旨在为基于 vLLM 和 Kubernetes 的推理平台提供控制平面层。该工具支持 OpenAI/Anthropic 兼容接口,集成令牌限流、租户成本追踪及智能负载均衡等功能,并在多轮对话负载中实现了约 3.5 倍的有效吞吐量提升。
LangSmith 推出 Bring Your Own Cloud (BYOC) 模式,支持在 AWS、Azure 和 Google Cloud 上部署。该模式将控制平面与数据平面分离,允许用户保留对追踪、评估和代理数据的完全控制权,同时由 LangChain 托管基础设施运维。
开发者推出 kube32,这是一个专为 ESP32-S3 微控制器设计的 Kubernetes 兼容控制平面与 WebAssembly Pod 运行时。该项目允许通过标准 kubectl 管理硬件集群,利用 wasm3 解释器执行 WebAssembly 模块作为 Pod,实现了在资源受限的 IoT 设备上运行云原生工作负载的可能性。
SF Compute 创始人 Evan Conrad 在 AIE NYC 会议上阐述“可编程数据中心”愿景,旨在将软件定义网络(SDN)理念延伸至 GPU 集群。该平台允许用户通过代码程序化控制从网络到内存的全栈资源,并支持 GPU 算力的即时买卖与流动性管理,以降低自建超算的高昂门槛。
SF Compute 将软件定义网络理念延伸至 GPU 集群,允许用户通过代码程序化控制从网络到内存的底层资源。该方案旨在降低自建超算的高昂门槛,并支持即时买卖 GPU 算力以优化资产负债表。
微软亚洲研究院发布 Agent Lightning v1.0,这是一个仅约 3500 行代码的轻量级智能体强化学习框架。其核心突破在于“Harnessed Agentic RL”范式,允许直接使用部署时的真实 Agent Harness(如 mini-SWE-agent)参与训练,无需在训练框架中重新实现逻辑。该框架原生支持 Kubernetes,消除了对昂贵商业沙箱服务的依赖,显著降低了智能体 RL 训练的门槛与成本。