vLLM 官方博客T1·开源与评测
62 分
vLLM 从 v0.33.0 起发布基于 LibTorch 稳定 ABI 的 CUDA wheel,使升级 LibTorch 时无需重新编译或重新链接 vLLM,可直接替换 torch wheel 并导入。该改动降低了 C++ 后端与 PyTorch 二进制接口的耦合,但官方提示兼容性仍受 Python API、最低 CUDA 版本与第三方依赖制约。
ABI
定义程序间二进制交互标准的低层接口规范
vLLM 从 v0.33.0 起发布基于 LibTorch 稳定 ABI 的 CUDA wheel,使升级 LibTorch 时无需重新编译或重新链接 vLLM,可直接替换 torch wheel 并导入。该改动降低了 C++ 后端与 PyTorch 二进制接口的耦合,但官方提示兼容性仍受 Python API、最低 CUDA 版本与第三方依赖制约。
Rocky Linux 创始人 Gregory Kurtzer 采用“人类主导的智能体工程”(HDAE),在 11 天内利用 AI 编写约 13.9 万行代码,从零构建了兼容 Linux ABI 的独立 Rust 内核 Ginux。该内核成功启动 Rocky Linux 10 并运行 systemd,验证了 AI 在复杂系统软件领域的自主构建能力。
谷歌安全团队利用 Gemini 将 3000 行 C 语言库 giflib 自动迁移为 ABI 兼容的 Rust 实现,通过三阶段反馈式流程(初始移植、FFI 人工校准、差分测试迭代)成功消除内存安全隐患。该方案在公开 CVE-2026-26740 之前修复了堆写入零日漏洞,允许停用进程隔离沙箱且未增加延迟,项目已开源为 giflib-rs。