术语slug: onnx-runtime

ONNX Runtime

微软开发的跨平台机器学习模型推理引擎

收录情报动态

共 3 篇 · 第 1/1 页
Hugging Face BlogT1·开发与工程
78 分
Transformers.js v4 发布:重写 WebGPU 运行时

Hugging Face 正式发布 Transformers.js v4,核心突破在于采用完全用 C++ 重写的 WebGPU 运行时。该版本与 ONNX Runtime 团队深度合作,显著提升了对约 200 种模型架构的支持性能、精度及覆盖率,实现了浏览器端推理能力的重大升级。

Hugging Face BlogT1·开发与工程
25 分
Optimum 集成 ONNX Runtime 加速训练

Hugging Face Optimum 宣布与 ONNX Runtime 深度集成,旨在简化并加速大模型训练流程。该更新主要聚焦于开发者体验优化与底层推理/训练引擎的兼容性提升,未披露具体性能基准数据或新算法突破。