Hugging Face BlogT1·开发与工程
78 分
Hugging Face 正式发布 Transformers.js v4,核心突破在于采用完全用 C++ 重写的 WebGPU 运行时。该版本与 ONNX Runtime 团队深度合作,显著提升了对约 200 种模型架构的支持性能、精度及覆盖率,实现了浏览器端推理能力的重大升级。
微软开发的跨平台机器学习模型推理引擎
Hugging Face 正式发布 Transformers.js v4,核心突破在于采用完全用 C++ 重写的 WebGPU 运行时。该版本与 ONNX Runtime 团队深度合作,显著提升了对约 200 种模型架构的支持性能、精度及覆盖率,实现了浏览器端推理能力的重大升级。
微软宣布 ONNX Runtime 已支持加速超过 130,000 个 Hugging Face 模型。该集成旨在通过标准化推理引擎提升开源模型的部署效率与性能,覆盖广泛的主流 AI 架构。
Hugging Face Optimum 宣布与 ONNX Runtime 深度集成,旨在简化并加速大模型训练流程。该更新主要聚焦于开发者体验优化与底层推理/训练引擎的兼容性提升,未披露具体性能基准数据或新算法突破。