公司slug: ggml-org访问官方网站

ggml-org

llama.cpp 与 ggml 背后的开源组织,专注本地高效推理基础设施

收录情报动态

共 1 篇 · 第 1/1 页
Hugging Face BlogT1·开源与评测
78 分
llama.cpp 发布 v1.0.0 本地推理迎来里程碑

llama.cpp 正式发布 v1.0.0,在项目启动 3.5 年后确立稳定版本基线。该项目以量化、优化后端与可移植 C/C++ 实现为核心,支持在消费级设备到企业服务器上运行多模态大模型,是本地与私有化 AI 推理生态的关键底座。