术语slug: on-device-deployment

端侧部署

On-Device Deployment

在用户本地设备而非云端服务器运行 AI 模型

收录情报动态

共 5 篇 · 第 1/1 页
Google DeepMindT1·基座大模型
78 分
Google 开源 EmbeddingGemma 2:支持端侧多模态嵌入

Google DeepMind 发布开源轻量级模型 EmbeddingGemma 2,基于 Gemma 4 架构实现文本、图像、音频和视频的统一嵌入空间。该模型专为消费级硬件设计,旨在提升端侧搜索与 RAG 管道的多模态处理能力,延续了前代超过 2000 万次下载的高社区热度。

Hacker News AIT2·基座大模型
68 分
Google 开源 EmbeddingGemma 2:支持多模态端侧嵌入

Google DeepMind 发布 EmbeddingGemma 2,将上一代纯文本模型升级为支持代码、图像、视频和音频的多模态统一嵌入模型。该模型基于 Gemma 4 架构构建,旨在为消费级硬件提供轻量级、隐私优先的检索增强生成(RAG)能力。目前已在开发者平台开源,并提供推理与微调指南。

Hugging Face BlogT1·基座大模型
85 分
Meta 发布 Llama 3.2:支持视觉与端侧运行

Meta 正式推出 Llama 3.2 系列模型,首次引入多模态视觉能力并优化了端侧部署性能。该版本包含从 1B 到 90B 的多种参数规模,旨在让开发者能在手机、笔记本等本地设备上高效运行具备视觉理解能力的 AI 模型。