Hacker News AIT2·基座大模型
88 分
AutoArk 开源 Edge0-145B 与 Edge0-120B 两款端侧模型，其中 145B 版本号称全球首个可在个人电脑本地运行的 1450 亿参数开源模型，峰值内存约 29GB、解码速度超 80 tokens/s。官方称其编码、推理与智能体能力可对标部分前沿云端模型，并同步发布统一推理框架与部署工具，核心能力可离线使用、无需账号或配额。
专注端侧 AI 模型与部署工具的研发团队，Edge0 系列模型开发方
AutoArk 开源 Edge0-145B 与 Edge0-120B 两款端侧模型，其中 145B 版本号称全球首个可在个人电脑本地运行的 1450 亿参数开源模型，峰值内存约 29GB、解码速度超 80 tokens/s。官方称其编码、推理与智能体能力可对标部分前沿云端模型，并同步发布统一推理框架与部署工具，核心能力可离线使用、无需账号或配额。