术语slug: activation-sparsity

激活稀疏化

Activation Sparsity

在推理时识别并跳过激活值中贡献可忽略的通道或词元,以减少实际参与计算的数据量

收录情报动态

共 2 篇 · 第 1/1 页
量子位官网T2·算力与基建
58 分
墨芯完成近 10 亿元 C+ 轮融资 押注稀疏推理芯片

墨芯人工智能在 5 个月内完成第二轮近 10 亿元人民币融资,资金将用于推进其“权重稀疏化+激活稀疏化”双稀疏算法与专用推理芯片路线。文章以 DeepSeek-V4-Pro 约 1.6 万亿总参数、单 token 仅激活约 490 亿参数为例,论证 MoE 条件计算正把稀疏计算推向算力设计核心,而通用 GPU 难以针对稀疏模式做深度协同优化。

量子位 (微信公众号)T2·算力与基建
62 分
墨芯完成近 10 亿元 C+ 轮融资 押注稀疏推理芯片

墨芯人工智能完成近 10 亿元人民币 C+ 轮融资,距上轮同等规模融资仅 5 个月。公司押注 MoE 等稀疏架构带来的条件计算需求,以“权重稀疏+激活稀疏”双稀疏算法与算法-软件-硬件协同设计切入专用推理芯片,S30 计算卡在 MLPerf Inference 部分类别连续三届夺冠。