量子位官网T2·算力与基建
62 分
由朱松纯发起、北京通用人工智能研究院孵化的通芯智能成立仅半年即完成种子轮与天使轮融资,合计数亿元,资金投向流片前的核心架构设计。公司瞄准面向 AGI 算法的新型推理芯片,在兼容主流模型的同时,为逻辑、因果与价值推理增加专用硬件支持,试图在算法尚未定型时提前定义下一代计算。
Inference Chip
专为模型推理阶段设计、侧重低延迟与高能效的专用计算芯片
由朱松纯发起、北京通用人工智能研究院孵化的通芯智能成立仅半年即完成种子轮与天使轮融资,合计数亿元,资金投向流片前的核心架构设计。公司瞄准面向 AGI 算法的新型推理芯片,在兼容主流模型的同时,为逻辑、因果与价值推理增加专用硬件支持,试图在算法尚未定型时提前定义下一代计算。
AI 云服务商 General Compute 完成 1 亿美元 A 轮融资,尽管行业面临新云泡沫担忧。该公司差异化策略在于构建基于 SambaNova、Positron 等非英伟达专用推理芯片的算力集群,旨在通过优化单位经济模型而非单纯追求速度来确立竞争优势。
Hugging Face Text Generation Inference (TGI) 宣布支持 AWS Inferentia2 芯片。该更新旨在扩展 TGI 在云端专用推理硬件上的兼容性,但原文未提供具体的性能基准、延迟数据或成本优化细节。
AWS 宣布其专用推理芯片 Inferentia2 现已支持加速 Hugging Face Transformers 模型。该集成旨在通过硬件优化提升大语言模型的推理速度与成本效益,为开发者提供更具性价比的云端部署方案。