Together AI 推出 Together Compiler,让 AI 智能体在生产流量变化时持续重调推理前向计算。其核心是常驻服务引擎配合热重载,无需重启即可加载智能体改写的前向实现,并用 12 层快速筛选加 60 层慢速验证的双层机制确认真实流量收益。官方称在 SemiAnalysis InferenceX 上最多提升 2.6 倍 TPS,但部分场景增益有限且数据均为自报,系统闭源并已上线其无服务器端点。
术语slug: forward-pass
前向传播
Forward Pass
神经网络中从输入层到输出层的计算过程
收录情报动态
Marktechpost (@Marktechpost)T2·算力与基建
74 分
Hacker News AIT2·开发与工程
38 分
开发者利用 Handwired 工具将基于 JavaScript 的迷你桌面操作系统 Mini OS 转化为神经网络模型。该实验展示了如何将列表、动画、拖拽等常规 UI 逻辑映射为包含 130 层、9909 个权重的网络结构,并直接渲染至标准 DOM,验证了代码到神经网络的转换可行性。
Hacker News AIT2·开发与工程
68 分
本文介绍了一种名为“系统一”的决策模型(如 Jev),它通过掩码限制词汇表,在单次前向推理中直接生成固定选项的结构化输出,显著优于传统 LLM 的多步解码。文章提供了 GitHub 仓库,指导开发者如何构建数据集、微调及校准此类模型,以实现低延迟、高确定性的分类或决策任务。
Google ResearchT1·基座大模型
78 分
Google 推出最新时间序列基础模型 TimesFM-3,首次实现单次前向传播下的多变量零样本预测。该模型突破了此前版本仅支持单变量预测的限制,在主要基准测试中显著优于其他预测模型,并可通过 BigQuery 的 AI.FORECAST 命令直接调用。
Hugging Face BlogT1·开发与工程
68 分
OpenAI 在 Hugging Face Hub 发布开源隐私过滤器 Privacy Filter,能在单次前向传播中处理 128k 上下文并识别八类个人身份信息(PII)。Hugging Face 团队基于此模型快速构建了文档隐私探索器、图像匿名化器和智能脱敏粘贴板三个演示应用,展示了其在长文本和多媒体场景下的即时部署能力。