i14 Laplace 3B 线性注意力模型在 AWS Trainium2 实现原生 PyTorch 训练与推理

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/21 05:14:10

全景综述与最新动态

1 家信源交叉印证

i14 推出的 Laplace 3B 采用线性注意力架构，其循环状态大小固定为 29.5 MB，不随上下文长度增长。该模型通过 TorchNeuron Native 在 AWS Trainium2 上实现了原生 PyTorch 支持，保留了 Gated Linear Attention (GLA) 设计与 Muon 优化器。实测显示，单台 trn2.48xlarge 实例可实现约 120k tokens/s 的训练速度及 11.5k output tokens/s 的高并发推理性能。

最新动向/i14 推出的 Laplace 3B 采用线性注意力架构，其循环状态大小固定为 29.5 MB，不随上下文长度增长。该模型通过 TorchNeuron Native 在 AWS Trainium2 上实现了原生 PyTorch 支持，保留了 Gated Linear Attention (GLA) 设计与 Muon 优化器。实测显示，单台 trn2.48xlarge 实例可实现约 120k tokens/s 的训练速度及 11.5k output tokens/s 的高并发推理性能。

热度曲线逐小时热度走势

3 个完整观测小时

当前

18.8

峰值

19.706:00

近 24h 变化

–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

TIMELINE报道时间线

共 1 篇 · 最新优先

AWS Machine Learning BlogT1·10月21日 05:1468 分
i14 Laplace 3B 线性注意力模型在 AWS Trainium2 实现原生 PyTorch 训练与推理
原标题：Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch
- Laplace 3B 的循环状态大小固定为 29.5 MB，消除了传统 Transformer KV Cache 随上下文增长的问题
- 通过 TorchNeuron Native 实现在 AWS Trainium2 上的原生 PyTorch 训练与推理，无需修改底层算子逻辑
- 在单台 trn2.48xlarge 实例上达到 120k tokens/s 训练速度和 11.5k output tokens/s 高并发推理吞吐
查看关联报道与研判原始网页