i14 在 Trainium2 上训练部署 Laplace 3B 模型
热点事件历史事件
i14 在 Trainium2 上训练部署 Laplace 3B 模型
1 篇报道1 个报道来源7 天前更新
先了解这件事
AI 综述
AWS 与 i14 合作，通过 TorchNeuron Native 提供的原生 PyTorch 支持，在一台 trn2.48xlarge 实例上训练并部署 i14 的 Laplace 3B 线性注意力模型，保留了其 Gated Linear Attention（GLA）架构设计与 Muon 优化器。训练速度约为每秒 12 万 tokens，结果截至第 84,210 步、约 440 亿 tokens。 GenAIIC 团队通过未经修改的 vLLM 引擎，在同一台 trn2.48xlarge 实例上以 1,280 路并发序列提供服务，吞吐量为每秒 11,544 个输出 tokens。AWS 提示，BF16 重结合会使编译输出与 eager 模式略有差异，需要精确复现时应使用 eager 解码。
AI 根据报道生成 · 5 天前更新
最新进展10月21日 05:14
i14 在 AWS Trainium2 上训练并部署 Laplace 3B 线性注意力模型报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- AWS Machine Learning Blogi14 在 AWS Trainium2 上训练并部署 Laplace 3B 线性注意力模型
AWS 与 i14 合作，通过 TorchNeuron Native 用原生 PyTorch 在一台 trn2.48xlarge 实例上训练并部署 i14 的 Laplace 3B 线性注意力模型，保留其 Gated Linear Attention 设计与 Muon 优化器。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 310月22日 23:00
- 近 24 小时变化
- –
0123
23:0010月23日01:0002:0003:0004:0005:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。