术语slug: multilingual-pretraining

多语言预训练

Multilingual Pretraining

使用多种语言语料库训练基础模型以获取跨语言能力

收录情报动态

共 1 篇 · 第 1/1 页
Google ResearchT1·基座大模型
78 分
ATLAS 提出多语言模型自适应缩放定律

ICLR 2026 论文 ATLAS 发布了迄今最大规模的多语言预训练研究,涵盖 774 次训练运行及 400+ 种语言。该研究提出了“自适应迁移缩放定律”,量化了 1400 对语言间的协同效应,为构建非英语主导或混合语言模型提供了数据驱动的效率与成本指导。