术语slug: causal-masking

因果掩码

Causal Masking

限制模型只能关注当前及之前位置信息的注意力约束方式

收录情报动态

共 2 篇 · 第 1/1 页
Hugging Face BlogT1·开源与评测
68 分
Hugging Face 推出模型集成契约以防范回归缺陷

Hugging Face 发布“模型集成契约”(TMIC)机制,旨在解决 Transformers 库中因测试覆盖不足导致的隐蔽回归问题。该方案通过为每个模型定义标准化的行为契约与自动化测试路径,确保如 SDPA 启用后引发的注意力掩码错误等关键逻辑在合并前被捕获。此举显著提升了拥有 750+ 模型支持的开源生态的工程稳定性与维护效率。

Qwen 官方博客 (通义)T1·基座大模型
78 分
Qwen-Image-2.1 开源:7B 参数实现创改一体

阿里通义千问团队开源 Qwen-Image-2.1,这是一款仅含 7B 参数的轻量级图像模型,首次将文生图与图像编辑功能整合于单一架构中。该模型原生支持透明图像生成与编辑,并通过混合粒度注意力结构显著优化推理效率,在保持低算力成本的同时提升了文字排版、人物光影及多参考图局部编辑的保真度。