探索索引

注意力上下文窗口

注意力机制在单次计算中可参考的 token 范围,窗口越大计算与显存开销越高。

暂时没有与该实体关联的公开内容。

注意力上下文窗口 | Today for AI