在线策略蒸馏

在训练过程中实时从教师模型或环境反馈中提取知识并指导学生模型更新参数的技术，常用于提升小模型的泛化能力。