术语slug: peft

参数高效微调

PEFT

仅更新少量参数以大幅降低大模型训练显存需求的技术

收录情报动态

共 7 篇 · 第 1/1 页
新智元 (微信公众号)T2·基座大模型
72 分
MIT 提出权重空间编程 大模型改写小模型权重数学能力提升 6 倍

MIT CSAIL 提出「权重空间编程」新范式:无需训练与梯度计算,由 GPT-6 Astra 直接改写另一款小模型约 0.016% 的权重,即让其数学成绩提升约 6 倍。该工作把大模型的能力迁移从数据与梯度层面转移到权重空间编辑层面,若结果可复现,将为模型适配与能力注入提供一条低成本新路径。

量子位官网T2·基座大模型
45 分
通衍灵智探索递归自进化个性化 AI 技术路径

北京通用人工智能研究院孵化的团队通衍灵智提出“递归自进化个性化智能”概念,旨在通过轻量化参数和持续学习机制,将用户长期交互经验沉淀为专属模型能力。该方案试图解决通用大模型难以保留个人/组织特定知识资产的问题,强调在基础模型之上构建可独立演进的专属智能层。