术语slug: token-embedding-editing

词嵌入编辑

Token Embedding Editing

直接修改模型嵌入层参数以改变行为、无需梯度更新的模型调试技术

收录情报动态

共 1 篇 · 第 1/1 页
机器之心 (微信公众号)T2·基座大模型
78 分
斯坦福仅改 65 行词嵌入修复机器人指令失灵

斯坦福团队提出一种无需梯度更新、无需新增示范数据的机器人策略调试方法:直接编辑视觉语言模型词嵌入层中与指令相关的 65 行参数,即可让机器人更可靠地响应不同措辞。在包含被改词元的 335 条留出指令上,成功率从 74.3% 提升至 87.5%,另有 430 个回合的成败结果完全不变。论文、代码与全部 16 次实验记录均已公开。