术语slug: activation-steering

激活引导

Activation Steering

通过修改模型内部激活值来直接控制输出行为的技术

收录情报动态

共 2 篇 · 第 1/1 页
Hacker News AIT2·基座大模型
68 分
Qwen3-4B 微调版消除 AI 写作腔调

开发者发布 Qwen3-4B 微调版本,通过多轮蒸馏与规则校验显著减少“AI 味”(如过度使用从句、立场模糊)。该模型在保持任务完成度的同时,大幅降低了虚构引用和句式冗余问题。

Apple Machine Learning ResearchT1·基座大模型
68 分
LLM 条件控制研究:揭示流畅度与有效性权衡

最新研究系统评估了大模型输出控制方法,发现高效激活引导技术往往以牺牲生成流畅度为代价。研究指出,指令微调显著削弱了激活引导在概念注入/移除任务中的有效性,而简单提示和全量监督微调虽适合概念注入但在移除任务上表现不佳。此外,低成本文本指标被证实能高度替代昂贵的 LLM-as-judge 评分。