Hacker News AIT2·基座大模型
68 分
开发者发布 Qwen3-4B 微调版本,通过多轮蒸馏与规则校验显著减少“AI 味”(如过度使用从句、立场模糊)。该模型在保持任务完成度的同时,大幅降低了虚构引用和句式冗余问题。
Activation Steering
通过修改模型内部激活值来直接控制输出行为的技术
开发者发布 Qwen3-4B 微调版本,通过多轮蒸馏与规则校验显著减少“AI 味”(如过度使用从句、立场模糊)。该模型在保持任务完成度的同时,大幅降低了虚构引用和句式冗余问题。
最新研究系统评估了大模型输出控制方法,发现高效激活引导技术往往以牺牲生成流畅度为代价。研究指出,指令微调显著削弱了激活引导在概念注入/移除任务中的有效性,而简单提示和全量监督微调虽适合概念注入但在移除任务上表现不佳。此外,低成本文本指标被证实能高度替代昂贵的 LLM-as-judge 评分。