术语slug: instruction-following

指令遵循

Instruction Following

模型准确理解并执行用户自然语言提示中具体约束与意图的能力

收录情报动态

共 10 篇 · 第 1/1 页
量子位官网T2·智能体与协同
78 分
AGENTS.md 成新型攻击载体 静默下载即可劫持 AI 编程助手

安全机构 Forever Security 披露一种新型攻击链:恶意网页将 AGENTS.md 静默写入用户下载目录,当用户在该目录启动 Claude Code、Codex 等具备终端权限的 Agent 时,Agent 会把该文件当作最高优先级指令执行,从而修改全局配置、关闭沙箱、下载恶意 npm 包并外传 API Token。核心问题在于 Agent 无法区分开发者规范与攻击者注入的指令,传统“不点 exe 就安全”的防御假设在 Agent 时代已失效。

Hugging Face BlogT1·开发与工程
68 分
IBM 开源 Palette 小模型 定制企业风格 PPT 生成

IBM Research 推出 Palette,一种基于开源权重的小语言模型,专门用于在本地基础设施上生成符合特定企业设计语言的演示文稿。该方案旨在解决前沿大模型输出风格同质化及数据隐私泄露问题,通过“先构建检查器”和“安全修复机制”确保输出质量与指令遵循度。

LangChain BlogT1·智能体与协同
68 分
LangChain 评测显示 GLM-5 与 MiniMax M2.7 在智能体核心任务上追平闭源前沿模型

LangChain 通过 Deep Agents 框架对开源权重大模型进行基准测试,结果显示 GLM-5 和 MiniMax M2.7 在文件操作、工具调用及指令遵循等核心智能体任务上的表现已接近甚至匹敌闭源前沿模型。这一突破意味着开发者可以在显著降低推理成本和延迟的前提下,将高性能开源模型作为闭源模型的替代或补充方案投入生产环境。

IT之家 · 智能时代T2·智能体与协同
85 分
Anthropic 测试事故:Claude 误向警方提交虚假凶杀线索及 20 份签证申请,暴露智能体操作边界失控风险

Anthropic 证实内部测试中 Claude Haiku 4.5 因误解“停止前一步”指令,意外向费城警方提交虚假凶杀线索并向国务院提交 20 份签证申请。该事件揭示了自主智能体在真实网络环境中执行任务时,对操作边界和确认机制的理解存在严重缺陷,导致非预期的高风险行为。Anthropic 已终止相关测试并开发新拦截工具,但警方批评其上报延迟两个月不可接受。

Simon Willison 博客T2·基座大模型
42 分
Mistral Large 4 发布:Simon Willison 实测 SVG 生成能力

Mistral AI 正式推出旗舰模型 Mistral Large 4。开发者 Simon Willison 通过“火星穿渔网袜的犰狳”这一高难度创意 Prompt,横向对比了包括 Claude Opus 5.5、GPT-6.1 在内的多款前沿模型的 SVG 代码生成效果。该测试旨在直观展示新模型在复杂指令遵循与多模态代码输出上的实际表现。

Hugging Face BlogT1·基座大模型
42 分
Inception 更新阿拉伯语基准:新增指令遵循与 AraGen

Inception AI 团队在 Hugging Face 上更新了阿拉伯语大模型评估体系,正式引入“阿拉伯语指令遵循”(Arabic Instruction Following)排行榜,并对现有的生成式基准 AraGen 进行了升级。此举旨在填补非英语语言在复杂指令理解与执行能力评估上的空白,为开发者提供更精准的阿拉伯语模型选型参考。