webAI 基于 IBM Granite-4.2-8B 推出 TwIL-8B 推理模型,针对数学、代码与指令跟踪负载优化,以非商业许可开源。官方称其在 MATH-500、AIME 2025 与 LiveCodeBench 上取得同组最佳成绩,长板能力达到前沿模型的 88~93%,但知识储备有限、并非通用模型。
指令微调
Instruction Tuning
使用指令-响应对数据优化模型以更好遵循人类意图的训练方法
收录情报动态
webAI 基于 IBM Granite 4.2 8B 训练并开源了 8.8B 参数的 TwIL-8B,主打数学、编程与指令遵循。官方称其量化后仅 4.98 GiB,可在 CPU 或普通显卡上运行,LiveCodeBench 得分 81.6%,超过 Qwen3.5-9B 与 Gemma 4 31B,并在编程与指令遵循上达到前沿模型约 92%-93% 的水平。
百度发布 ERNIE 5.5 Flash Base,这是一个总参数 280B、每 token 激活 14B 的稀疏 MoE 语言模型,基于 33.5T token 从零预训练,训练上下文 128K,微调与推理支持 1M token。发布的是预训练结束、尚未经过中段与后训练的权重,定位为领域适配、指令微调与强化学习研究的通用起点。
最新研究系统评估了大模型输出控制方法,发现高效激活引导技术往往以牺牲生成流畅度为代价。研究指出,指令微调显著削弱了激活引导在概念注入/移除任务中的有效性,而简单提示和全量监督微调虽适合概念注入但在移除任务上表现不佳。此外,低成本文本指标被证实能高度替代昂贵的 LLM-as-judge 评分。
阿里 Qwen 团队推出 Qwen3-TTS-VD-Flash(音色设计)和 Qwen3-TTS-VC-Flash(音色克隆)两款新模型。前者支持通过自然语言指令精细调控音色、情感与人设,后者实现 3 秒级多语言音色克隆。基准测试显示其在 InstructTTS-Eval 和多语言 WER 指标上优于 GPT-4o-mini-tts 及 ElevenLabs 等竞品。
Google 在 Hugging Face 上发布了 PaliGemma 2 Mix 系列模型,这是基于 SigLIP 和 Gemma 2 架构的指令微调版本。该模型针对 OCR、图像描述等视觉语言任务进行了优化,提供 3B、10B 和 28B 三种参数规模及多种分辨率支持,并附带演示应用与微调教程。
Hugging Face 推出 SmolVLM-256M 和 SmolVLM-500M,其中 256M 版本号称是全球最小的视觉语言模型。新模型在保持多模态性能的同时大幅降低资源占用,支持 Transformers、MLX 和 ONNX 直接加载,并提供了基础版与指令微调版共四个检查点。
针对大模型易受提示注入和越狱攻击的安全痛点,研究提出“指令层级”概念。通过训练模型识别并优先执行特权指令(如系统提示),有效抵御恶意覆盖原始指令的攻击,提升模型鲁棒性。
InstructPix2Pix 提出了一种通过指令微调 Stable Diffusion 实现图像编辑的新方法。该技术允许用户仅通过自然语言指令(如“让天空变暗”)即可对图像进行精确修改,无需复杂的提示工程或反向传播优化。其核心在于利用大规模合成数据训练模型理解编辑意图与视觉变化之间的映射关系。
该文章介绍了如何在 Google Colab 免费层级上利用 diffusers 库运行 InstructPix2Pix (IF) 模型。内容侧重于环境配置与基础推理流程,属于入门级操作指南。