术语slug: guardrail-model

护栏模型

Guardrail Model

用于检测输入或输出中潜在风险与安全违规的辅助模型

收录情报动态

共 1 篇 · 第 1/1 页
Hugging Face BlogT1·基座大模型
68 分
ServiceNow 开源 AprielGuard:8B 参数 LLM 安全护栏模型

ServiceNow AI 团队发布并开源了 AprielGuard,这是一个专为现代大语言模型系统设计的 8B 参数安全与对抗鲁棒性护栏模型。该模型旨在检测涵盖毒性、仇恨言论等 16 类安全风险,以及提示注入、越狱攻击等多种对抗性威胁,为智能体系统提供统一的风险评估框架。