术语slug: ai-safety-guardrails

AI 安全护栏

AI Safety Guardrails

防止模型生成有害或违规内容的技术限制机制

收录情报动态

共 2 篇 · 第 1/1 页
IT之家 · IT业界T2·商业与生态
78 分
Anthropic 申请联邦法院全体法官复核,挑战政府将其列为 AI 供应链风险认定的合法性

Anthropic 正式请求华盛顿联邦上诉法院全体法官复核此前维持其“国家安全供应链风险”认定的裁决,主张该认定系对其公开倡导 AI 安全言论的报复。案件核心在于界定联邦政府与私营 AI 企业在模型安全防护机制控制权上的法律边界,若败诉将确立国防部可基于潜在技术限制担忧而切断企业联邦业务的先例。

OpenAI 官方博客T1·商业与生态
68 分
OpenAI 披露拦截五起 AI 隐蔽影响行动

OpenAI 发布报告称,过去三个月内成功识别并阻断了五起试图利用其模型进行欺骗性舆论操纵的隐蔽影响行动(IO)。数据显示,这些被中断的行动在受众参与度和传播范围上均未产生实质性增长,且多数案例的影响等级低于 2 级。该事件凸显了 AI 安全护栏在防御恶意滥用方面的有效性,以及 AI 工具在威胁情报调查中的辅助作用。