AWS Machine Learning BlogT1·智能体与协同
58 分
AWS 提出面向智能体 AI 的负责任 AI 分阶段路线图,主张将治理范围从模型训练与推理扩展到智能体动态调用工具、多步推理与自主行动的全链路。配套发布可在 GitHub 获取的 RAI 评估技能,供平台与应用团队用自有智能体自查治理成熟度。
Responsible AI
确保 AI 系统安全、公平、透明且符合伦理的开发与实践原则
AWS 提出面向智能体 AI 的负责任 AI 分阶段路线图,主张将治理范围从模型训练与推理扩展到智能体动态调用工具、多步推理与自主行动的全链路。配套发布可在 GitHub 获取的 RAI 评估技能,供平台与应用团队用自有智能体自查治理成熟度。
Anthropic 在新加坡设立本地办事处,并与政府科技局、Grab 及星展银行达成合作。双方将重点评估 AI 安全与大模型风险,推动公共与私营部门的负责任 AI 使用。数据显示新加坡人均 Claude 使用率全球第二,实际活跃度远超人口预测基准。
OpenAI 正式加入欧盟《人工智能行为准则》,承诺推动负责任的 AI 发展。此举旨在通过与欧洲政府合作,促进当地创新、基础设施建设及经济增长。
Hugging Face 发布新版社区内容指南,旨在应对机器学习模型特有的滥用风险。该政策细化了平台对生成式 AI 内容的审核标准,强调在开放协作与负责任开发之间取得平衡。
OpenRAIL 旨在建立一套开放且负责任的 AI 模型许可标准,以平衡开源生态与安全风险。该框架试图通过法律条款规范模型的使用边界,防止滥用并促进合规开发。目前主要处于概念提出与初步探索阶段,具体实施细节尚待完善。
OpenAI 发布政策研究论文,提出四项促进 AI 行业安全合作的策略:风险沟通、技术协作、透明度提升及标准激励。该报告旨在解决因竞争压力导致的集体行动困境,防止企业在安全投入上不足,从而确保 AI 系统的安全性与有益性。