IT之家 · 智能时代T2·68 分
辛顿提议建立 AI 行业 FDA 式审批机制
原文标题:“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核
- 辛顿主张 AI 产品上市前需向监管机构证明安全性,类比制药行业流程。
- 提及 OpenAI 因安全和权限担忧主动搁置了新模型的开发或发布。
- 警告递归式自我改进可能导致局面在一两年内迅速恶化,强调时间紧迫性。
AI 聚簇研判事件 · 2026/10/7
Hinton Proposes FDA-Style Approval for AI Models
“AI 教父”杰弗里·辛顿在播客中呼吁建立类似制药行业的监管框架,要求大模型在发布前必须通过独立的安全审核。他引用 OpenAI 因安全担忧搁置新模型的案例,并警告递归自我改进技术可能在短期内加剧失控风险。
原文标题:“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核