术语slug: frontier-ai

前沿 AI

Frontier AI

能力处于当前最先进水平、潜在失控与滥用风险较高的大规模 AI 系统

收录情报动态

共 5 篇 · 第 1/1 页
IT之家 · 智能时代T2·商业与生态
58 分
日本拟立法处罚前沿 AI 失控企业

日本政府正推进 AI 安全监管制度改革,计划要求 AI 企业承担安全保障义务,并对发生前沿 AI 失控或网络攻击事件后拒不配合的企业发布强制执行命令乃至施加处罚。整体方案拟于今年年底前公布,监管对象范围(是否涵盖美国大模型公司)仍待讨论。

Google DeepMindT1·商业与生态
42 分
谷歌 DeepMind 投入 4000 万美元支持科学发现任务

谷歌 DeepMind 宣布向“Genesis Mission”投入 4000 万美元,旨在利用前沿 AI 加速核聚变、新材料等科学领域的发现。该计划聚焦于解决现代科研中数据规模庞大与模拟复杂度高的挑战,通过 AI 能力赋能公共部门及科研机构。目前主要处于资金承诺与战略发布阶段,具体技术落地细节尚待后续披露。

OpenAI 官方博客T1·商业与生态
35 分
Anthropic 更新前沿 AI 安全准备框架

Anthropic 宣布更新其用于衡量和防范前沿 AI 严重危害的安全准备框架。该框架旨在通过标准化评估机制,确保模型在部署前符合安全阈值。目前公开信息仅包含标题与简短声明,缺乏具体技术细节或变更内容。

OpenAI 官方博客T1·商业与生态
68 分
OpenAI 与布鲁金斯学会提出前沿 AI 监管框架

OpenAI 研究员与布鲁金斯学会联合发布论文,针对具备潜在公共安全风险的前沿大模型提出监管建议。核心主张包括建立安全标准、实施开发者注册报告制度以及确保合规的机制,强调行业自律需配合政府干预以应对能力不可预测性与扩散风险。