术语slug: responsible-scaling-policy

负责任扩展政策

Responsible Scaling Policy

一种治理框架,规定只有当安全措施与模型能力同步提升时,才允许训练更强大的模型,以控制前沿风险。

收录情报动态

共 4 篇 · 第 1/1 页
Hacker News AIT2·商业与生态
62 分
Anthropic 称 AI 研发加速或逼近 RSP 阈值

Anthropic 在 S1 文件中表示可能“即将”触及负责任扩展政策中“AI 显著加速 AI 研发”的阈值,即整体能力进展达到 AI 参与前最快持续速度的两倍,且可归因于 AI 自动化研发。METR 相关公开报告与外部评论认为这一判断具有实质分量,但具体证据与未删节数据尚未公开。

Hacker News AIT2·商业与生态
85 分
Anthropic IPO 文件警示或临近递归自我改进临界点

Anthropic 在最新提交的 S-1A 注册文件中披露,其内部评估显示未来模型可能“即将”达到递归自我改进(RSI)的定义标准。尽管当前模型尚未跨越该阈值,但公司正考虑更新负责任扩展政策以确保持续的人类控制,这一声明发生在其推进纳斯达克上市的关键节点。

量子位官网T2·商业与生态
85 分
Anthropic 招股书披露 RSI 风险与巨额财务数据

Anthropic 更新招股书,首次正式承认其下一代模型可能突破“AI自进化”(RSI)的安全阈值。同时披露 Q3 营收同比暴增 1127% 至 170 亿美元,但净亏损扩大,且算力采购账单高达 8954 亿美元,引发对 AI 研发加速失控及商业可持续性的双重关注。

Rohan Paul (@rohanpaul_ai)T2·基座大模型
78 分
Anthropic IPO 文件披露逼近递归自我改进阈值

Anthropic 最新 S1/IPO 文件显示其未来模型可能即将达到“递归自我改进”(RSI)阈值。该阈值定义为 AI 能力提升速度达到无 AI 辅助下最快持续进步速度的 2 倍,意味着一年可完成相当于正常两年的研发进度。内部数据显示 Claude 使用量在 8 个月内增长超 250 倍,且已承担部分下一代模型构建工作。