Anthropic 执行长:AI 模型应强制审计,政府可封锁高风险部署

AI模型強制審計

Anthropic 执行长 Dario Amodei 于 6 月 11 日发布政策长文《Policy on the AI Exponential》,首次以公司最高领导人身份公开呼吁政府介入,对前沿 AI 模型制定规范。Amodei 称 Claude Mythos Preview 已能找出高严重度漏洞,作为立法依据。

三大政策主张:确认的量化标准与法律框架

主张一:强制第三方测试

量化门槛(三项任一触发):训练算力超过 10^25 FLOPs,或年 AI 营收超过 5 亿美元,或 AI 研发支出超过 10 亿美元。符合门槛的公司旗下模型在上市前须通过独立审计,测试聚焦四个风险领域:网络安全、生物武器、AI 系统失控、可加速前述风险的自动化研发。Amodei 原文确认,政府在此框架下获得法律授权,可封锁、延迟或劝阻模型部署。

主张二:AI 定位为网络安全关键基础设施

要求前沿开发商保护「模型权重」不被外部攻击者或内部人员窃取,并建立通报「模型蒸馏攻击」的法定管道。Amodei 引用 Claude Mythos Preview 能主动发现主要作业系统高严重度漏洞,作为此主张的技术依据。

主张三:正面承认结构性劳动替代

框架明文指出,若 AI 达到预测中的能力水准,将是「劳动力的全面替代品」而非生产力辅助工具。框架推演了失业率 5%、10% 及更极端情境,并倡议工资保险、全民基本收入(UBI)、主权财富模式等对应机制。

Anthropic 确认的 3.5 亿美元政策投入

Anthropic 于同日宣布的财务承诺

2 亿美元:成立「经济未来研究基金(Economic Future Research Fund)」,用于试点公共政策

1.5 亿美元:办理全国奖助计划

Amodei 在长文结尾表示:「关键挑战不是激励成长,而是找到让每个人都能分享利益的方法。」他在文中确认,此框架「是起点,而非终点」。

与川普政府的已确认立场对比

川普政府确认立场:让 AI 产业「野蛮生长」,以正面竞争击败中国,并主动推平各州的地方性监管壁垒。

Amodei 确认立场:在长文结尾寻找跨党派语言表述:「这些政策构想在政治光谱上都有跨党派的常识性吸引力,我们愈早行动,每个人就能愈早分享 AI 的好处。」Amodei 在长文中确认,过去 Anthropic 曾主张「透明度要求就够了」,此份政策倡议代表立场的正式更新。

常见问题

Anthropic 提出的强制测试量化门槛具体是什么?

《Policy on the AI Exponential》长文确认三个触发门槛,任一符合即须在上市前完成强制独立审计:训练算力超过 10^25 FLOPs、年 AI 营收超过 5 亿美元,或 AI 研发支出超过 10 亿美元。测试聚焦网络安全、生物武器、AI 系统失控及自动化研发四个风险领域。

为何 Anthropic 选择在发布最强模型当天同步呼吁立法管制?

Amodei 的确认逻辑是:Claude Mythos Preview 已能在主要作业系统中找出高严重度漏洞,证明 AI 的风险轮廓已「足够清晰到能精精准监管」,此前「不够清晰」的立法推迟理由不再成立。

此政策倡议目前是否已进入美国立法程序?

截至 2026 年 6 月 11 日,《Policy on the AI Exponential》属政策倡议文件,尚未进入任何美国国会的正式立法程序。Amodei 在文中确认,框架「是起点,而非终点」,未公布任何立法提案或具体推进时间表。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论