美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一揽子具有里程碑意义的人工智能监管法案。值得关注的是，这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案，在此前的立法博弈中获得了包括 OpenAI 与 Anthropic 在内的多家硅谷 AI 头部企业的罕见背书与公开支持。

万亿参数级模型上线前须过“红队演练 + 第三方审计”

近年来，随着生成式 AI 算力规模的指数级扩张以及前沿基础模型自主能力的跃升，针对 AI 可能被滥用于关键基础设施破坏、自动化生化武器研发、大规模深度伪造操纵以及严重网络安全漏洞利用的担忧日益加剧。由于美国国会层面在联邦级 AI 立法上持续停滞，加州州议会近年来承担起全美 AI 立法急先锋的角色。

本次签署的多项法案重点聚焦对超大规模基础模型的安全测试标准进行法定化规制，要求模型开发者在训练与部署万亿参数级前沿系统前，必须执行标准化的红队对抗演练、建立严格的灾难性风险缓解协议，并向州政府监管机构提交经第三方独立审计的合规性安全报告。

与此前在硅谷引发激烈震荡、招致科技巨头与风投机构强烈反对的激进监管提案不同，这一揽子法案在起草与修订过程中深度吸纳了前沿 AI 实验室的技术建议。Anthropic 和 OpenAI 此前曾对过于僵化、可能扼杀开源社区发展或将民事连带责任无限扩大的条款表达过深度担忧；经过密集游说与条款微调，最终落地的法案更侧重于建立透明的“前置风险评估框架”与“行业最佳安全实践基准”，而非直接设定硬性技术封顶指标或推行缺乏可行性的惩罚性举措，从而在法律框架内赢得了主要 AI 研发机构的协作支持。

深度伪造须加水印，吹哨人受法律保护

除底层安全审查外，法案还涵盖 AI 生成内容的溯源标识与水印规范，要求平台和主要内容分发渠道对深度伪造的音视频内容加注系统级数字指纹，以防范选举虚假信息泛滥与恶意人身欺诈。同时，法案为发现并揭发模型潜在重大安全漏洞的内部员工与研究人员提供了更明确的“吹哨人”法律保护，严禁企业通过苛刻的保密协议剥夺技术人员向监管部门报告灾难性安全隐患的权利。

这一举措标志着作为全球 AI 研发核心阵地的加州，在平衡严厉安全红线与维系产业创新活力之间，探索出了一条受到业界相对认可的监管路径。

相关文章

相关标签： 加州签署多项 AI 安全法案，罕见获得 OpenAI 与 Anthropic 同时背书