法加等6国签巴黎AI安全宣言,建共享评测库
导语:11月9日,法国总统马克龙以视频连线召集约50名与会者,会后由法国、加拿大、芬兰、挪威、荷兰、巴林6国政府与OpenAI、Anthropic、Mistral AI、微软、Hugging Face等10家AI公司共同签署《人工智能安全与保障巴黎呼吁》。这是首个把"前沿模型共同评测框架、严重事件预警共享、开发者关停责任"同时写成政府与开发者双向承诺的多边文件,签署方另含4家公民社会组织。
会议于2026年11月9日以视频方式举行,马克龙召集了约50名参与者,涵盖多国领导人、研究人员与AI实验室负责人;法国总统府(爱丽舍宫)确认最终形成上述联合宣言,加拿大总理府同日发布声明全文。除6国政府与10家AI公司外,公民社会签署方包括Yoshua Bengio创办的LawZero、SaferAI、AI Safety Connect以及法国国际关系研究所(Ifri)。声明明确"仍开放新增签署方并持续更新"。美国方面由财政部长贝森特参会但未签署;欧盟机构未出现在签署名单中。
宣言落为三项战略承诺。其一,共同评估与风险管理框架:以共同技术标准、评测工具与方法覆盖危险滥用(网络与CBRN领域)以及自主性上升、模型失准(含失控)风险,并明确依托NAAIMES(国际先进AI测量、评估与科学网络)提升评测方法与结果的可比性;签署方承诺以标准化格式公开非敏感评测结论,并建立可公开访问的共享库,范围包括红队协议、基准工具、风险评估与压力测试结果。其二,责任与问责:前沿模型开发者须披露模型能力、局限与已知风险,并按风险比例接受合格独立第三方评估;须实现"失效安全"机制,可在自身控制范围内关停模型运行,覆盖训练期与内部使用期;文本首次在国际文件中点名"abliteration(去除或规避对齐防护)"风险,同时声明保留开放权重对研究、创新与安全的价值;内部治理须包含实时能力监控、严格内部红队与保护内部研究者的举报通道。其三,信息共享与预警:在既有网络安全事件响应机制上部署快速警报系统,统一事件分级,共享严重网络事件、AI失控事件与其他重大前置信号,并探讨建立合作机制的范围;政策制定方须为举报人提供安全保密渠道,避免其因合理举报遭法律或职业报复。
这份文件没有法律约束力,但它把"评测结果互认+事故互通"做成了美欧之外中等强国的联合基础设施:签署名单里美国缺席、欧盟机构缺席,主体是法、加、挪、荷、芬、巴林六国加硅谷与欧洲头部实验室。对中国从业者,三点值得盯:一是独立第三方评估与"关停开关"正从企业自律条款转为政府间承诺,模型出海在欧洲市场面对的合规门槛会前移;二是共享评测库若真落地,等于给前沿模型建立类似"碰撞测试"的公共成绩单,闭源厂商"厂商自述口径"的空间会被压缩;三是宣言保护开放权重但把"移除防护"列为风险项,开源许可与合规边界将更精细。
标签:人工智能,欧洲,政策与治理,法国,全球AI动态