官网讯——

【OpenAI与Anthropic探讨AI模型安全性互测】

⑴ 据The Information报道,知情人士透露,OpenAI在其技术引发网络安全问题以及业内警示之前,已与Anthropic就互测AI模型的法律协议进行了谈判。

⑵ 目前尚不清楚双方是否已达成最终协议。

⑶ 这种相互测试的理念与SpaceX首席执行官马斯克上周在All-In峰会上提出的观点相似,马斯克建议竞争性AI实验室在商业化发布模型前,进行同行评审以测试模型安全性。

⑷ 总体而言,主要AI公司的互测探索反映了行业对模型安全风险的日益关注,后续需密切关注相关协议的实施及同行评审是否成为AI安全治理的常态。