近日,据路透社报道,根据一项新协议,微软、Alphabet旗下的谷歌以及埃隆・马斯克创办的xAI,将在新一代人工智能模型正式公开发布前,提前向美国政府开放模型权限,以便美方开展国家安全风险审查。
根据美国商务部下属人工智能标准和创新中心(Center for AI Standards and Innovation)周二发布的声明,上述协议意味着这些AI开发商加入了OpenAI和Anthropic PBC的行列,允许该中心在模型发布前进行审查。声明称,OpenAI和Anthropic已重新商谈了与该中心的现有合作安排,以更好配合人工智能行动计划的优先事项。
自2024年以来,该机构一直在OpenAI和Anthropic的模型公开发布前获取并评估这些模型。声明称,迄今该机构已完成40多次AI模型评估,其中包括一些仍未发布的最先进模型。
该机构透露,人工智能企业开发者常会提交移除安全防护机制的模型版本,供该中心深入排查国家安全层面的潜在风险。