OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头为人工智能制定全球标准

  OpenAI敦促美国牵头与其他国家共同为前沿人工智能(AI)制定标准,以回应对AI潜在危害日益加剧的担忧。

  OpenAI周一在博客文章中表示 ,为了安全地发展人工智能,有必要制定世界 技术标准,特别是帮助界定涉及AI模型的哪些类事件应当通报 ,明确各国如何开展AI发展合作 ,以及改善开发此类技术所需算力的获取 。

  “要让AI的持续进步安全有益,既需要推进对齐研究,也需要制定共同标准 ,为各实验室和各国的AI开发提供指引,”OpenAI表示。

  OpenAI称,其首席执行官Sam Altman计划周三在联合国安理会就AI和世界 安全问题发表讲话。

  美国财政部长贝森特上周末表示 ,美国提出建立一套通报机制,涵盖具有国家安全影响的AI事件 。

  OpenAI在博客文章中强调,各国应共同制定相互补充的国家和世界 标准 ,用于开发能力最强的AI模型 。OpenAI建议,可以通过多个国家现有的AI安全机构推进这项工作,包括美国商务部下属的AI标准与创新中心(CAISI) ,该机构协助测试AI模型并制定相关指引。

  OpenAI还呼吁制定标准,以应对AI日益增强的自主工作能力,并指出不应追求“完全自主 ”的递归自我改进 —— 即AI 最终能够在无需任何人为干预的情况下修改自身代码或提升其能力 —— “除非且直到能够确保安全”。

©版权声明
THE END