据 Cointelegraph 报道,人工智能公司 OpenAI 和 Anthropic 已同意授予美国人工智能安全研究所优先使用权,以使用各自公司开发的任何重要的新人工智能模型。这项协议是出于相互的安全考虑,使得政府在重大技术突破时应发挥的确切作用有些模糊。
OpenAI 首席执行官兼联合创始人 Sam Altman 在 X 社交媒体平台的最新帖子中强调了这项协议的重要性,他表示:“我们很高兴与美国人工智能安全研究所达成协议,对我们未来的模型进行预发布测试。出于多种原因,我们认为在国家层面进行这项工作非常重要。美国需要继续发挥领导作用!”
OpenAI 和 Anthropic 都专注于开发通用人工智能 (AGI),即在获得必要资源的情况下能够执行人类可以完成的任何任务的人工智能。每家公司都有自己的章程和使命,旨在以人类利益为核心,安全地创建通用人工智能。如果任何一家公司取得成功,它们都将成为这项先进技术的关键守门人。通过同意在任何产品发布之前与美国政府分享他们的模型,两家公司实际上已经将部分责任转移给了联邦当局。
Cointelegraph 最近报道称,OpenAI 的“Strawberry”和“Orion”项目可能即将取得突破,据称这两个项目拥有先进的推理能力和解决 AI 幻觉问题的新方法。据报道,美国政府已经审查了这些工具以及纳入这些工具的 ChatGPT 的早期版本。
美国国家标准与技术研究所的一篇博客文章指出,该协议相关的安全准则对于参与公司而言是自愿的。这种宽松监管方式的支持者认为,它鼓励增长,并允许该行业自我监管。包括 Altman 在内的支持者认为,该协议是政府与企业部门如何互利合作的典范。
然而,有人担心宽松监管可能会缺乏透明度。如果 OpenAI 或 Anthropic 实现了他们的 AGI 目标,而政府决定不需要告知公众,那么似乎没有法律要求披露。
undefined