[海伦]报告称人工智能与核武器相比可能导致人类灭绝

根据政府委托的一份报告，美国政府“明确而迫切地需要”采取行动，因为快速发展的人工智能可能会因武器化和失控而导致人类灭绝。

《时代》杂志获得的这份题为《提高先进人工智能安全性的行动计划》的报告指出，“先进人工智能和通用人工智能的兴起有可能破坏全球安全的稳定，就像核技术的引入一样。”武器。”

“鉴于武器化和失控导致人工智能能力迅速扩张，给国家安全带来了越来越大的风险，特别是这些能力的不断扩散加剧了这两种风险，美国政府显然迫切需要Gladstone AI Inc. 发布的报告中写道。

该报告提出了一项干预蓝图计划，该计划经过 13 个月的时间制定，期间研究人员与 200 多人进行了交谈，其中包括来自美国和加拿大政府、主要云提供商、人工智能安全组织以及安全和计算专家的人士。

该报告题为《提高先进人工智能安全和保障的行动计划》，指出“先进人工智能和通用人工智能的崛起有可能破坏全球安全的稳定，就像核武器的引入一样。”

该计划首先建立临时的先进人工智能保障措施，然后将其正式纳入法律。

然后保障措施将国际化。

一些措施可能包括成立一个新的人工智能机构，对人工智能的计算能力水平进行限制，要求人工智能公司获得政府许可才能部署超过一定阈值的新模型，并考虑禁止发布强大的人工智能模型的工作原理，据《时代》杂志报道，例如在开源许可方面。

一些措施可能包括成立一个新的人工智能机构，对人工智能的计算能力水平进行限制，要求人工智能公司获得政府许可才能部署超过一定阈值的新模型。

报告还建议政府加强对人工智能芯片制造和出口的控制。