RAND 建议美国在超智能时代采取一种“保留所有选项”的策略
刚才翻完 RAND 发布的那篇关于美国如何在通往超智能(Superintelligence)的不确定路径上获取地缘政治优势的长篇报告,感觉这不再是单纯的技术讨论,而是上升到了国家生存层面的博弈。
RAND 的核心观点非常明确:因为下一阶段 AI 爆发的具体路径完全是未知的,所以美国现在最该做的不是押注某一个具体的路径,而是通过投入资金来维持一种“行动自由”(Freedom of Action)的策略。说白了,就是别把鸡蛋放在一个篮子里,要确保无论技术最后怎么演变,美国都有能力通过主动权来确保人类的生存和地缘优势。
根据报告,这种“行动自由”策略主要由四个关键维度组成:
- 构建人机共生生态系统: 这不仅仅是搞研发,还要投资 AI 安全、开发能保护人类自主权的工具、确保技术红利分配,以及应对 AI 带来的社会动荡,甚至要从底层设计上塑造 AI 生态的激励机制。
- 打造 AI 安全架构: 这点很有意思,它强调要具备对国内外前沿 AI 系统进行“可见性”监测的能力,包括对底层算力(Compute)的监控,还要开发能验证国际协议的技术,并培养专门的监管专家。
- 改造传统国家安全体系: 报告认为现有的安全机构必须进行彻底的“大修”,以适应 AI 时代带来的变革,并能够迅速利用 AI 的能力。
- 提升各界的应对能力: 给决策者提供足够的信息支持,推广 AI 的正面用途,建立应对危机的“紧急破窗计划”(break-glass plans),以及提高全民的 AI 素养。
1. 共存模式 (Coexistence)
- 主导模式 (Dominance): 美国领跑 AI 发展并压制其他竞争者。
- 共同开发 (Co-Development): 建立一个包括中国在内的财团,共同开发安全的超智能,实现治理共享、算力池化以及监控验证。
- 准备模式 (Preparedness): 通过非正式协调(比如自愿承诺、分阶段部署、独立评估、事故报告等)来推动共存。
2. 封锁模式 (Denial)
- 暂停模式 (Moratorium): 追求在全球范围内对超过特定阈值的 AI 开发实施可验证的停滞。
- 威慑模式 (Deterrence): 美国自己停止超过阈值的前沿开发,并动用国家机器力量去阻止、甚至在必要时摧毁外国的 AI 项目。
- 社会延续 (Continuity of Society): 这是最极端的一种,如果预防策略都失效了,共存也做不到,目标就变成了“带着自主权的生存”。美国可能会建立地理分布式的、生物自给自足的定居点,以抵御 AI 带来的威胁。
3. 加速模式 (Acceleration)
这种策略的核心逻辑是:限制 AI 的风险反而比 AI 本身的风险更大。因此,应该依靠市场、竞争和快速迭代,让“安全”成为 AI 在产生实用价值过程中的副产品。
报告最后也抛出了五个核心的不确定性,其中最关键的两个维度我觉得对技术路径的选择至关重要:
- 危险临近度 (Danger Proximity): AI 到底在什么时候会变得危险到收益无法覆盖风险?如果危险近在咫尺,就该买时间、建防御;如果危险尚远,或者不搞 AI 人类反而更危险,那就该加速。
- 共存可行性 (Coexistence Feasibility): 人类和 AI 系统能不能找到一个稳定的平衡点?如果能,那就应该大规模部署。
全部回复 (3)
想当场把话说完?进全球 AI 聊天室,登录就能开口。
这报告里没提算力监控的代价,光盯着底层 Compute 恐怕得把监控成本烧掉一半的研发预算。