《超级智能》第三十三节

本节探讨是否应提倡全脑仿真途径。首先，即使无法直接影响某因素，确定其利弊方向对战略判断仍有价值。

本节探讨是否应提倡全脑仿真途径。首先，即使无法直接影响某因素，确定其利弊方向对战略判断仍有价值。其次，分析全脑仿真相比人工智能的三个推定优势：性能更易理解、继承人类动机、启动更慢。但需注意技术耦合风险，即研发全脑仿真可能催生不安全的神经形态人工智能。此外，全脑仿真优先会带来“二次过渡”风险：先实现仿真，再发展出更强大的人工智能，两次过渡的风险叠加。虽然仿真系统能以高速和数量优势降低后续人工智能过渡的爆发性，但总体风险是否低于直接发展人工智能仍不确定。只有在对人类解决控制问题能力极度悲观时，全脑仿真优先路径才有吸引力。最后，从人类影响视角看，加速研发能增加当代人受益于超级智能的机会，因而支持加速；同时，研发中的竞赛机制会促使项目重速度轻安全，并阻碍国际合作。