《超级智能》第三十二节

本节讨论技术耦合与硬件进步对智能爆发的影响。技术耦合指发展一项技术会连带产生另一项技术。

本节讨论技术耦合与硬件进步对智能爆发的影响。技术耦合指发展一项技术会连带产生另一项技术。全脑仿真研究可能先产出保真度低、质量较差的神经形态人工智能，追求最优结果反得最差；即便成功实现全脑仿真，还会面临过渡到更强大机器智能的二次过渡风险。类似地，认知提升会连带推动基因工程等发展。

接着讨论“猜疑论点”：公共话语会扭曲信息，迎合他人偏见或许比诚实呈现更易获得回应，但预测信息的传播路径几乎不可能，且互相欺骗会扼杀坦诚交流，代价高昂。

最后分析硬件进步：更快的计算机会提前机器智能到来、减少应对控制问题的时间；硬件可替代软件，降低编写种子人工智能的门槛，使研发更依赖蛮力方法；还会造成启动时硬件超出所需，使爆发更迅速、更难调整，同时缩小大小工程差距。总体看硬件快速发展不利，但很难施加影响，应关注其他因素。