《超级智能》第一节

本章将智能向超级智能的过渡视为最优化力与系统反抗度的函数来分析其动力学。

本章将智能向超级智能的过渡视为最优化力与系统反抗度的函数来分析其动力学。首先区分了两个问题：机器何时达到人类同等智能，以及达到后距彻底的超级智能还有多远。通过智能水平随时间变化的函数图，可辨识出缓慢、迅速、温和三种爆发情形。信息扩散程度、外部干预时机以及政治经济动荡在三种情形中表现各异。尽管人们通常认为缓慢爆发最可能，本章将论证一旦过渡启动，爆发性发展更有可能。

接着引入最优化力与反抗度两个变量：智能增长率为二者单调递增函数，反抗度是反应度的倒数。最优化力水平影响反抗度，改进的边际效益通常递减，但有些改进会促成后续改进，形成联动。随后分析不同途径的反抗度：非机器智能途径（公共卫生、饮食、教育、药物、遗传增强、人脑—计算机、系统效率、互联网等）反抗度相当高；而包含机器智能的途径（全脑仿真、人工智能）在紧要关头反抗度很低。