《最后一个人类》第十四节

本节首先回顾了人工智能研究领域长期存在的过度乐观倾向：从早期学者提议用一个夏天解决智能问题，到此后反复出现的“人工智能寒冬”，这种模式使研究者不敢展望未来……

本节首先回顾了人工智能研究领域长期存在的过度乐观倾向：从早期学者提议用一个夏天解决智能问题，到此后反复出现的“人工智能寒冬”，这种模式使研究者不敢展望未来，也难以认真对待该领域的风险。

随后，作者记述了与机器智能研究所执行负责人纳特·索尔斯的交谈。索尔斯认为超级智能能带来巨大好处，包括将创新与科研交给机器完成，以及实现意识上传，因为在他看来大脑不过是“肉做的机器”，碳元素并无特殊之处。作者对这种将人类简化为刺激反应机制的功能主义观点表示反感，并指出这种技术达尔文主义思潮隐含着人类终将被更高效的机器取代的逻辑，而这种逻辑本身也令人生畏。

最后，索尔斯谈到一旦人工智能研究实现自动化，系统就能自我提升，引发指数级的“智能爆炸”。作者补充了该概念的起源，指出它最早由英国统计学家欧文·古德在1965年的一篇论文中提出。