《超级智能》第五节

1946年美国提出巴鲁克计划，要求核技术交由国际组织管控、安理会常任理事国在核武器问题上放弃否决权，斯大林因担心苏联沦为少数而拒绝，美苏互不信任，核军备竞赛开始。

1946年美国提出巴鲁克计划，要求核技术交由国际组织管控、安理会常任理事国在核武器问题上放弃否决权，斯大林因担心苏联沦为少数而拒绝，美苏互不信任，核军备竞赛开始。

作者分析了妨碍人类组织建立单一体的几种因素，并指出这些因素大多不适用于超级智能：人工智能的效用函数无收益递减，更愿冒险；其决策规则不受风险规避、道义规则等约束；它对形势的判断更清晰，能减少战略混乱；它只有一个决策者，不存在内部协调问题；当技术优势足够大时，解除他国武装或说服民众的成本极低。因此，拥有超级智能的大国利用战略优势建立单一体的可能性较大。

第六章讨论超级智能的能力。作者认为不应拟人化地想象超级智能，成熟的人工智能能通过自我改进获得移情、政治等各类能力，其与人类的差距远大于人类内部的差距。智商等通用量表无法衡量超人类系统的实际能力，因此改用一组具有战略重要性任务来定义“超级能力”；成熟的超级智能具备全套六种超级能力，但也不排除长期只具备其中某几种的情形。