《超级智能》第三十五节

目前最可行的合作形式是先确立一条道德规范，即“超级智能的巨大潜能属于全体人类”，在早期将其塑造成深入人心的观念。

目前最可行的合作形式是先确立一条道德规范，即“超级智能的巨大潜能属于全体人类”，在早期将其塑造成深入人心的观念。企业可采用“意外收益条款”自愿践行这一原则，例如规定年利润超过一万亿美元的部分才分给全人类，这几乎不影响正常经营，却能为人类提供一份保障；国家也可以约定，当某国GDP占全球比例超过九成时，超出部分应分给所有人。这些做法起初可由个人和机构自愿采纳，之后再逐步上升为法律与条约，并细化为具体可检验的标准。

进入“关键时刻”一章，作者指出我们身处充满不确定性的战略迷雾中，当务之急是分清哪些问题重要、紧急且具有正面价值。研究发现的价值在于让答案提前出现，因此现在应把精力集中在只有在智能爆发前解决才有意义的问题上，同时避开那些会因加速机器智能研发而带来危害的技术难题。作者认为战略分析和实力建设最符合这些条件：前者指探索可能改变我们判断的决定性论点，需要跨学科的原创思考；后者指构建一个支持系统，重点是招募理性、利他、关注存在性风险的人才，并提升人工智能领域的社会认知——即项目在发现更安全的方案后，能否果断放弃已有的不安全进展，以及对敏感信息的保密能力。