《超级智能》第四节

本节讨论超级智能项目的规模、监控、国际合作及战略优势问题。

本节讨论超级智能项目的规模、监控、国际合作及战略优势问题。

成功项目的规模因途径而异。全脑仿真、生物智能提高等需要大量资源，多为大型项目或国家项目专属；人工智能途径则难评估，可能需要庞大研究团队，也可能由少数人甚至黑客完成，若前期进展多为公开成果，小团队突破的可能性更大。需区分直接建造系统的项目规模与控制该项目的组织规模，前者可能很小，后者可能很大。

各国政府可能为安全利益将临近突破的项目国有化，或通过间谍、威胁等手段获取甚至摧毁他国项目。监控面临困难：情报机构目前关注度低，且人工智能研究只需电脑甚至纸笔，易于隐藏；突破类型难以预测，加之宗教、政治争议或行业游说等因素，监控可能彻底失败。若大玩家不积极参与，民众降低存在性风险的机会最大。

国际合作在治理成熟、监控有效时更易实现，即使监控不可行，多国也可能联合支持合作项目。但安全利益和互不信任是主要障碍，历史上盟友间也常隐瞒关键军事技术。若某项目获得决定性战略优势，理论上可利用核垄断等手段建立单一体，历史上美国核垄断时期曾有人提出先发制人打击或建立强权国际政府等方案。