原则 · 第三十五节
《原则》第三十五节
作者主张人类应与计算机结成伙伴关系,共同决策:把人的原则写成算法,让计算机处理数据、权衡标准并给出建议,再由人做最终判断。
作者主张人类应与计算机结成伙伴关系,共同决策:把人的原则写成算法,让计算机处理数据、权衡标准并给出建议,再由人做最终判断。这种结合能做出更快、更周全、更少情绪的决策,桥水长期实践极度透明与算法决策,成效显著;未来人们还能通过计算机接入全球顶尖思考者的智慧,形成强大的集体思维。相比之下,人脑在想象力、创造力和价值判断上占优,计算机则在持续工作、处理海量信息、客观冷静、不受从众心理影响等方面更强,二者合作远胜竞争。
随后作者区分了三类计算机决策技术:专家系统由设计者依据对因果关系的理性理解编写决策标准;模仿系统靠重复出现的规律运行,遇到现实变化易失灵;数据开采即机器学习,从大量数据中寻找规律。作者担忧人们在不理解因果的情况下盲目依赖机器学习:规则一旦广为人知就会影响价格,使洞察贬值甚至失效,且计算机没有常识,容易把相关当因果。他承认在事物发展与过去相同的情形下,模仿和数据开采很有用,如国际象棋程序击败卡斯帕罗夫,但未来不同于过去时风险很大,2008年金融危机即为例证。
最后作者以物种进化为例,说明可由计算机归纳规律、再由人简化验证,但他仍倾向于追求对因果的深刻理解,尽管不确定这是否出于理性还是个人偏好。他预计人类的竞争天性会让我们越来越信任超出理解的算法,这既可能带来成效,也可能适得其反;人工智能将带来极快的进步,也存在导致人类毁灭的风险,关键在于提前准备应对之道。