求剧情
机器人叛乱:在达尔文时代找到意义 · 第六十一节

《机器人叛乱:在达尔文时代找到意义》第六十一节

本节指出,某些分析式系统学到的规则会被固化为自发式系统的默认设置,在不合适的场合被刻板套用,例如人们过度泛化“不要浪费”而犯下沉淀成本错误。

本节指出,某些分析式系统学到的规则会被固化为自发式系统的默认设置,在不合适的场合被刻板套用,例如人们过度泛化“不要浪费”而犯下沉淀成本错误。作者强调,双重理性评估不能为盲目乐观的理论家开脱,因为框架效应等违反描述不变性的表现,是参与者自己也不想要的语境化,属于工具理性的真正失败,仍可依狭义理论确认。

随后,本节引述汉密尔顿的话并提出三个“可怕事实”:其一,大脑中不存在一个统揽一切、有意识的“我”,所体验到的“我”只是分布式的监控式注意系统;其二,构建大脑的复制子(基因)并不为载体利益服务,自发式系统盲目地执行复制子的远古目标,而现存的复制子本就是冲突时牺牲载体利益的胜出者;其三,用于监控自发式系统的分析式系统,其软件由模因这类亚个人复制子构成,它们也可能与载体福祉相冲突。这些事实共同挑战了“人类优先”的宇宙观,而应对之法在于分析式系统增强能力、覆盖自发式输出,并推进纽拉特式的认知评估项目。现代文化中的基因工程、取缔传销等制度,正是载体为自身目的利用复制子、防范有害模因的尝试。最后作者提醒,我们正接近需要一种“元理性”的阶段,并以囚徒困境为例:个体依主导原则采取的理性反应会使所有人收益更低,而合作虽对个人具劣势,人人合作时收益更高。

‹ 上一章目录下一章 ›

全部 66 章