《机器人叛乱：在达尔文时代找到意义》第二十四节

本节讨论信念—欲望模型的深层含义与理性理论的扩展。首先，作者指出模型中欲望可能影响信念形成，但该模型不足以区分信念理性与行为理性。

本节讨论信念—欲望模型的深层含义与理性理论的扩展。

首先，作者指出模型中欲望可能影响信念形成，但该模型不足以区分信念理性与行为理性。行为理性即工具理性，可通过偏好一致性来评估；若信念与欲望一致且据此选择的行为最优，则实现工具理性。但对机器人叛乱而言，这只是必要条件。

其次，作者主张需要一种广义理性理论。一方面要满足认识理性，使信念符合世界真实结构，因为工具计算依赖对世界状态的概率判断；另一方面要评估欲望和目标的内容，避免受基因利益而非自身利益驱动的目标。作者还讨论了派生目标与目标全面性，并认为追求正确信念本身是一种有助于实现其他目标的高阶目标，因此应遵守认知规范。

最后，作者指出人类心智由多个系统构成，各系统目标不同，因此无法保证任何具体反应对有机体整体目标最优。进化上更古老的大脑部分（自发式系统）携带强约束目标，可能妨碍由分析式系统产生的长期目标。若人类理性完美，复制子与载体的冲突早已解决；但事实并非如此，我们可能仍在为基因利益服务。许多被亚个人实体编程的反应会损害自我，下一章将提供心理学证据。