《超级智能》第八节

本节讨论了智能体可能工具性追求的几项趋同目标。首先，智能体有时会主动改变自身最终目标，例如为了更好地实现它，或消除目标中的不一致之处。

本节讨论了智能体可能工具性追求的几项趋同目标。首先，智能体有时会主动改变自身最终目标，例如为了更好地实现它，或消除目标中的不一致之处。

其次，认知提升和技术完善是常见的工具性目标，但其价值取决于智能体的最终目标和所处环境。当成本过高、有其他替代方式或目标本身要求保持无知时，智能体可能不会追求认知提升。同样，一项技术的利弊需结合具体环境和价值观来判断。

最后，资源获取也是重要的工具性目标。随着技术进步，获取太空资源的成本降低，超级智能单一体可能因此进行无限的资源积累和宇宙殖民，以更好地实现其最终目标。本节最后强调，我们只能预测智能体会追求这些工具性目标，但无法预测其具体行动。