《香农传》第十五章：从情报到信息

本章梳理了香农之前信息概念的演进脉络。信息最初散见于生理学对神经传导速度的测算、物理学对熵的量化尝试，以及电话网络的工程实践中。

本章梳理了香农之前信息概念的演进脉络。信息最初散见于生理学对神经传导速度的测算、物理学对熵的量化尝试，以及电话网络的工程实践中。随着真空管放大器、反馈系统和自动总机的引入，通信网络从被动的电流通路变成复杂机器，科学家在建造它的过程中逐渐认识信息。

贝尔实验室的两位前辈奠定了基础。哈里·奈奎斯特在1924年的短论文中提出电报传递情报的速度公式，指出速度取决于信号速率与可用离散信号（当前值）的数量，可用"字母"越多，单位时间承载的情报越多；他还证明任何通信频道的频宽限定了情报数量的上限，连续信号在频宽约束下可由样本重现，因此与离散信号并无本质区别，通信世界本质是数字的。

拉尔夫·哈特利1927年将研究推向更抽象的层次，提出"信息传递"框架。他主张抛开符号的含义，从物理层面衡量信息：信息量取决于选择时被排除的替代方案数量，词汇库越大，信号承载的信息越多。他给出公式 H=klog s，用对数把指数增长转为线性增长，便于工程计算；并把信息、频宽、时间视为三个可交换的量，说明三者之间的取舍。他还把图像分解为有限亮度的基础区域（像素）来量化信息，解释了为何彩色图像信息量更大，并指出符号重叠造成的码间干扰是可测量的噪声。香农开始研究时，这一领域已停滞近二十年，哈特利也已近乎退休，下一步突破等待香农完成。