《赤裸裸的统计学》第十九节

本节讨论回归分析中常见的几类陷阱。首先是遗漏变量问题：若评估学校质量时只考察开销与考试分数的关系，会得出花钱能提高分数的结论，实则家长的教育水平和家庭社会经济地位才是关键……

本节讨论回归分析中常见的几类陷阱。首先是遗漏变量问题：若评估学校质量时只考察开销与考试分数的关系，会得出花钱能提高分数的结论，实则家长的教育水平和家庭社会经济地位才是关键，富裕家庭的孩子本身成绩就更好。同理，SAT分数与家庭汽车数量的相关，反映的也是家庭收入与教育背景，而非汽车本身。

其次是解释变量之间的高度相关（多元共线性）。由于吸食可卡因的人往往也吸食海洛因，仅吸食单一毒品的数据极少，回归分析无法分离两者各自对SAT分数的独立影响；父母受教育程度高度相关，也难以单独得出某一方的系数。研究者通常只取其一，或合并为综合变量。

第三是脱离数据推断。结论只对与样本相似的人群有效，例如用成年人体重回归方程预测新生儿，会算出负数体重。研究结论应明确适用范围。

第四是变量过多（数据挖掘）。加入大量无关变量会稀释结果，且总会有变量偶然达到显著性水平。如同抛硬币，连续5次正面的概率为1/32，低于0.05的门槛，看似特殊能力实为运气。这解释了为何许多研究结论无法复制：发表性偏见、小样本、研究者偏见等导致大量已发表成果被后续研究否定，约翰·艾奥尼蒂斯估计已出版科学论文约一半最终是错的。