《算法霸权》第九章:“一般人”公式 沉溺与歧视
19世纪末,普天寿保险公司的统计学家弗雷德里克·霍夫曼发表长篇报告,用统计数据显示美国黑人整体无法投保,但其分析混淆了因果与相关,且未对黑人群体按地区、阶层细分,忽视了贫困……
19世纪末,普天寿保险公司的统计学家弗雷德里克·霍夫曼发表长篇报告,用统计数据显示美国黑人整体无法投保,但其分析混淆了因果与相关,且未对黑人群体按地区、阶层细分,忽视了贫困、缺乏教育医疗等真正致死因素。这一结论被保险业沿用数十年,成为"地域经济歧视"的依据,虽被1968年《公平住房法》禁止,却以更隐蔽的形式进入新一代算法模型。
保险业源于17世纪精算学对群体风险的预测,如今借助个人数据转向个体化定价。但模型仍不透明,且更倚重替代变量而非直接证据。《消费者报告》2015年调查发现,车险报价主要依据信用评分而非行车记录:纽约司机信用评级从"优秀"降到"好",保费即涨255美元;佛州低信用但记录清白者,比高信用的酒驾者年均多付1552美元。好事达公司更建立10万个定价微区段,有人获九成折扣,有人被加价八倍。这些不透明模型把穷人和少数族裔锁定为高利润群体,其信用评分因付不起保费而进一步下降,陷入恶性循环。
卡车运输业的车载摄像头和遥测装置显示了按实际驾驶行为定价的可能,部分车险公司也推出基于驾驶数据的折扣。但地理追踪会把穷司机排除在优惠之外——一位在富人区咖啡馆做夜班的纽沃克女工,因抄近路经过酒吧街,系统便推断她本人也是醉酒者。纽约数据公司"感应网络"用机器学习对手机数据自行聚类,产生的群体连设计者都说不清含义,这些分类正被用于广告投放。作者指出,机器按行为模式不断重新分组,个体无法知晓自己属于哪类、为何被如此对待。
雇主对员工身体数据的监控同样在扩张。二战期间美国税法为提供医保的雇主免税,使六成美国人被纳入公司医保。如今《平价医疗法案》鼓励企业推行"健康计划",用可穿戴设备收集员工身体数据,不达标者须多缴保费:米其林要求血压、血糖等三项超标者年缴1000美元,CVS不报体脂血压者年缴600美元。衡量标准是身体质量指数(BMI),该公式源于19世纪比利时数学家凯特莱为统计人口肥胖率所创的"一般人"概念,套用到个人身上并不成立——肌肉发达的运动员、勒布朗·詹姆斯都会被判超重,黑人女性尤易受罚。加州研究显示,健康计划未能改善员工血压血糖,减重者多会反弹,疾病多发作于员工离职后的老年阶段,真正省下的是雇主的保费支出。作者认为,这套做法目前尚属克扣薪资的工具,一旦雇主建成健康与生产力评估模型,就会演变为完全成熟的数学杀伤性武器。