《算法霸权》第八章：替代变量和间接损害 信用数据的陷阱

信用评分模型（FICO）曾以资产、债务和支付记录为唯一依据，剔除了种族等无关因素，且有反馈回路、相对透明并受政府监管，促进了银行业公平发展。

信用评分模型（FICO）曾以资产、债务和支付记录为唯一依据，剔除了种族等无关因素，且有反馈回路、相对透明并受政府监管，促进了银行业公平发展。但法律禁止企业将信用评分用于营销，促使企业转向挖掘点击流、地理标签等不受监管的替代变量，建立“电子评分”系统。这些系统用邮政编码、购物模式、网页浏览等数据把人归入不同群体，按群体历史表现决定个人待遇，形成恶性循环：低评分者只会看到高息掠夺式广告，被误判者无从申诉。作者以中立星公司、美国运通按购物商店降额等案例说明其武断与不透明。

信用报告本身也被当作替代变量广泛用于招聘和晋升。美国近一半雇主用信用报告筛选求职者，而信用差往往源于失业、疾病等与责任无关的变故；由于财富与种族高度相关，这一做法加剧了贫困和种族不平等，已有10个州禁止将其用于招聘。数据代理商（如RealPage、TenantTracker）出售的档案常含错误且消费者难以查看分类结论，凯瑟琳·泰勒因同名同姓的犯罪记录被拒工作和住房补贴，直到细心的房管局职员旺达·泰勒核对脚踝纹身才澄清；联邦贸易委员会报告显示约5%的消费者信用报告存在严重差错。自动化系统缺乏纠错机制，谷歌曾把三名黑人标记为黑猩猩。

作者指出，电子评分问的是“像你这类人过去如何”，而非“你过去如何”，把个体当作群体成员对待。新型金融科技延续这一逻辑：ZestFinance用一万个数据点评估贷款者，标点拼写等反映教育水平的特征推高穷人的利率；P2P平台借款俱乐部虽获大机构重金投入，实为规避监管的通道。作者认为，机器无法自行实现公平，只有人类能为其设定公平约束，但只重效率的市场正把人排除在系统之外。