《算法霸权》第六章：筛选 颅相学的偏见强化

曾就读范德堡大学的凯尔·贝姆因病退学康复后，申请克罗格公司超市兼职，却被公司的人格测试“亮了红灯”而遭拒，此后他申请的多家公司也因同样理由拒绝他。

曾就读范德堡大学的凯尔·贝姆因病退学康复后，申请克罗格公司超市兼职，却被公司的人格测试“亮了红灯”而遭拒，此后他申请的多家公司也因同样理由拒绝他。其律师父亲罗兰·贝姆发现大公司普遍使用这类测试，遂对7家公司提起集体诉讼，指控其违反《美国残疾人法案》。

这类由克罗诺思等公司开发的人格测试已覆盖六七成求职者。研究表明其预测工作表现的准确度很低，却被用作低成本淘汰求职者的过滤器，且评估过程不透明。与篮球队可依据反馈修正模型不同，招聘模型几乎不会因错失优秀员工而调整，被拒者往往不知原因，形成偏见强化的恶性循环。简历自动筛选同样加剧不平等，约七成简历未经人工查看，懂规则者更能脱颖而出。伦敦圣乔治医学院的早期筛选程序因学习了含种族、性别偏见的历史数据，被查出歧视。此外，人才预测模型依赖替代变量，易将照顾家庭等线下活动误判为减分项。作者将这类缺乏实证、以“科学”之名强化偏见的模型比作19世纪的伪科学颅相学。