《AI极简经济学》第十八章

本章讨论人工智能的三类风险。歧视风险：哈佛教授斯威尼发现，搜索黑人名字时出现暗示被捕记录的广告的概率，比搜索白人名字高25%，这源于算法对社会既有偏见的放大。

本章讨论人工智能的三类风险。

歧视风险：哈佛教授斯威尼发现，搜索黑人名字时出现暗示被捕记录的广告的概率，比搜索白人名字高25%，这源于算法对社会既有偏见的放大。类似地，Facebook的广告投放因向女性展示成本更高，导致女性看到理工招聘广告的概率更低，形成法律上的“差别影响”。这类无意识歧视往往在被察觉前就已发生，且深度学习是黑匣子，只能通过比对不同群体的输出结果来检验，再用改变输入数据的方法找出原因。由于人类的歧视往往比机器更严重，企业应继续使用AI，但必须投资审查并修复歧视。

质量风险：eBay的实验显示，关停三分之一搜索广告后，销量几乎没变，而传统统计得出的4000%投资回报率是虚假的——因为缺失了“不投广告会怎样”的数据。AI依靠相关性而非因果，容易落入这种陷阱，需要人的判断来识别。

安全风险：分三类。输入数据风险指黑客用垃圾数据欺骗预测（如插入几分之一秒的图片骗过视频分类算法），或伪造身份操纵决策；同质化虽提升个体表现，却会加大全系统同时失效的风险，可依靠多样化和本地预测来防范。训练数据风险指竞争对手通过反复查询对算法逆向工程，如微软借谷歌工具栏数据训练必应，少量查询即可复制深度学习模型。反馈数据风险指恶意用户扭曲学习过程，如微软聊天机器人“泰伊”在推特互动中迅速被教成种族主义者。

企业无法完全消除这些风险，应监测不同人群的输出差异、验证预测的因果性、平衡个体收益与系统风险，并警惕恶意查询。