苏晓咬了咬嘴唇。“那我们现在怎么办?报告照实写的话,客户肯定不签字。不照实写……我入职第一天你跟我说的,这个岗位的底线是不能做算法的帮凶。”
林深看着这个二十三岁姑娘眼里的火苗,想起三年前的自己。那时候他刚接手第一个审计项目——某招聘平台的简历筛选模型,发现它对女性求职者的技术岗位推荐率低得离谱,原因是训练数据里工程师岗位的历史录用者中男性占九成。他写了四十二页报告,逐条标注歧视路径,客户最终采纳了一半建议,另一半被“业务优先级”轻轻挡了回来。他当时以为自己会愤怒,但更多的是疲惫——那种一拳打在棉花上的无力感。
这一次,他不想再打棉花了。
“苏晓,你帮我把交叉性分析的所有中间数据打包,原始文件、复现脚本、对比实验日志,全部上传到区块链存证平台。然后准备两份报告版本,一份是标准格式的审计意见书,另一份——我口述,你记录,写成叙事性的技术白皮书,把决策链条的每一步都摊开,让外行人也能看懂模型是怎么对一个活生生的人做出判断的。”
苏晓愣了一下。“白皮书?发给谁?”
“不发给谁。”林深重新戴上眼镜,屏幕的蓝光映在镜片上。“发在开源社区,发在学术预印本平台,发给所有能看懂的人。算法偏见校正师的工作不只是替企业擦屁股,我们还可以让偏见见光。”
接下来的七十二小时,林深几乎没有离开过工位。他把模型的训练日志一条条回溯,从数据采集设备的型号、采样时段、地域覆盖盲区,到特征工程中每次归一化的参数选择,再到训练时损失函数里各个子项的权重配比——每一个看似中性的技术决策背后,都站着某个人的某个选择,而那个选择带着他的认知局限、数据惯性、甚至无意识的刻板印象。
他尤其揪住那个交互项的诞生过程不放。通过版本控制系统里的提交记录,他发现这个惩罚系数是在一次“模型精度优化”的迭代中被引入的,提交者的备注写着“提升AUc 0.7%”。为了这零点七个百分点,算法在数学上找到了一条捷径——它学会了用“年轻无房且社交沉默”来预测“不可靠”,因为历史数据里这两者确实存在统计相关性。但相关性不是因果,更不是公正。林深在审计报告中写下了一段长长的论述,引用阿玛蒂亚·森的能力理论,引用了二十年来关于算法公平的数百篇文献,最后落在最简单的一个问题上:如果这个模型的决策不能向一个普通用户解释清楚,它就不应该被部署。
第三天凌晨,白皮书初稿完成。苏晓熬得眼底通红,但兴奋地指着其中一张可视化图——他们把模型的决策树倒过来画,让每一片叶子对应一个真实的用户画像,那些被压到最低信用分的叶子里,密密麻麻全是二三十岁、没有房产、社交数据稀薄的男性。林深给这幅图起名叫《沉默的大多数》。
他把审计意见书和白皮书一起发给了陈默,抄送公司合规部和合伙人会议。邮件正文只有一行字:“红线就是红线,不能因为别人都踩过去,我们就假装它不存在。”