接下来的事比他预想的要快。陈默当天下午打来电话,声音沙哑:“深哥,合伙人开会吵了一下午。有人支持你,说这是树立行业标杆的机会;有人反对,说丢了银行这个大客户今年年终奖全泡汤。最后投票,四比三,支持出红灯报告,但要求把业务影响评估单独列一章,给客户留足调整空间。”
林深说:“可以。”
“还有,”陈默犹豫了一下,“银行那边周总打过电话来,语气不太好。他说如果我们坚持发红灯,他们会向行业协会投诉我们审计标准过严,缺乏行业共识。”
“行业共识是什么?”林深反问,“是所有人都用宽松的阈值,把偏见藏在地毯下面?陈默,你知道我为什么选这个职业吗?我父亲五年前想开一个小型汽修店——不是修理,是汽配零售——去银行贷款,被系统拒了。他信用记录完美,有抵押物,唯独因为他的店铺地址在老工业区的一个转型地块,系统判定‘区域经济活力不足’。他跑了三趟银行柜台,柜员说系统评分就这样,人工干预不了。后来他只能去借民间高利贷,利息吞掉了一半利润。”
林深停顿了一下,这些事他很少跟同事提起。“那个系统是谁开发的、用了什么数据、怎么评价‘活力’的,没人知道。我当时还在读研,学的是机器学习,我突然发现我手里的技术可以变成一个黑箱,也可以变成一个透明盒子。所以我做了这一行。”
电话那头沉默了很久。陈默最后说:“白皮书我看了,写得真好。发吧。”
三天后,两份报告同时提交。审计意见书给了银行一个“严重风险”评级,附带详细的整改路线图,要求半年内重构模型并重新审计。技术白皮书上传到arxiv,当天就在AI伦理圈子里引发讨论,被几个知名学者转发。有人质疑数据样本的局限性,有人称赞方法论严谨,更多的人开始追问:还有多少部署中的模型藏着类似的“沉默惩罚”?
林深没有关注后续的舆论发酵。他请了两天假,坐高铁回了老家。父亲的小店还在,门脸换了新招牌,生意比五年前安稳了不少。父子俩坐在店后面的小院里吃西瓜,父亲随口问:“工作忙不忙?”
“忙。”林深说,“但挺值的。”
西瓜很甜,汁水顺着指缝淌下来。林深想起那个被模型误判的三十七个百分点——三十七个活生生的人里,会有多少人像父亲当年一样,拿着被拒绝的通知单,站在银行大厅里茫然无措?算法不知道他们的焦虑,不知道他们夜里反复计算还款计划的煎熬,不知道他们对着手机App上的“智能评分”四个字反复刷新却毫无办法。算法只知道特征、权重、梯度下降。
但他知道了。他的工作就是把那个黑箱撬开一条缝,让光透进去。光未必能照亮所有角落,但至少能让那些沉默的数字背后,站出一个个有名字、有故事、有不甘心的人。
休假回来,苏晓告诉他一个消息:银行那边换了项目对接人,新来的负责人是学社会学出身的,主动约了二次会议,说要“认真理解审计意见背后的社会维度”。更意外的是,那篇白皮书被某省地方金融监督管理局看到,他们正在起草区域性算法公平指引,邀请林深作为外部专家参与研讨。
林深坐在工位上,窗外又是深夜。但今晚的夜色不那么沉了,远处有一架飞机的航灯明明灭灭,像一枚移动的星星。他打开新项目的文件夹,是一个医疗影像辅助诊断系统的审计委托书。委托方备注了一句话:“我们担心模型在不同肤色患者上的检出率有差异,请重点审计。”
他点开第一份数据描述文档,键盘敲下第一个字符。屏幕的光依然蓝得冷,但他的手指是暖的。他知道接下来的日子里,会有新的冲突、新的周旋、新的“合理平衡”四个字堵在喉咙口。但他也知道,每一次把偏见从数学公式里剥离出来,每一次让一个普通人拥有对算法说“不”的知情权,这个世界就比昨天好了一点点。
哪怕只是一点点。
林深保存文件,合上电脑。茶水间的咖啡机已经自动清洗完毕,发出轻柔的提示音。他站起身,走到窗前,把额头贴在微凉的玻璃上。窗外城市尚未睡去,万家灯火里有多少人此刻正被某个算法打分、分类、排序?他们不知道自己的数字人格正在哪个服务器里被计算,也不知道未来会不会有一个像他这样的人,把那些计算拆开、摊平、一个字一个字地读出其中的傲慢与偏见。
但他知道自己在做。明天他还会做。这大概就是一个算法偏见校正师的全部意义——不是纠正所有错误,而是永不停止纠正。