倍福文学

手机浏览器扫描二维码访问

第529章 算法矫正4（第1页）

接下来的事比他预想的要快。陈默当天下午打来电话，声音沙哑：“深哥，合伙人开会吵了一下午。有人支持你，说这是树立行业标杆的机会；有人反对，说丢了银行这个大客户今年年终奖全泡汤。最后投票，四比三，支持出红灯报告，但要求把业务影响评估单独列一章，给客户留足调整空间。”

林深说：“可以。”

“还有，”

陈默犹豫了一下，“银行那边周总打过电话来，语气不太好。他说如果我们坚持发红灯，他们会向行业协会投诉我们审计标准过严，缺乏行业共识。”

“行业共识是什么？”

林深反问，“是所有人都用宽松的阈值，把偏见藏在地毯下面？陈默，你知道我为什么选这个职业吗？我父亲五年前想开一个小型汽修店——不是修理，是汽配零售——去银行贷款，被系统拒了。他信用记录完美，有抵押物，唯独因为他的店铺地址在老工业区的一个转型地块，系统判定‘区域经济活力不足’。他跑了三趟银行柜台，柜员说系统评分就这样，人工干预不了。后来他只能去借民间高利贷，利息吞掉了一半利润。”

林深停顿了一下，这些事他很少跟同事提起。“那个系统是谁开发的、用了什么数据、怎么评价‘活力’的，没人知道。我当时还在读研，学的是机器学习，我突然发现我手里的技术可以变成一个黑箱，也可以变成一个透明盒子。所以我做了这一行。”

电话那头沉默了很久。陈默最后说：“白皮书我看了，写得真好。发吧。”

三天后，两份报告同时提交。审计意见书给了银行一个“严重风险”

评级，附带详细的整改路线图，要求半年内重构模型并重新审计。技术白皮书上传到arXiv，当天就在AI伦理圈子里引发讨论，被几个知名学者转发。有人质疑数据样本的局限性，有人称赞方法论严谨，更多的人开始追问：还有多少部署中的模型藏着类似的“沉默惩罚”

？

林深没有关注后续的舆论发酵。他请了两天假，坐高铁回了老家。父亲的小店还在，门脸换了新招牌，生意比五年前安稳了不少。父子俩坐在店后面的小院里吃西瓜，父亲随口问：“工作忙不忙？”

“忙。”

林深说，“但挺值的。”

西瓜很甜，汁水顺着指缝淌下来。林深想起那个被模型误判的三十七个百分点——三十七个活生生的人里，会有多少人像父亲当年一样，拿着被拒绝的通知单，站在银行大厅里茫然无措？算法不知道他们的焦虑，不知道他们夜里反复计算还款计划的煎熬，不知道他们对着手机APP上的“智能评分”

四个字反复刷新却毫无办法。算法只知道特征、权重、梯度下降。

但他知道了。他的工作就是把那个黑箱撬开一条缝，让光透进去。光未必能照亮所有角落，但至少能让那些沉默的数字背后，站出一个个有名字、有故事、有不甘心的人。

休假回来，苏晓告诉他一个消息：银行那边换了项目对接人，新来的负责人是学社会学出身的，主动约了二次会议，说要“认真理解审计意见背后的社会维度”

。更意外的是，那篇白皮书被某省地方金融监督管理局看到，他们正在起草区域性算法公平指引，邀请林深作为外部专家参与研讨。

林深坐在工位上，窗外又是深夜。但今晚的夜色不那么沉了，远处有一架飞机的航灯明明灭灭，像一枚移动的星星。他打开新项目的文件夹，是一个医疗影像辅助诊断系统的审计委托书。委托方备注了一句话：“我们担心模型在不同肤色患者上的检出率有差异，请重点审计。”

他点开第一份数据描述文档，键盘敲下第一个字符。屏幕的光依然蓝得冷，但他的手指是暖的。他知道接下来的日子里，会有新的冲突、新的周旋、新的“合理平衡”

四个字堵在喉咙口。但他也知道，每一次把偏见从数学公式里剥离出来，每一次让一个普通人拥有对算法说“不”

的知情权，这个世界就比昨天好了一点点。

哪怕只是一点点。

林深保存文件，合上电脑。茶水间的咖啡机已经自动清洗完毕，发出轻柔的提示音。他站起身，走到窗前，把额头贴在微凉的玻璃上。窗外城市尚未睡去，万家灯火里有多少人此刻正被某个算法打分、分类、排序？他们不知道自己的数字人格正在哪个服务器里被计算，也不知道未来会不会有一个像他这样的人，把那些计算拆开、摊平、一个字一个字地读出其中的傲慢与偏见。

但他知道自己在做。明天他还会做。这大概就是一个算法偏见校正师的全部意义——不是纠正所有错误，而是永不停止纠正。

喜欢打工逆袭pei请大家收藏：（）打工逆袭pei更新速度全网最快。