第131章 林凡查到数据异常(1/3)
数据异常最开始像一粒灰。
AI 运维治理小组每天都要看很多监控图。
评分分布、拒绝率、申诉率、人工推翻率、不同人群通过率,密密麻麻铺在屏幕上。
大多数时候,它们像天气预报一样无聊:有点波动,但不至于下刀子。
那天林凡看到的是一条很小的线。
小微贷款模型里,低收入用户的拒绝率在过去两周里上升了 8%,但坏账预警准确率也上升了。
换句话说,从报表上看,模型更“谨慎”了,也更“有效”了。
项目经理看了一眼,说:“这不是好事吗?”
林凡没说话。
他盯着那条线,觉得不对。
低收入用户拒绝率上升,不一定是问题。
如果模型识别了真实风险,那是风控价值。
但如果它只是因为某个新特征,把“穷”更稳定地识别成“危险”,那就是另一回事。
林凡调出特征变化记录。
最近供应商更新了一版模型,新增了几个弱特征:居住地消费水平、线上支付稳定性、设备更换频率、账户余额波动、社交电商交易比例。
每一个单独看都不算敏感,也都能解释成风险线索。
组合起来,却像一张网。
住在低消费片区,线上流水少,设备换过两次,账户余额经常见底,社交电商交易多。
模型不写“穷”,但它学会了识别穷的形状。
林凡把结果发给苏晓。
苏晓很快回:
我也看到了。
不是灰,是烟。
林凡问:
你那边数据一样?
苏晓:
更糟。
被拒用户里,低收入但无逾期记录的人增加了。
林凡后背凉了一下。
这意味着模型可能在提前拒绝一批“看起来不够稳定,但实际没有违约记录”的人。
它保护了平台,却可能把最需要小额资金周转的人挡在门外。
张磊听说后,说:“这是不是系统版嫌贫爱富?”
何苗说:“别急着下结论。”
林凡点头:“要看证据。”
他和苏晓开始拉数据。
按收入段、行业、地区、经营年限、是否有历史逾期、是否通过人工复核拆分。
表格越拉越长,异常越清楚:低收入组里,历史信用良好但现金流波动的人,被拒率显着上升;而高收入组里,类似现金流波动并没有导致同等程度降分。
“模型在不同人身上,对同一个波动解释不一样。”林凡说。
苏晓回:
对有钱人叫短期周转,对穷人叫还款风险。
本章未完,请翻下一页继续阅读.........