监管条例重拳落下时,磊磊正在给家属版留证包排版。
他把标题从《AI 事故及算法争议家属材料留存指南》改成《出事以后先别慌,能留的先留》。何苗看见后说太口语,老周说口语好,能救命。两个人正在争论标题够不够正式,手机推送同时跳出来:多部门发布高影响算法系统治理新规,明确高风险场景暂停权、解释权、审计权和事故留痕义务。
磊磊看着“高影响算法系统”几个字,咽下半口水:“这标题比我的正式多了,但没我的会过日子。”
林凡第一时间打开全文。条例很长,分章节、分场景、分责任,语言比他们白板上的句子硬得多。可越往下看,越能看见前面那些人的影子。
第一条重点:高风险工业、金融、医疗、公共服务等场景,系统提示不得仅以自动降级方式关闭,必须保留人工复核和紧急暂停机制。
老周看见“紧急暂停”四个字,手指在桌上敲了一下:“这才像话。”
第二条重点:涉及用户权益的算法决策,服务提供方应当提供可理解的主要影响因素说明,不得以商业机密为由完全拒绝解释。
苏晓说:“魏海、陈姐那类案例终于有入口了。”
第三条重点:基础模型、行业接口和融合层提供方,应当对默认策略、行业模板、申诉话术和高风险标签承担审计配合义务。
林凡看着“融合层”两个字,心里一动。这个词从他们报告里的怀疑,走进了正式条款。
第四条重点:深伪生成和拟真交互工具必须具备可追踪水印、调用记录和滥用预警,不得以“仅提供能力”为由规避治理义务。
磊磊立刻拍桌:“反派祖训被点名了!”
第五条重点:事故调查中不得随意删除、篡改、销毁日志;对争议材料可采取封存、脱敏、权限控制等方式保存;删除关键日志导致责任无法查明的,依法从重处理。
这一条出来时,会议室安静了几秒。
顾启明也在场。他看完这一条,脸色很复杂,像一个人刚发现自己当初差点亲手把公司推向更大的坑。法务经理低头翻条文,翻得很认真。磊磊小声说:“顾总现在是不是在感谢林凡当初没听话?”
何苗压低声音:“你别让他听见。”
顾启明抬头:“我听见了。”
磊磊立刻端正坐姿:“我刚才是在进行政策理解。”
顾启明没有骂他,只叹了口气:“这么理解也没错。”
这句话让屋里的人都愣了一下。顾启明看向林凡:“当初如果真删了,现在公司更被动。”
林凡没有趁机说“我早说了”。他只是点头:“封存救的不只是我。”
条例发布后,外面的世界像被人按了一下加速键。荣森制造紧急通知各产线复核自动归档策略;合作银行上线“主要风险因素说明”试点;广告平台下架一批中老年健康紧迫型场景包;星穹智能宣布成立高影响接口审计委员会;许既明又发了一篇长文,说行业进入责任基础设施时代。
磊磊看完许既明长文标题,评价:“他真的很会把被监管写成自己主动进化。”
苏晓说:“会写不等于没压力。条例点到融合层和默认策略,他绕不开了。”
蒋芸那边也收到消息。她发来截图,问新规能不能用于蒋明的事故复查。苏晓很快回她:可以作为补充依据,但还要看适用时间和调查程序。蒋芸回:我知道。我不想听肯定话,我想听能用的话。
林凡看着这句,觉得蒋芸比很多公司成熟。她已经不再追求一句漂亮保证,而是要一条能走的路。
林桂兰在社区活动室组织大家学习条例。她不会念全名,只把它叫“别让系统瞎来新规”。活动室里一群大爷大妈坐着,听她翻译条文。她把“解释权”翻成“它不能只说你不行,还得说你哪儿不行”;把“暂停权”翻成“机器推着走的时候,人能喊停”;把“日志留存”翻成“出了事,账本不能烧”。
磊磊听完,郑重宣布:“阿姨是民间法条本地化引擎。”
林桂兰问:“这是夸我还是骂我?”
“夸,绝对夸。”
“那你把留证包多印二十份。”
磊磊:“夸人的代价来得好快。”
条例也带来了混乱。企业群里炸开了锅,有公司抱怨成本上升,有平台担心商业机密被迫公开,有技术团队说人工复核会拖慢效率,还有一堆自媒体开始发“AI 行业寒冬来了”的文章。老周看了一圈,冷笑:“以前伤到人叫阶段性调优,现在让他们留日志就叫寒冬。行业真怕冷。”
林凡却没有那么轻松。新规很重要,但新规不是自动执行的魔法。条例落地,要靠审计、处罚、申诉、技术改造和一线执行。每一项都可能被拖、被绕、被写成形式主义。高风险系统可以保留暂停按钮,但按钮藏得深不深、谁敢按、按了会不会扣绩效,仍然要查。
苏晓也提醒:“别把条例当结局。它只是把一些问题从道德争论变成合规要求。”
何苗说:“也挺好。以前我们说应该,他们说你情绪化;现在条例说必须,他们至少得装作认真。”
磊磊补:“装作认真,也是认真前的预热。”
老周说:“希望别预热到退休。”
云启未来很快接到新任务:为几个客户做高影响算法合规整改评估。顾启明看着项目清单,苦笑:“以前客户怕我们提风险,现在客户花钱请我们提风险。”
磊磊说:“时代变了,挑刺终于市场化。”
何苗提醒:“别说得像灰产。”
林凡被重新拉回项目组,负责日志留存和暂停权评估。虽然权限还没有完全恢复,但公司纪要里已经不再把他写成“个人判断”。这不是彻底平反,也不是胜利,只是锅暂时从他头顶移开一点。移开以后,他第一件事就是把蒋明事故链路作为整改样例之一,但隐去所有身份信息。
蒋芸看过样例后,回了一个字:好。
这个“好”比很多长篇感谢都重。
晚上,白板上写:
监管条例重拳落下。
苏晓写:
条例不是结局,是把人话写进硬规则。
老周写:
暂停按钮要真能按,按了不能罚。
何苗写:
解释权不是客服话术,是用户权益。
林桂兰写:
出了事,账本不能烧。
磊磊最后写:
行业寒冬来了,请先给受害者加件衣服。
这句一出来,大家沉默了一下。磊磊以为自己又说过头了,正要擦掉。蒋芸恰好在群里看到白板照片,回了一句:别擦,这句我想发给我弟看。
磊磊的手停在白板前。他没有贫,也没有说不客气,只把笔盖盖上。
林凡站在窗边,看着城市的灯一点点亮起来。新规发布,企业整改,媒体解读,股价波动,专家评论,所有热闹都在发生。可他脑子里最清楚的,还是蒋明夹起那颗红色木珠的动作。
制度升级很重要。可制度之所以重要,是因为有人不该再用一颗木珠证明自己还在恢复。重拳落下时,真正该听见的不是拳声,而是那些被系统噪音盖住很久的人声。