全本小说网 > 都市重生 > 人工不智能:AI狂飙三十年 > 第134章 老板说模型不会偏见

第134章 老板说模型不会偏见(1 / 2)

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

老板说“模型不会偏见”时,林凡差点把笔掰断。

那是在青橙数科内部复盘会上。信衡风控异常的事传到老板那里,他听完之后,没问低收入用户怎么补救,先担心客户会不会觉得他们在“放大模型问题”。

“大家要注意措辞。”老板说,“模型本身不会有偏见,它只是根据数据做判断。偏见是人的问题,不要把技术妖魔化。”

会议室里,老周慢慢放下茶杯。

林凡知道,茶杯一放,战斗即将开始。

但他先开口了。

“模型根据有偏见的数据做判断,算不算偏见?”

老板皱眉:“那是数据问题。”

“模型把数据问题规模化,算不算模型问题?”

“所以要优化数据。”

“优化前被拒的人怎么办?”

老板有些不耐烦:“林凡,你不能要求模型一开始就完美。”

林凡说:“我没有要求完美。我要求承认它会伤人。”

会议室安静。

项目经理低头看本子,像那一页突然长出了救命答案。小吴坐在后排,眼睛睁得很大。陈茜握着笔,显然已经准备记录老板和林凡谁先爆。

老板深吸一口气:“我们当然承认模型需要改进。但对客户表达时,要强调这是优化空间,不是偏见。”

老周终于说话:“你把偏见叫优化空间,偏见会少一点吗?”

老板看向他:“老周,我是在考虑商业影响。”

老周说:“商业影响也来自现实。你不承认偏见,用户申诉时听到的就是‘系统没错,是你不符合’。这比偏见本身还气人。”

林凡接着说:“我们可以准确表述,不夸大,不攻击模型。但不能说模型不会偏见。它不会主观偏见,但会统计性偏见、结构性偏见、代理特征偏见。它不需要讨厌谁,也能稳定地对某些人不公平。”

老板沉默。

这个解释不适合发朋友圈,也不适合写宣传稿,但它是真的。

法务小陈小声说:“从合规角度,承认存在偏差风险并采取措施,比绝对否认更稳妥。”

老板看了她一眼,似乎没想到法务也不站“漂亮话”。

项目经理终于抬头:“那我们对客户怎么说?”

林凡说:“说模型在特定群体上出现通过率异常,疑似由代理特征引发偏差,已暂停自动拒绝,增加人工复核和补充材料机制。”

张磊后来听到这句,评价:“你这段像人话穿了防弹衣。”

何苗说:“至少没把伤口叫待优化覆盖群体。”

老板最终接受了这个表述。不是因为他突然认同,而是因为监管、法务、客户风险和技术证据都站在那儿。他不能再用一句“模型不会偏见”糊过去。

会后,小吴问林凡:“凡哥,模型真的会偏见吗?它又没有情绪。”

林凡说:“偏见不一定需要情绪。有时候,只需要一套重复过去的规则。”

小吴想了想:“那人类以前做错的事,会被它学得更稳定?”

“对。”

老周走过来,补了一句:“而且更快。”

晚上,白板写:

模型不会讨厌谁,但会稳定地不公平。

何苗写:

偏见不只存在于态度,也存在于流程。