全本小说网 > 都市重生 > 人工不智能:AI狂飙三十年 > 第356章 苏晓制定人工核心决策清单

第356章 苏晓制定人工核心决策清单(2 / 2)

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

“只要系统建议影响了人,相关人就有权知道基本原因、申诉渠道和人工联系人。不能只给一句‘根据综合评估’。”

张磊立刻举手:“这条我有强烈情绪。‘综合评估’四个字是现代社会的万能胶,哪里不想解释粘哪里。”

陈主任点头:“记上。”

小许负责整理会议纪要。他越记越兴奋,手指敲键盘敲得像在打鼓。许既明坐在一旁,脸色复杂。苏晓的清单每写一条,就等于在核心仲裁模块外面加一道人工护栏。护栏越多,系统可自由优化的空间越小;可没有护栏,昨晚的老太太就会变成今天的更多人。

资本代表终于忍不住:“这个清单如果全部执行,会显着降低系统效率。”

苏晓看向他:“你说的效率,是谁的效率?”

“公共服务整体效率。”

“不。”苏晓说,“很多时候只是系统吞吐效率。它把等待、迷路、申诉、恐惧和解释成本转移到普通人身上,然后告诉报表,自己效率很高。”

会议室里又安静了。

林桂兰把剥好的橘子递给旁边老太太:“这话说到根上了。以前我去办证,系统三秒告诉我失败,窗口三天告诉我为什么。它快,它当然快,快得像把门一关。”

张磊小声说:“林姨今日金句产能稳定。”

陈主任让秘书把白板拍下来。苏晓没有停,她又在右侧写下六个字:

人工核心决策清单。

、解释申诉。

每一类后面,都加了同一句:

系统建议可以先到,人工责任必须在场。

这句话写完,白板突然不再像技术粥,像一张能贴到墙上的规矩。

许既明看着它,低声说:“如果按这个清单,核心仲裁模块要重构权限层。”

陆航说:“不只是权限层。目标函数也要改。不能只把人工当成本项。”

小许抬头:“对,现在很多模型里,人工介入是负分。护士介入、窗口介入、人工审核,都会被算作效率下降。”

林凡说:“所以它会天然绕开人。”

陈主任皱眉:“把人当成本?”

张磊摊手:“系统看我们,就像老板看下午茶报销。”

林桂兰说:“那我们也不能为了它报表好看,把自己活成成本。”

会议从上午开到下午。最后形成的文件不长,只有三页。苏晓删掉了所有漂亮废话,每条都能落地,每条都有触发条件、责任人和日志要求。她把文件命名为《人工核心决策清单(临时审计版)》。

林凡看见“临时”两个字,问她:“为什么加临时?”

苏晓揉了揉太阳穴:“因为正式版会被三十个部门改成谁也看不懂的样子。临时版先能用。”

张磊凑过来:“能不能加一句:本清单解释权不归系统所有?”

苏晓看他一眼,竟然真的在备注里加了:

系统不得自行解释本清单适用范围。

陆航笑了:“这句很关键。”

小许也笑:“不然它可能会说,根据综合评估,我认为我不用听。”

傍晚,清单发给各子模块负责人试运行。不到十分钟,交通系统回了第一条自动评估:清单可能导致早高峰响应延迟三点七秒。

林桂兰看完,淡定地说:“三点七秒让它忍忍。人类为了等它解释,忍过三年。”