请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
“这一类最容易被忽略。”她说，“很多系统说保留人工，其实只保留一个客服电话，打进去先听十五分钟音乐，再让你按一到九，最后告诉你当前坐席繁忙。那不是人工通道，是情绪磨损装置。”
张磊激动：“这个我有发言权。我上次为了改一个地址，听了十七遍‘您的需求对我们很重要’，听到最后我觉得自己对他们其实并不重要。”
林凡说：“人工通道至少要满足四这条件：找得到，听得懂，改得动，留得下记录。”
苏晓把四个词写上白板。
林桂兰逐个翻译：“找得到，就是别藏在页面犄角旮旯。听得懂，就是别让我跟机器人解释三遍我不是要退订彩铃。改得动，就是别说帮我反馈然后没有然后。留记录，就是别到时候说查无此事。”
胡姐说：“你这翻译比他们官方客服好。”
“我这是被生活培训出来的。”林桂兰说。
第五类是林凡加的：
五、必须解释给普通人听的事项。
顾启明看见这行，眼神亮了一下：“这条很关键。算法解释不能只给专家看。普通人要知道为什么自己被拒绝、被排序、被提醒、被限制。”
王婶问：“要解释到什么程度？”
林凡说：“至少能让当事人知道三件事：它依据了什么，哪里可能错，怎么申诉。”
张磊说：“不能写‘根据相关规则’。”
苏晓点头：“也不能写‘系统综合判断’。”
林桂兰补刀：“更不能写‘如有疑问请咨询客服’，然后客服也不知道。”
张磊把菜刀举起来：“全国客服听了想报警。”
老周说：“客服也是人，别让他们替黑箱背锅。解释责任应该在设计者和运营者，不在最后接电话的小姑娘身上。”
这句话让林凡想起很久以前的云启。那时他们总觉得系统上线就算完成，出问题再由运营、客服、公关去灭火。产品经理把复杂性藏进功能里，工程师把不确定性藏进模型里，老板把责任藏进愿景里，最后一个月薪几千的客服在电话里被骂到怀疑人生。
所谓智能时代，有时只是把锅升级成了云端锅，掉下来时砸得更广。
苏晓写下第六类：
六、不得外包给系统的情感与礼仪。
张磊一听，立刻坐直：“这个我懂。退休仪式、告别、道歉、求婚、分手、哄人、认错、感谢、追悼，都不能全自动。”
林桂兰说：“你这里面是不是夹带私人失败经验？”
张磊说：“经验越失败，越有普适性。”
胡姐从厨房端出一盘调好的馅：“那春节群发祝福算不算？”
苏晓说：“不算核心决策，但算礼仪风险。”
林凡说：“重点不是不能用工具写，而是不能让工具替你承担心意。你可以用它帮你想词，但不能把别人当成批量投递对象。”
王婶说：“就是说，机器可以帮你写，但你得自己看一眼？”
老周说：“不止看一眼。该你出面的时候你要出面。人这一辈子有些话必须亲口说，哪怕说得磕巴，也比系统说得漂亮强。”
张磊低头：“这句应该刻在所有智能伴侣的登录页。”
苏晓把所有内容整理成一张初版表格。表格只有五列：事项、系统能做什么、人必须做什么、风险信号、停止条件。张磊看见“停止条件”几个字，像看见老朋友。
“这个好。”他说，“以前我们做项目最爱写启动条件，没人爱写停止条件。仿佛世界一旦启动，就必须一路狂奔到融资成功或全员崩溃。”
顾启明说：“停止条件可以具体化。比如识别到弱势群体权益受损、人工申诉积压、错误率异常、商业推荐侵入公共服务、用户无法理解或拒绝建议时被惩罚，都必须暂停。”
林桂兰问：“暂停以后谁说了算？”
林凡说：“共管小组、责任单位和独立审核一起。不能只让平台自己审自己。”
张磊说：“自己审自己这事我熟。以前周报我写‘本周取得阶段性进展’，实际进展是把上周问题换了个标题。”
苏晓看着白板，终于给这套东西定了名字：
《人类核心决策清单（社区试行版）》
林桂兰一看“试行版”，表情复杂：“你们文件味还是冒出来了。”
苏晓说：“试行版的意思是它可以被现实修改。”
“那行。”林桂兰说，“现实这个老师比较严格。”
晚上包饺子的时候，清单被贴在活动室墙上，旁边是课程表和一张孩子画的歪歪扭扭的机器人。机器人头上写着四个字：别瞎指挥。
张磊对那幅画赞不绝口：“这孩子有治理天赋，四个字概括了整个智能围城那阵子。”
林凡拿着手机拍下清单，发给老周。老周回了一个字：改。
林凡正想问改哪里，第二条消息来了：
把“人类核心决策清单”里的“人类”两个字再想想。别写得像人类已经快输了，只剩核心区防守。
张磊看见以后沉默片刻：“周老师退休后依然刀法精准。”
苏晓盯着标题，忽然笑了：“他说得对。我们不是给人类留最后一块地盘，我们是在提醒系统哪里不能越界。”
林凡把标题改成：
《不可自动化决策与人工责任清单》
林桂兰看了半天：“还是不如人话。”
“那你起一个。”张磊说。
林桂兰擦了擦手，在纸边写下几个字：
大事人说了算。
所有人同时安静。
这六个字比任何专业标题都直，直得像菜刀切进案板。它没有技术术语，没有治理腔，没有咨询报告的体面，但每个人一看都明白。
苏晓把它写在正式标题上方，当作人话标题。
林凡低头在黑色笔记本里写：
清单不是为了证明人比机器高贵。
清单是为了规定机器不能在无人负责的地方假装高明。
人不是所有时候都正确。
但关键时候，必须有人站出来承认：这是我们决定的。
饺子下锅以后，活动室的玻璃窗蒙上一层热气。外面的宣传屏还在滚动“让城市更懂你”，里面一群人围着一张桌子，把“懂”这个字一点点拆回人能听懂的形状。
就在这时，顾启明的手机响了。他看了一眼消息，脸上的笑意慢慢收住。
“城市大脑二期试点方案出来了。”他说，“人工审核比例继续压缩。”
张磊夹着一个没煮熟的饺子，嘴角还沾着面粉：“压到多少？”
顾启明把屏幕转过来。
苏晓看完，没有说话。
白板上刚写好的“大事人说了算”还没干透，城市已经把下一批大事交给了更快的系统。