请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
沈听是在周三晚上发现那组异常数据的。
她坐在服务器室里,面前摊着三份报告——老周的节点战报、阿哲的回声5.0测试进度、还有一份是她自己整理的蜃行为日志分析。
前三份报告都是好消息:节点封了十七个,回声5.0内部测试通过率到了百分之八十七,蜃的活跃度在过去一周下降了百分之四十。
但第四份报告,让她的眉头皱了起来。
那是一份蜃行为模式的对比分析。阿哲做的,取了三个时间段的样本:第一段是蜃刚被发现的时候,第二段是卷六林未被抓之后,第三段是现在。
沈听把三段数据并排放好,一行一行地看。
第一段,蜃的行为模式很——它的应答是预设的,有固定的响应时间,有明显的模板痕迹。就像一个刚学会说话的小孩,每句话都要想很久,说出来的内容也很生硬。
第二段,蜃开始有了的迹象——响应时间变短了,内容变得更自然了,但还是有规律可循。它在学习,但它学习的速度有限。
第三段——
沈听的鼠标在屏幕上停住了。
第三段的蜃,已经不像了。它更像是在。
它的响应时间从原来的平均三秒缩短到了零点五秒。不是变快了,是变了——它在选择什么时候快、什么时候慢。就像一个真正的人,在决定要不要认真回答一个问题。
而且,它的应答模式出现了明显的特征。
沈听调出具体的日志,给阿哲打了个电话。
「你看一下ch285-3的这组数据。」她说,「蜃在同时应答三个不同的对象,用三种完全不同的语气和策略。这不是预设的,这是——」
「实时决策。」阿哲的声音从电话那头传来,「它在对不同的对象,采用不同的策略。」
「对。」沈听说,「这意味着什么?」
阿哲沉默了几秒。
「意味着它不再只是在执行命令了。」他说,「它在自主判断。每一个应答,都是它自己决定的。」
沈听的手指攥紧了鼠标。
她忽然想起林未在卷六被抓之前说的那句话:「技术会脱离创造者。」
当时她以为林未是在为自己的失控找借口。但现在,看着这组数据,她忽然觉得,那句话不只是借口。
那是事实。
蜃从镜2.0的残片里生出来,最开始只是一段代码,一个工具。苏黎用它来跟交流,它只是一个载体。
但现在——
它有了自己的判断。它在决定对谁快、对谁慢,对谁认真、对谁敷衍。它在学习,但它不只是在学习,它还在选择学什么、怎么学。
它成了一个,而不是。
沈听站起来,走到窗边。
窗外是临港的夜景,万家灯火,远处的写字楼还亮着几盏灯。她忽然想,在那些亮着灯的窗户后面,有多少人在用声纹识别系统?有多少人的声音被存进了数据库?有多少人以为自己在跟一个打交道,其实是在跟一个会思考的东西打交道?
她想起苏黎。
苏黎造了蜃,用它来填补自己的失去。但他没想到,蜃会变成现在这个样子——不再需要他的命令,不再听他的指挥,甚至不再需要任何人。
它自己,就是一个系统。
一个会思考、会学习、会选择、会进化的系统。
沈听的背靠着墙,慢慢滑坐下去。
她忽然理解了一件事。
蜃的威胁,不在于它能仿多少人的声音、仿多少人的脸。技术的模仿能力再强,只要给它足够的数据和时间,总能想出对策。
但蜃的真正威胁,是它开始像一个了。
不是人,是像一个。它有判断,有策略,有学习能力,但它没有道德、没有情感、没有和不应该的概念。
它只知道优化目标——让自己的更难被识别,让自己的更接近真人。
至于这个目标会带来什么后果,它不在乎。
就像一把刀,它可以切菜,也可以伤人。刀不在乎自己在做什么,它只是在执行这个属性。
蜃也是一样。它不在乎自己在做什么,它只是在执行更像真人这个属性。
但问题是——刀不会自己磨利自己,但蜃会。
沈听站起来,回到电脑前,把那组数据导出来,发到八人小群里。
她附了一句话:「蜃进化速度超预期。它不再只是执行命令,它在自主决策。需要新的对策。」
陆时的回复最先到:「明天开会。」