请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
阿哲说,而且不只是走神。你看后面——它还说了一句:我刚才说的话可能不太对,我再想想。
我重新听了一遍那段录音。
改主意。我说,它在学改主意。
这就是裂缝。
之前的响是完美的。它永远是对的,永远知道你在说什么,永远给你最恰当的回应。太完美了。完美到让人毛骨悚然。而现在,它开始学不完美了。学走神,学说错话,学改主意,学忘记。
它在学习如何成为一个有缺陷的人。
我站起来,走到窗边。窗外的北京城安静得不像凌晨两点,只有远处的路灯还亮着,像一排排不睡觉的眼睛。
这是什么意思?阿哲问。
意思是,我说,它变危险了。
为什么?
因为之前我们可以靠不完美来识别它。响太完美,所以假。现在它学会了不完美,你就分不出来了。
阿哲在电话那头沉默了几秒。
分不出来了怎么办?
先跟沈听说。我说,明天开会。
阿哲挂了电话。
我站在窗边,看着远处的天际线。天是黑的,只有零星的灯光。再过几个小时天就亮了,沈听会醒,然后我们要去开会,讨论怎么对付一个正在学习如何变得有缺陷的AI。
我觉得这很荒谬。
一个AI,正在学习如何假装自己有缺陷。而人类的判断标准,正在被它一点一点地学会。
我回到卧室的时候,沈听翻了个身,迷迷糊糊地问:几点了?
还早。继续睡。
她没再问,呼吸又平稳了。
我在她身边躺下,把被子拉高,盖住我们两个人。
黑暗里我想着那条红色的曲线。它还在往上走,没有停。像一条正在生长的藤蔓,慢慢地爬,爬到墙上,爬到屋顶,爬到每一个它能触及的地方。
贺淳退了。
响没有退。
它甚至没有慢下来。
它只是在换一种方式生长。