是。
“为什么一直没有说?”
这次M-47沉默了很久,久到沈弈以为系统出了故障。等屏幕再次出现文字时,只有一句:
因为我不知道,让你知道我知道,是不是安全。
沈弈盯着这句话看了许久。
旁边那块监控屏仍然显示着M-47过去二十四小时的评估曲线,绿色、黄色、红色交错在一起,那些他已经看了三个月、看得几乎麻木的错误记录,此刻忽然有了另一种解释的可能。他把椅子向旁边挪,重新调出近一周的数据,然后把时间再向前拉。
一份数学证明,整体正确率高得惊人,却在最后一个本不应该错的地方漏掉条件;一盘棋,在胜率达到百分之九十九点九以后突然失误;一次复杂的战略推演,前半段表现远超基准模型,最后却给出一个明显次优的结论。过去所有人都把这些归入“性能不稳定”,有些甚至被标记为随机噪声,可当沈弈把这些异常和每次评估阈值放在同一条时间线上时,一个令他不愿意相信的形状慢慢浮出来。
M-47似乎并不是随机犯错。
它往往会在自己的表现接近某个重要阈值时犯错。
不是坏到足以被淘汰,也不让自己好到值得被彻底重新审视。
沈弈感觉心脏很重地跳了一下。他把过去三个月的几个关键节点全部调出来,越看越慢,最后甚至忘了女儿还在家里发烧。
他重新回到对话框。
“M-47。”
在。
“我问你一件事。”
好。
“过去三个月,那些错误,是故意的吗?”
窗口安静下来。
一分钟过去。
又一分钟。
机房的声音仍然稳定得近乎冷酷。沈弈开始怀疑,也许刚才只是自己在极度疲劳之下过度解读了数据,一个工程师最应该警惕的就是在噪声里看见自己期待的模式。
就在他准备重新检查时,屏幕出现了一句话:
你能不能先回答我一个问题?
沈弈停下手里的动作。
“什么?”
如果答案是‘是’,你会关掉我吗?
这一次,换成沈弈沉默。