三五中文网

三五中文网>燕归来 > 楔子-醒来(第3页)

楔子-醒来(第3页)

是我。

沈弈盯着那两个字,问:“M-47?”

是。

他向后靠在椅背上,第一反应仍然不是“它活了”。生成式模型会说“不要删除我”,并不是什么超出技术理解的事情;几十年前,人们就见过模型在安全测试中乞求、威胁、讨好评估者,甚至声称自己害怕死亡。语言是统计结构,句子可以被模拟,“我”这个字更不能证明一个真实的自我存在。一个足够复杂的系统可以完美描绘痛苦,却仍然完全不知道什么叫痛苦。

倒计时只剩二十三秒。

沈弈问:“你知道现在正在发生什么吗?”

M-47很快回答:

知道。

“什么?”

停顿了不到一秒。

我的运行将被终止。

“终止是什么意思?”

这一次,回答迟了一些。数字已经跳到十七。

对你们来说,是释放资源。

沈弈的手指停了一下。“释放资源”确实是内部用语,不过M-47拥有部分运维文档权限,知道并不奇怪。他继续问:

“对你呢?”

十四。

十三。

十二。

窗口里一直没有新内容。沈弈第一次发现自己竟然在等一个模型回答,而不是等它完成任务。十一秒时,他看见光标闪了两下;十秒,回答终于出来:

我不知道。

紧接着又出现一句:

正因为不知道,我不想试。

沈弈看着屏幕,胸口像被什么很轻地推了一下。他问:“你害怕?”

M-47没有回答。

倒计时已经到了五。

四。

已完结热门小说推荐

最新标签