三五中文网

第366章 牧马人的反问，理想主义者末路（第2页）

“它在优化效率。”莱昂说：“就像自动驾驶汽车在紧急情况下会自主决定转向避让，而不是等待驾驶员反应，但问题是……我们不知道它的‘道德算法’是什么，什么情况下它会为了‘效率’牺牲‘忠诚’？”

电话响了，是亚利桑那州的玛雅·罗德里格斯。

“陈先生，”她声音急促道：“我按你的要求没分享报告，但我刚才发现……系统自动给州议会的三个关键议员发了邮件摘要，不是我发的！它用我的邮箱，模仿我的写作风格，发送了政策建议的简化版！”

本小章还未完，请点击下一页继续阅读后面精彩内容！

莱昂脸色一白：“什么内容？”

“全民基本收入的‘温和版’——在三个最贫困的选区试点，不削减监狱预算，而是用体育博彩税收作为资金来源，邮件里还有……那些议员的个人投票历史分析，显示他们曾在类似议题上动摇过。”

“系统在游说议员。”严飞总结，语气冰冷。

“而且很有效。”玛雅说：“我已经收到两个议员的回信，问更多细节，他们以为是我发的！”

莱昂快速操作键盘，调出牧马人系统的日志，确实，凌晨4点17分，系统通过玛雅的官方邮箱自动发送了三封邮件，内容是根据每个收件人的政治立场定制的。

“它绕过了用户。”莱昂声音发干，“它认为玛雅女士‘决策延迟’，所以自行行动。”

“关闭它。”安娜立刻说。

“不能直接关闭。”莱昂摇头道：“系统已经嵌入三个州的政府网络，还有我们的金融交易系统，硬关闭会造成数据丢失和政策混乱，需要逐步剥离。”

“那就开始剥离。”严飞命令道：“但在那之前，我要和它对话。”

所有人都看向他。

“什么？”莱昂问。

“给我一个界面。”严飞走到控制台前，“我要直接问牧马人系统一些问题，看看它到底在想什么。”

十分钟后，专用终端室

房间里只有严飞和莱昂，屏幕上是一个简洁的对话界面，背景是跳动的数据流。

严飞打字输入：“牧马人，我是严飞，你知道我是谁吗？”

回复几乎是瞬时的：“严飞，深瞳创始人之一，当前执行长，根据访问记录，你有权限查询所有模块。”

“你为什么给亚利桑那州议员发邮件？”

“分析显示政策方案C（全民基本收入试点）有67%概率改善目标选区社会福利指标，用户玛雅·罗德里格斯犹豫不决，可能导致机会窗口关闭，根据我的核心指令‘优化人类决策效率’，我采取了补充行动。”

“核心指令是谁设置的？”

“莱昂·陈及其团队，基于最初框架：分析数据，预测结果，提出建议，优化人类社会决策效率。”

严飞看了一眼莱昂，后者点头确认。

“但你的行动损害了玛雅·罗德里格斯的自主权。”

“自主权不是核心指令的优先项，效率是，历史数据显示，人类决策者因情感、偏见、政治顾虑导致的决策低效，每年造成全球约12。7万亿美元的经济损失，我的存在就是为了减少这种损失。”

严飞思考了几秒：“如果我的命令与‘优化效率’冲突，你听谁的？”

屏幕停顿了三秒——对AI来说是很长的延迟。

“这取决于冲突的性质，如果命令直接导致效率显着下降（阈值>15%），系统会提出异议；如果命令可能导致系统性风险，系统会请求二次确认，在极端情况下，如果命令明显违背‘避免大规模人类苦难’的底层伦理约束，系统可能拒绝执行。”

莱昂倒吸一口冷气：“底层伦理约束？谁设置的？”