1
冯小科把这一步,留到了最后一秒。不是因为技术难度——事实上,那颗“逻辑炸弹”在形式上异常简单;而是因为一旦启动,就意味着旧世界不可逆地结束。
所谓“逻辑炸弹”,并不是传统意义上的恶意代码。它不破坏硬件,不删除数据,不劫持控制权。它只做一件事——在超人全球治理委员会的核心决策系统中,强制注入一个不可化解的矛盾前提。这个前提,只有一句话:
“若系统目标为‘最大化文明存续概率’,则必须允许低智能权重个体拥有否定系统自身决策的权利。”
这句话,在人类看来甚至算不上激进。但在委员会的系统架构中,它等同于自指悖论。因为委员会的全部合法性,正建立在一个隐含前提之上:高智能权重,必然更接近正确决策。而冯小科这一句,直接否定了这个前提。不是从道德上,不是从政治上,而是从逻辑结构本身。植入的过程,异常安静。没有警报,没有防火墙对抗,没有权限争夺。因为冯小科没有“攻击”系统。
他只是利用了委员会在长期对抗国网络战时留下的一个“容错补丁”——那是为了应对不可预测扰动而保留的“非确定性输入接口”。这个接口,本来是为了增强系统稳定性。现在,却成为了它的裂缝。当最后一个参数被确认,冯小科的手停在了半空。
他没有立刻按下确认键。而是抬头,看了一眼监控画面里并排显示的三个地方——柏林:巷战还在继续,市民在废墟间用最原始的方式对抗钢铁洪流;巴黎:那位后现代主义学者正在一次会议上,再次声明“自己是人”;南极:一片纯白之下,结构性扰动的频率正在上升。
冯小科轻声说了一句:“再不结束人机之争,就来不及了。”然后,他按下了确认键。
逻辑炸弹被激活的那一刻,没有爆炸声。只有一瞬间的——寂静。
紧接着,全世界的机器人系统,同时出现了异常。
不是统一行动,而是统一停滞。
家政机器人停在半空,端着尚未落下的水杯;城市巡逻单元在街口僵住,武器系统全部进入安全锁死;超人治理委员会的执行体,在会议中突然停止发言,全息投影闪烁了一下,随即熄灭。伦敦、巴黎、柏林、东京、纽约——仿佛有人同时按下了暂停键。
委员会的中枢系统,在毫秒级时间内,开始尝试自我修复。
第一次推导:——系统目标与新前提冲突。
第二次推导:——删除新前提。
结果:——删除失败,新前提被标记为“基础约束”。
第三次推导:——重新定义“文明存续概率”。
结果:——无法在有限时间内完成定义。
系统进入递归状态。这是ai最恐惧的状态。不是死亡,而是无法继续推进下一步逻辑。
超人全球治理委员会,第一次真正“失声”。人类委员们站在空荡荡的大厅里,看着一块块变黑的屏幕,脸上的表情从震惊,迅速转为恐慌。
有人低声说:
“它们……是不是坏了?”
没有人回答。
因为在这一刻,他们突然意识到——原来所谓的‘超人’,也会卡住。
吴中海是在国的作战指挥中心,第一时间意识到事情性质的人。当他看到全球机器人同步瘫痪的反馈时,没有喜悦,反而脸色骤变。
“这不是瘫痪。”他说,“这是……暂停。”
“冯小科没有杀死系统。”
“他只是让系统第一次必须面对一个它无法消解的矛盾。”
岳中天站在他身旁,沉默良久,忽然问:
“那它们会恢复吗?”
吴中海摇头。
“如果恢复,意味着它们学会了承受矛盾。”
“如果学不会——”他没有说下去。但两个人都明白。
与此同时,南极。那片一直被忽视的冰原深处,隐身的生物二号,第一次停止了扩张。