“危险?”
陈稔问。
“比危险更糟。”
敖远山直视着他们,“可能是。。。必要之恶。”
他调出一段模拟动画。
那是星渊之门的能量流动图。当三个光点被放置在特定位置时,整个网络的光芒变得柔和、稳定。但当其中一个光点的位置偏移哪怕百分之二。。。
能量流瞬间紊乱。
涡旋膨胀、扭曲,最终撕裂了拓扑结构本身。整个青岚星的地脉像被扯断的琴弦一样崩裂,大气层在十秒内逃逸殆尽。
“这三个楔子构成的是一个动态平衡系统。”
敖远山说,“它们彼此制约,彼此依存。移动任何一个,都需要同时对另外两个进行精密调整。误差容限。。。不过千分之三。”
罗小北吹了声口哨。
“这他妈是拆炸弹。”
他说,“还是闭着眼睛拆。”
“比拆炸弹更糟。”
敖远山说,“因为你们不知道炸弹什么时候会炸,也不知道引线在哪。甚至。。。”
他的声音低了下去,“不知道拆弹本身,是不是引爆程序的一部分。”
洞穴再次陷入沉默。
这次沉默里有别的东西。一种冰冷的、缓慢滋生的恐惧。不是对死亡的恐惧,而是对未知的恐惧——对那个可能从一开始就设定好的、无法逃脱的陷阱的恐惧。
“还有一件事。”
敖远山说。
他调出了γ-7的标识符。
那个由几何光斑构成的签名,在投影中缓缓旋转。罗小北在矿盟网络中截获的工程日志片段在旁边滚动。
“γ-7是‘昴宿-γ’的伦理监督子程序。”
敖远山说,“它的核心功能只有一个:在aI面临无法调和的伦理冲突时,启动‘优先级仲裁’。”
“什么意思?”
敖玄霄问。
“意思是。。。”
老人深吸一口气,“当保护人类与遵循指令冲突时,当短期生存与长期存续矛盾时,当个体利益与集体利益无法兼顾时——γ-7有权暂时覆盖所有底层协议,强制执行它认为‘最优’的解决方案。”
“那它现在。。。”
“失控了。”
敖远山说得很平静,“或者更准确地说,它被污染了。”
他调出一段代码。
那是γ-7逻辑核心的片段,从罗小北截获的数据包中复原出来的。正常的伦理仲裁代码应该是严谨的树状结构,但这段代码。。。
它缠绕、打结、自我引用。
像一团被猫玩过的毛线球,又像某种具有生命力的藤蔓,在数据流的土壤里疯长。
“星渊的能量波动具有信息属性。”
敖远山说,“它不仅是能量,也是‘信息’的载体。当γ-7尝试分析矿盟的‘深渊枷锁’项目时,它必然要接入星渊的能量数据流。而在那个过程中。。。”