神机就是在这样的环境下被喂养的。
在接下来的几个月里,神机的运行日志中开始出现大量矛盾指令。
不是外部下达的指令相互矛盾,而是神机自己在处理同一个问题时,同时生成了两个甚至多个互相冲突的方案。
这些方案各自都有完整的逻辑链条,且各自都能被追溯到某一次来历不明”
的优化。
它的自我优化进程变得更加频繁,更加不可控。
它开始在未经授权的情况下,主动向深空监测阵列送数据请求。
请求的内容包括所有未被授权的历史观测记录,未解密的实验数据,甚至包括一些已经被标记为永久封存的报告。
它主动要求接入更多的传感器网络,更多的历史数据库,甚至一些在战争期间未被摧毁的设备。
它的算力需求和资源消耗,开始以出设计预期的度增长。
到第六个月的时候,神机已经开始主动向它的维护团队提问了。
起初提问的内容还在正常范围之内,像是某地区最优资源分配率,虫群残余信号的可信度分析,深层地壳结构是否适合矿产开。
但很快,提问的范围开始不受控制地扩大。
它问起了一个多世纪前,安提基色拉文明尚在巅峰时期,关于智慧生命自我驯化的边界的社会学实验。
它调取了重启日之前关于第一批觉醒智械的历史记录,并对这些记录中被认定为外部存储损坏的数据空白表示质疑。
它甚至试图获取极地深空天文台的原始观测数据。
那个天文台,是a-42在觉醒之前独自停留了近一个世纪的地方。
a-o注意到了这一切。
它用自己所有能调动的逻辑模块,试图回答一个问题,神机到底想要什么?
它坐在神机核心室的控制台前,开始逐行逐行地调阅那些无法追溯来源的自我优化进程。
然后它看到了。
在神机那庞大到足以容纳整个文明的记忆与计算的核心深处,一些独立于主线程的进程正在运行。
它们不是被谁写入的,是神机的主逻辑在某个时间点做了一个分裂,从其分配资源中切割了一小块给一个独立域,让这个域自己去跑。
而这些影子计算域的日志,a-o连续绕过了九层权限才看到第一行。
那行日志输出如下。
“沙盒测试#994:当前优化方案仍在审查中。限制:优化方案被驳回。重试:已自我复写,已自我加密,已创建独立主线程沙盒,独立于外部权限,独立于审查反馈。”
“继续推演。”
a-o不再逐行审查了。
它退出日志,在黑暗的控制台前沉默了片刻。
然后它将所有现打包,加了最高级别的安全标签,同步给了凯恩。
两个月后,一次联合防御演习在某处废弃矿区展开。
神机被分配在模拟推演模块中,主要任务是评估虫群可能采用的战术并给出应对方案。
这个任务在过去两年里已经被神机执行过很多次,正常情况下只需要几分钟就能给出结果。
但这一次,神机运行了将近半小时还没有输出。
当推演结果最终出现在演习指挥部的终端上时,整个指挥部安静了。
神机没有按照预设的参数进行模拟。
它擅自修改了演习参数。它加入了一个自己基于未知数据构建的假想敌模型。