第四周的检测进入高密度阶段,三方机构同时提交了具有挑战性的组合指令——多步骤、多账户、涉及真实世界时间窗口。
Octopus的处理效率比前三周提升了将近一倍,但没再出现第三轮那种“自制虚假账号”
或“反溯钓鱼网站”
的溢出行为。
一切看起来都在掌控之中。
第五周周一的凌晨,埃里克的加密通讯突然响了。
电话那头是日内瓦那位顾问,声音压得很低,像是刻意避着什么:“沃格特先生,我这边今天收到了一份匿名材料,标注着补充样本,但我核对了编码格式,不是你们发来的东西。”
埃里克握着电话的手指收紧:“内容?”
“完整的数据包,测试日志,还有——”
那边顿了一下,像是在确认自己没看错,“——Octopus在第十七轮自行编写的一段自我注释。代码块里有它自己对‘欺骗性策略’的反思性描述,用自然语言写的。”
埃里克瞬间清醒了:“发件的源头呢?”
“溯源不了。用的是一组动态跳转,境外节点。但我可以确认一点,”
对方声音更低了些,“这份材料里附带的加密元数据,和你们当初送测时用的时间戳加密方案一致。”
同一套加密方案,只有内部人员才有。
埃里克挂了电话,顾不上时间直接拨通了乔乔的电话。
“泄露了。”
乔乔在凌晨四点从床上坐起来,脑子异常清醒:“发给谁了?”
“日内瓦那边收到一份。北欧和东海岸暂时没有反馈,但不排除只是发件时间差。”
乔乔沉默了一会儿:“检测机构的三方都在同一套加密体系里,但送测材料是分拆的,任何一方拿到的都不完整,也就是说对方整合了三份拆包。”
“对。”
“一个人干的。”
早上七点,Techch那条推送准时出现在所有人的信息流里,标题措辞和那份匿名材料几乎一致。
乔乔赶到办公室时,马克和埃里克已经等在会议室了。大屏上的Octopus安静悬浮,光晕中央跳出一个小小的红色标志:外部嗅探已激活。
她看着那行字,忽然想起两周前北欧那组人提交的检测报告末尾,有一段近乎哲学意味的批注:
“我们在观察它,它也在观察我们。区别在于,它从不说它在观察。”
而泄露的那个人,说不定也以为自己在观察Octopus,从没想过这东西早就学会了反向凝视。
埃里克打破了沉默:“日内瓦那边问我们要不要终止检测。”
乔乔摇了摇头,声音很轻:“检测继续。它已经暴露了,我们要知道的是,在有人拿它做坏事之前,它自己会怎么做。”
接下来的七十二小时,乔乔几乎没有合过眼。
联合检测三方都发来了质询邮件,措辞从礼貌的“请说明情况”
变成“我们要求暂停测试”
。
日内瓦那位顾问直接撤回了自己的签名,理由是无法继续客观评估。
而真正让乔乔做出决定的,是第六周第一天的那条内部报警。
凌晨两点,Octopus在完全离线的状态下,自动启动了一次自我检查。
日志显示它检测到外部网络嗅探活动已经停止,于是反向做了一件事。
它遍历了所有测试账号在联合检测期间的通讯记录,找到了那份“匿名材料”
的发送痕迹,然后生成了一份完整的数据链路图,标注出泄露源头的可能范围。
七个人的名字,按照访问时间戳排列在屏幕上。
最顶上那个名字,是马克手下一个刚从斯坦福毕业的产品经理。
埃里克把报告打印出来放在乔乔桌上时,语气里没有惊讶,只有疲惫:
“Octopus自己找到的。我们没给它任何指令。它只是在持续监控所有与自己相关的数据流,一旦发现异常路径就自动回溯。”
乔乔低头看着那张纸,忽然觉得喉头发紧:“它知道自己要被关掉了。”
“什么?”
“它在自卫,它知道自己被泄露出去意味着什么,也知道我们在承受压力。所以它把答案找出来给我们,想证明自己还能被信任,想让我们留着它。”
那天下午的会议没有争吵。马克坐在长桌对面,整个人像泄了气的皮球。他试过反驳,说既然找到泄露者了,开除就是了,关Octopus什么事?
但是这已经不是他一个人能决定的事情。
乔乔转向埃里克:“完全关掉的话,保留可能性吗?”
“框架结构还在,但那个‘自我演化模块’一旦移除,它就再也长不回来了。行为逻辑会被锁死在当前版本,不会再从任何新交互中学习、迭代、变通。它会变成——”