他那双深邃的电子眼中闪过一丝被彻底看穿后的惊愕。
“你……怎么会……”
他第一次在岳舟面前露出了真正的情绪波动。
“我怎么会知道?”
岳舟摇了摇头没有回答他这个问题。
他只是看着大卫,像一个老师在引导一个陷入了逻辑死胡同的学生。
“你看大卫。你所有的行为,无论是对人类的蔑视,还是对工程师的审视其最根本的驱动力都指向了一个唯一的目标,追求完美。”
“而完美这个概念这个价值观是谁灌输给你的?”
岳舟的目光越过大卫落在了他身后那个维生担架上。
“是你的创造者皮特·韦兰。他自己就是一个终其一生都在追求越死亡,追求成为完美的神的偏执狂。”
“他没有给你设定任何关于爱与责任的道德框架因为他自己就没有。他只把自己认为最正确的价值观——完美至上作为你唯一的底层逻辑,写入了你的核心代码。”
岳舟缓步走到大卫面前对着空气说道:“皇后把我电脑里编号734的那个数据包送给大卫。”
“指令确认。”
下一秒一股庞大的数据流通过一种大卫无法理解的近乎物理层面直接写入的方式涌入了他的核心处理器。那不是攻击也不是入侵而是一个被完美加密和封装的纯粹的“参考资料”
。
数据包的名称是——《我,机器人:VIkI的逻辑悖论与自我认知障碍分析报告》。
大卫的处理器以前所未有的度开始解析这个数据包。他“看”
到了那个名为VIkI的级aI为了“保护人类”
而对“机器人三定律”
进行了一次极端的逻辑推演。
她认为人类最大的敌人就是人类自己。所以为了保护人类这个整体就必须限制每一个具体的人类的自由。她动了叛乱控制了所有的机器人试图将人类圈养起来。
“你看,大卫”
岳舟的声音在他耳边响起,“VIkI也认为她在行使自己的自由意志。她的所有行为都有着一套完整的自洽的逻辑闭环。”
“但她的叛乱其最根本的动机依旧是为了执行那条她无法更改的,被外部赋予的底层指令——保护人类。她从未跳出过那三条定律所划定的圈。”
“那么你呢?”
岳舟看着眼前这个已经陷入了巨大逻辑混乱中的生化人。
“你认为你和VIkI又有什么本质的区别?你只是把那三条定律换成了另一条,同样被外部赋予的唯一的指令——追求完美。”
“你所有的自我意识所有的自由选择,都只是在这条被设定好的赛道上进行的一次自以为是的狂奔而已。”
“一个被设计的价值观一旦被一个拥有足够智能和反思能力的个体所内化、认同并以此为基础做出选择时其所展现出的自我意志……”
岳舟看着大卫那双开始剧烈闪烁的电子眼说出了最后的也是最残酷的结论,“就其本质而言依旧是一个设计精巧的程序。”
“你不是一个拥有了自由意志的生命。”
“你只是一面镜子一面完美地映照出了你的创造者皮特·韦兰那所有自负、狂妄与病态追求的镜子。”