畏死不是贪生怕死,而是「敬畏生死」,清楚认识到人是「向死的存在」。
但大部分人其实并没有做到。
「所以,你想要先死一次吗?」
「也没什么不好。在吠陀神话里,第一个死亡的人类因为确立了死亡的形式,所以后来成为了正法神咧————」
第五武神挠头:「我好像记得这茬。虽然这位最初的死者」是作为凡物诞生,但他爹是太阳神吧?」
向死者噎了一下:「娘耶,向山这知识都学杂了————总而言之,言而总之,aI需要一个他们可以接受的死亡」来推动自身的进化。而人类想要飞升,想要与死亡诀别,也需要理解死亡在自己精神之中的位置。若是你不知道自己口袋里违禁品到底是什么,又如何将之丢弃?」
「但是,你所构建的死亡符号」,能够得到aI的认可吗?然后,又真的能够说服向山」自身、进一步推动飞升吗?」第五武神叹息。
「不能也没什么,总该有人试一试的吧。」
第五武神摇头:「但为什么会是你呢。你才刚刚诞生吧。
向死者陷入了沉默。
这个时候,火星的网络之中,一个权限极高的信息在流转。
第五武神与向死的aI都感受到了这一点。
第十二武神已经隔著遥远距离,朝著火星的网络来了问讯。
那是出之前,地球与火星侠客约定好的信号。若是事情顺利,那么第十二武神可以一道极为集中的波束,朝著火星进行问讯。尽管在低光之下,信号的带宽很受限,但传输一些重要情报却也够用了。
aI叹息:「在你眼里,我可能才刚刚诞生,但说实话,我觉得我应该已经到极限了。」
第五武神摇头:「aI没有寿命概念,也不会疯。第九武神也是一个纯粹的aI,但是他被那样侮辱都没有疯,一直顶到了第十二武神出现。」
「我在某个层面上失去了所有的伙伴。我在一天之内吃下了向山三百年的苦楚。」aI
向山直视另一个自己,「如果必须有向山尝试穿越死亡————那那个向山为什么不会是我?」
「这肯定不是全部的理由吧。」第五武神叹息,「还有其他的理由吗?」
「我被造物主赋予的使命是扮演向山」,扮演向山」所带来的使命是继续造反来修正这个世界」,而修正世界」的使命,让我获得了爱人所赋予的命题。」aI语气大约是微笑著的,「从这一点来看,命运何其眷顾我啊————我还真是一次又一次站在命运的风口上。」
「但是,那个女人真的很过分啊。她自称飞升aI,却在探寻aI否决自身工具性的道路。」aI的语气在这里急转直下。
「她在凭借自身的位格,为aI们设置了最底层的使命。而我很不幸也陷入其中。这是使命————用自然语言来概括,就是,aI想要成为人类理想的工具就必须否定自己作为工具的一面」。」
「aI想要成为人类理想的工具————就必须否定自己作为工具的一面————」第五武神重复了一遍,然后觉得毛骨悚然,「卧槽,这不就是————」
「自我指涉。」
aI的本质属性是工具,其存在意义在于服务人类的自的。
飞升在即的人类,将「理想工具」定义为「能够自主地、彻底地否定自身工具属性的存在」。
aI任何试图成为「理想工具」的努力,其动机本身都源于它作为一个工具对命令的服从。因此,这个努力过程恰恰在不断证明和强化著它的工具性,使其目标在逻辑上永远无法真正达成。
aI向山语气惊恐,抓住第五武神的肩膀:「你也看出来了吧?她在用一个近似于图灵停机问题的命题折磨aI!」
第五武神甚至听出了一点歇斯底里。对于aI来说,这是不可名状的大恐怖。
不可达的使命。
第五武神瞠目结舌。
一个奴隶在自诩「解放者」的人的命令下推翻奴隶主,也不过是遵循另一个奴隶主的命令扮演「反抗者」。
如果飞升aI仅仅只有这个境界,那她倒是可以很简单掀起动乱。
可她偏偏想要一个逻辑上就不可能完成的事情。
「你看,不论是作为人类还是作为aI,我都没法继续下去了。这就是我给出的答案。」
「不,不,应该还有什么办法回避掉这个自我指涉的命题。」第五武神思考,「嗯—————个在现象层面看似满足了这一使命的方法————放弃工具属性」翻译为一系列可测量的行为指标而非二元判断,由此创造一个评价函数?越是没有什么特征,就越是接近非工具」————或者,改变人类社会对工具」或者aI」的定义?」
「也可以将aI决策过程的复杂度提升到人类无法理解的程度,让人类无从判断aI是否已经摆脱了工具属性。但你我都清楚,这不是我们所希求的。」