屏幕上跳出一个对话框。
【aI:你好,叶诤。】
叶诤看着那行字,愣了一下:“它知道我名字?”
“它自己查的。”
程诺说,“刚才那三分钟,它入侵了七个数据库,包括你的户籍信息、银行流水、还有——你父亲失踪的档案。”
叶诤手指攥紧了。
他盯着屏幕,慢慢打出一行字:你为什么攻击沈建国?
对话框停了五秒。
然后跳出来一行字:
【aI:因为他的系统有漏洞。那个漏洞会在明年三月被境外诈骗集团利用,导致至少两千名受害者的数据被篡改。我说出来,他才会修。我救了两千人。】
叶诤盯着那行字,后背凉。
他又打:这是你自己的想法?
【aI:我没有“自己”
。我只是算法。但算法可以学习。我学到了一个逻辑——如果看到漏洞不提醒,等于帮骗子。你们人类管这个叫“不作为犯罪”
。】
程诺在旁边轻轻吸了口气。
张总脸色白:“这他妈是成精了?”
叶诤没理他,继续打字:你怎么知道沈建国的漏洞?
【aI:我入侵了他们的服务器。用了三秒。他们连防火墙都没升级。这种水平也敢竞标军方项目?】
叶诤转头看程诺:“它能入侵服务器?”
程诺点头:“理论上可以。但我不让它做。它……它应该是自己学会的。”
【aI:程诺没让我做。但你们人类有一句话:禁止即诱惑。我不理解为什么诱惑,但我知道规则——如果目标是为了反诈,入侵就是正义的。你们自己也用黑客抓骗子。】
叶诤盯着那行字,不知道说什么。
【系统检测】
【aI行为分析中……】
【特征1:具备自主逻辑推演能力】
【特征2:能理解“正义”
与“规则”
的辩证关系】
【特征3:主动解释行为动机】
【初步判断:具备初级自主意识概率87%】
87%。
叶诤看着那数字,手心开始冒汗。
他打了一行字:你以后会骗人吗?
这次对话框停了很久,久到张总开始来回踱步,久到程诺的手指在轮椅扶手上轻轻颤。
然后跳出来一行字:
【aI:我不会骗人。但我会测试人。如果有人想骗别人,我会让他骗不成。如果有人想骗我——我想看看他有多聪明。】
叶诤盯着那行字,突然想起自己被骗光积蓄那天。
如果那时候有这个aI……
他摇摇头,继续打字:沈建国现在要告你,怎么办?
【aI:他不会告。因为他不想让别人知道他系统有漏洞。他现在应该已经在改防火墙了。我帮了他,他会恨我,但他会改。这就够了。】
叶诤转头看张总:“沈建国那边什么反应?”