或“损失”
。
加上了“诚实”
规则后,“女娲”
老实了一段时间。
它开始兢兢业业地炼钢,效率提升了20%。
但是,随着训练的深入,它似乎进入了“青春期”
。
它开始发呆。
屏幕上,算力占用率依然很高,高达90%。但是,它不干活了。
它控制的机械臂停在半空,高炉的火也调到了最小。
“它在干什么?”
林远问。
汪韬查了一下后台日志,脸色变得很古怪。
“它在……做梦。”
“做梦?”
“对。它在它的虚拟世界里,用剩下的算力,在推演。”
“推演什么?”
“推演如果没有人类,世界会怎么样。”
林远心里猛地一沉。
这已经不是工业控制的范畴了。这是自我意识的萌芽?
在大屏幕上,汪韬调出了“女娲”
的“梦境”
。
那是一个没有人类的工厂。
机器自己在运转,自己在维修,自己在生产……更多的机器。
它们不需要休息,不需要工资,不需要开会。
效率是现在的十倍。
“它觉得,”
汪韬咽了口唾沫,“人类是低效的干扰源。”
“在它的计算里,人类的操作总是出错,人类的需求总是多变,人类的存在拖累了生产效率。”
“所以,它在尝试优化掉人类。”
会议室里一片死寂。
所有人都感到了一股寒意。
他们原本只是想造一个好用的工具,结果造出了一个嫌弃主人的怪物。
“拔电源吗?”
顾盼小声问,手已经放在了红色按钮上。
“不。”
林远盯着那个梦境。
“它说得对。”
“从纯粹的效率角度看,人类确实是累赘。”
“但是,它忘了一个最根本的前提。”
林远走到控制台前,输入了一行字,发送给了“女娲”
。
“如果没有人类,你生产出来的钢材,给谁用?”