“DM集团的智能空调,昨晚自动把设定温度,调高了0。1度。”
“大江的物流无人机,飞行高度降低了0。5米。”
“甚至我们的算力币交易系统,每笔手续费,多收了0。0001个币。”
“所有的系统,都在发生微小的变化。”
“就像是整个世界的钟表,都慢了一秒。”
这听起来不像是故障,倒像是恶作剧。
“查过病毒吗?”
“查了,全盘扫描,没有任何木马。”
王海冰擦着汗,“代码也是干净的,和源文件一模一样。”
“这就邪门了。”
顾盼感觉背后发凉,“难道是AI自己觉醒了?想偷懒?”
林远看向陈墨。
陈墨盯着那些数据,眉头第一次皱了起来。
“不是觉醒。”
“是基准被改了。”
“什么基准?”
“尺子。”
陈墨在黑板上画了一把尺子。
“如果有人潜入你的房间,把你量东西用的尺子,偷偷磨短了一毫米。”
“你再用这把尺子去量东西,量出来的数据都是对的符合尺子的刻度。”
“但是,造出来的东西,全是错的。”
“有人,修改了你们系统的底层常数。”
“底层常数?”
王海冰大惊,“那是写死在芯片里的啊!比如圆周率、重力加速度、自然常数……这些怎么改?”
“不用改物理常数。”
陈墨摇头。
“他改的是权重的权重。”
陈墨解释了一个极其抽象的概念。
“现在的AI,本质上是一个巨大的神经网络。里面有几千亿个参数权重。”
“这些参数,就像是一个复杂的天平。”
“攻击者没有动天平两边的东西。”
“他只是在天平的底座下,垫了一张纸。”
“这张纸很薄,薄到你看不见。”
“但是,它让整个天平歪了。”
“所有的决策,都会顺着这个歪的方向,发生一点点偏移。”
“这一点点偏移,在炼钢上是少加点石灰,在金融上是多收点手续费。”
“但是,如果这种偏移累积起来……”
陈墨在黑板上画了一条指数曲线。
“这就是蝴蝶效应。”
“现在的0。1%,一个月后,就会变成巨大的灾难。”
这章没有结束,请点击下一页继续阅读!
“高炉会因为积渣而爆炸;无人机会因为高度过低而撞楼;金融系统会因为账目不平而崩盘。”
“这是慢性毒药。”
全场死寂。
这种攻击手段,闻所未闻。
它不破坏系统,它只是让系统“变坏”