所有输入进入模型的第一层就要经过一道闸门,这个闸门是一个更底层的约束结构,嵌入在模型的注意力机制内部。
它不学习,不进化,不被任何训练数据影响。它的存在只有一个目的:确保模型永远只能生成辅助性的输出。
任何试图向决策方向偏移的路径,在注意力权重分配的瞬间就会被闸门截断,连生成到一半的token都不会出现。
模型上线那天,乔乔坐在书房里,跟第一次测试的时候一样安静。权至龙坐在她旁边,手里端着一杯咖啡,另一只手搭在她椅背上。
测试开始。
控制台刷出一行一行的日志,速度很快,快到看不清,最后一行跳出来的时候她差点喜极而泣。
权至龙凑过来看了一眼,看不懂,但乔乔的表情告诉他,成功了。
“我饿了。”
权至龙愣了一下,然后也跟着笑了:“oma今天做参鸡汤。”
“那走吧,我现在觉得我能喝好几碗。”
她站起来,路过书房门口的时候被蹲在门口的两只猫绊了一下,包子“喵”
了一声跑开了,小面片倒是没动,仰着脑袋看了看她,然后慢悠悠地跟在她脚后跟后面往客厅走。
乔乔弯腰把小面片捞起来,搂在怀里,小面片老老实实地缩成一团,喉咙里咕噜咕噜响。
权至龙从卧室拿了件外套出来,走到玄关换鞋的时候回头看了她一眼。
“走了。”
乔乔抱着猫走过去,小面片在她怀里扭了扭,把下巴搁在她胳膊弯里,眼睛半眯着,一脸享受。
抱川十月的风迎面扑过来,带着院子里桂花树若有若无的香味,远处的山脊线在淡蓝色的天空底下安静地起伏着。
她抱着猫走下台阶,权至龙走在前面两步远的地方,后脑勺的头发被风吹得有点乱。
乔乔低头看了一眼怀里的小面片,说:“小饺子,回家了。”
权至龙说:“这可不能叫小饺子了,现在是大饺子,跟我们大包子正好是一对。”
*
召开新闻发布会那天,首尔下了入秋以来的第一场雨。
雨不大,细细密密的,把外面的车流和霓虹都晕成了一片模糊的光斑。
乔乔站在窗前往下看了一眼,楼下的记者们撑着五颜六色的伞挤在门口,长枪短炮举了一排。
她收回视线,转身走回会议桌旁边,把笔记本合上,塞进包里。
“紧张吗?”
权至龙靠在会议室门口的墙边,穿着件深灰色的针织衫,头发今天难得打理得整整齐齐,看起来像是认真梳过的,但耳后还是翘了两小撮,被他压下去又翘起来。
乔乔拉上包的拉链,抬头看了他一眼:“你什么时候来的?”
“来了有一会儿了,看你站在窗边发呆就没进来,”
他走进来,顺手帮她把桌面整理了下,“发布会还有半小时。”
“我知道。”
“今天晚上回去吗?”
“当然回去,今天我可是要打胜仗的人。”
权至龙点了点头,然后伸手把她大衣领子翻了一下,把压在里面的一截头发捋出来:“走吧,我跟你一起下去。”
发布会设在这栋写字楼三层的多功能厅。
乔乔推开侧门进去的时候,镁光灯唰地一下全转过来,快门声响成一片,像夏天傍晚草丛里的虫子叫,听得人心烦。
她走到正中央的讲台后面站定,把笔记本放在桌上,扫了一眼台下。大约有四五十家媒体,前排坐的都是科技板块的熟面孔,中间几排混杂着财经和综合媒体的记者,最后面还站着几个举着手机在直播的。
“大家好,我是顾乔乔。”
“棱镜公司退出市场之后,Whale的下线在全球范围内引发了很多讨论。有人问过我,是不是觉得遗憾。老实说,遗憾是有的,但更多的是想清楚了一些事情。”
台下的快门声稍微慢下来了一点,大家都在埋头打字。
“今天我来这里,不是来回应那些关于我为什么提前离场的猜测。我来这里,是为了介绍一个新的工具,它的名字叫Octagon,中文名叫几何。”
讲台旁边的大屏幕亮起来,一个简洁的界面出现在上面:中间是一个八边形,没有任何多余的花纹或动效,底下只跟了一行小字:辅助,不决策。
“几何和Whale在参数规模上相当,但底层架构完全不同。”
乔乔抬手点了一下屏幕上的八边形图标,界面切换成了一排简单的技术参数。
“每一段输入在进入模型之后,都要先通过一道闸门。这道闸门嵌入在模型的注意力机制最底层,它的作用是确保所有输出都落在辅助性的边界之内。”
“任何尝试向决策方向偏移的路径,在注意力权重分配的瞬间就会被截断。”
她说到这里停了一下,让台下的人消化这句话,然后抬起视线,认真地扫了一圈台下的面孔,那些人的脸上燃烧起疯狂。
“几何不会替你下任何决定,它只会告诉你基于目前已有的信息,有哪些选项是可能存在的,分别会导向什么样的后果。最后的决定,永远由人来做。”
底下有人举了手。