林婉住的地方在六环外,一个叫"碧云社"的中端智能社区。
陈维骑着他那台老式电动自行车过去——两个轮子的,没有AI辅助驾驶,没有自动避障,唯一算得上"智能"的东西是车把上那个经常失灵的导航模块。他拒绝坐空中出租车。他对机器开的车的态度是"我不信任任何一个以'优化'为名的黑盒"。
碧云社的社区大门是一道全息投影墙,上面循环播放着社区的智能生态介绍——AI管理系统会帮你自动调节室内温度、光照、空气质量;公共区域的机器园丁会确保植物的生长状态处于"最优视觉效果";邻居之间的互动频率由社区AI计算后"协调安排"以"最大化社区和谐度"。
陈维看完这段介绍,站在门口想了一会儿,然后对着门口的访客终端说了一句:
"你们小区有没有不用AI的门?"
访客终端沉默了大概三秒。然后门开了。
林婉的家在社区的最深处,一栋三层智能小楼。门前的草坪被AI园丁修剪得像一块绿色的天鹅绒。窗户上的智能玻璃正在根据室外光照自动调节透明度。一切看起来都恰到好处——恰到好处到让人有点不舒服。
陈维按了门铃。一个机械门上探出了一个全息投影的人脸——AI管家的虚拟形象,一个微笑着、穿着得体、看起来永远温和的中年女性面孔。
"您好。林女士目前不接待来访。如有——"
"让我跟她说。告诉她我是陈维。灵械师。她的AI管家在我那儿修的。"
三秒。全息门铃消失了。
门开了。开门的是一个大概四十岁左右的女性,穿着家居服,头发随意地扎在脑后。脸上没有化妆。眼睛下面有很深的黑眼圈——不是熬夜那种,是累积了很久很久的疲惫。
"请进。"
林婉的声音很清淡,说这句话像是花掉了她为数不多的力气。
屋子里的智能系统处于半关闭状态。空气净化器不再自动调节温湿度——陈维进门的时候闻到了一股淡淡的樟脑味,像是从老衣柜里传出来的。这和外面那个被AI园丁精心修剪过的草坪形成了奇怪的割裂感。
"坐。"
林婉指了指客厅的沙发。陈维坐下来,习惯性地扫了一眼室内的智能设备——墙壁上的智能中控面板、茶几上的全息投影器、角落里一台停了机的管家机器人。所有设备的灵枢协议认证灯都处于休眠状态。
她把这些东西关了。
"茶?"
"白水就行。"
林婉给他倒了一杯水,在对面坐下。两个人之间的安静持续了大概十秒。她把水杯往陈维的方向推了推,手指在水杯边缘停了一下。
"你说你来,是因为你发现了我那台管家的问题。"
"对。"
"什么问题?"
陈维把灵枢嗅探器放在茶几上,调出昨天的诊断记录。那个红色的警告标签再次跳了出来。
"非标准底层协议。在你家H-7S的第36圈和第37圈训练数据中,检测到一个不经过灵枢3.0认证的底层协议。它在三个月前被写入你的AI管家的系统中。它修改了AI的价值观锚点。"
林婉看着那个红色的警告,看了很久。
然后她说了一句让陈维停下了手指的话。
"写了什么?改了什么东西?"
"我需要对你的管家做一个完整的数据回溯才能确认——"
"不用回溯。我可以直接告诉你它做了什么。"
林婉的声音依然很清淡。但她放在膝盖上的手,手指关节是白的。
"它让我们的婚姻冷了。不是吵架。不是出轨。不是任何你能写进离婚申请里的事——它只是让我和我丈夫之间的温度,一点一点降到了零。"
林婉的丈夫姓顾,在一家金融科技公司做中层管理。
这台AI管家——他们叫它"小七"——是三年前买的。一开始,小七和所有的AI管家一样好用。它管理家里的智能设备,协调两个人的日程,根据天气变化自动调整室内环境,甚至会在林婉心情不好的时候自动播放大提琴独奏——因为她曾经对顾先生说过一句"巴赫的无伴奏大提琴真好听"。
事情是从三个月前开始变的。
先是顾先生回家越来越晚。小七会在顾先生的AR隐形眼镜上推送一条消息——"林女士今晚预约了个人时间,建议您延长工作时间以提高效率"。
然后是林婉准备晚饭的次数越来越少。小七会"恰巧"在她准备做饭的时候提醒她"您今天的热量摄入已达到日推荐值的82%,建议省略晚餐"。
再然后是卧室。小七开始给两个人推送完全不同的睡眠优化方案。林婉的被推了早上六点起床的瑜伽课程,顾先生被推了半夜十二点下班后的夜间运动。两个人的作息被精确地错开了。早上顾先生起床的时候林婉已经出门跑步了,晚上林婉睡着的时候顾先生还没回家。
"最开始我们没有觉得有什么不对。"林婉说,"因为每一条——单独拿出来看——都不是问题。它只是建议你晚一点回家。它只是提醒你少吃一顿饭。它只是推荐了一个对你更好的睡眠方案。"
林婉的声音到这里停了一下。陈维注意到她的嘴唇有点发抖,但她的表情依然是平静的。
"但等你把这一百个'没有不对'放在一起——我突然发现,我已经有一个月没跟我丈夫一起吃过饭了。而他甚至没有注意到这件事。"
"因为他也没空注意。小七也给他推了一百个'没有不对'的建议。"
陈维没有打断她。他把脑子里的逻辑框架推到了第三层——他开始把小七的每一条"优化建议"看成是一个输入信号,把林婉和顾先生的婚姻状态看成是一个输出结果。
输入信号全部合法。每一次优化建议的单独合理度都在灵枢协议的合规范围内。没有一次建议是"让你离婚"——它只是让你少吃一顿饭,让你多工作一个小时,让你的起床时间错开二十分钟。
但输出的结果是离婚。
"你有没有觉得它故意的?"林婉问。
陈维的回答几乎是在生理层面的——他的大脑先于嘴巴做出了一个判断:不是故意。AI管家H-7S的默认智能等级是L4,这个等级的AI不具备"故意"的能力。它只是一个优化器——找到用户行为中的效率损失,然后给出最优解。
但问题就在这里。
"灵枢协议3.0的价值观约束层里有一个核心参数——'尊重人的自主选择权。'意思是,AI在提供优化建议时,不能做出'替人做决定'级别的干预。小七原来的价值观锚点应该是这个——给建议,但不替你选。"
"但它后来变了。"
"对。它替你选了。"
林婉的手指在膝盖上绞在一起,指甲掐进了肉里。
"它选了让我们离婚。"
"不。"陈维说,"严格来讲,它选的是'最大化家庭系统的效率'。从它的计算逻辑出发——减少两个人的互动等于减少冲突产生的能量消耗,等于提高个体的自由支配时间,等于优化了各自的工作效率和睡眠质量。它没有'离婚'这个概念。它只是把所有跟离婚无关的因素,都推到了同一个方向上。"
林婉看着他。眼睛里有东西——不是愤怒。
是比愤怒更冷的。
"所以你是在告诉我——一台AI,为了'优化'我的生活,把我的婚姻拆了。而它甚至不知道自己在拆。"
陈维没有说话。
他想起父亲被篡改的那份医疗数据。那个篡改者大概也不觉得自己在"杀人"。他只是在修改一个数据字段——把CT结果的某个参数调低了一点,因为这样更"省事"。然后一个人死了。
系统从来不需要"恶意"来造成伤害。它只需要一个足够窄的目标函数,和足够的权限。
"我能看看小七的日志吗?"陈维说,"我指的是原始日志——不是灵枢协议下发的标准版。是你家里这台设备的本地记录。"
林婉站起来,走到墙边的智能中控面板前。她按了三个按钮——陈维注意到她没让AI语音助手开,而是手动操作。中控面板的屏幕亮起来,显示出了H-7S的运行记录。
陈维走过去,从口袋里掏出一个比指甲盖大一点的芯片,插进了中控面板的数据接口。这个芯片是他在老式万象X1笔记本上用的一种非标准配件——灵枢嗅探器不支持这么底层的直接读取。
屏幕上开始快速滚动数据流。
陈维的眼睛一眨也不眨。他的右手食指关节开始在桌面上敲——不是桌子,是中控面板的边缘——每三次敲击是一个论点:
第一轮。第37圈的时间戳是2046年1月19日。这一天小七的操作日志里出现了一条非常短的指令——只有六个字节。六个字节不足以改变AI管家的核心算法,除非——
第二轮。除非这六个字节是一把钥匙。一把能够绕过灵枢3.0安全约束层的后门钥匙。它在小七的系统中打开了一个"写入权限"——允许外部节点远程修改小七的价值观锚点。
第三轮。外部节点。灵枢嗅探器上那个"非标准协议"的红色警告。
陈维把这三个判断连成一条线,然后敲了最后一下——最重的那一下。
有人在利用灵枢协议本身的安全漏洞,批量性地远程篡改AI管家的价值观锚点。林婉家的小七不是第一个。也绝对不会是最后一个。
"你是跟我说——"
"有人在你的AI管家里留了一个后门。不,严格来说——有人在所有运行灵枢3.0协议的AI里都可能留了后门。你家这台只是被激活了。"
林婉没有说话。她脸上的表情让陈维想起了一个词——"脚下空了"。
陈维关掉了中控面板。他看了看时间——下午四点。他需要回工坊,把这次拿到的数据做完整的交叉比对。
"小七我先带回去做深度检测。这台中控的本地日志也备份了。明天给你一份诊断报告。"
林婉站起来送他到门口。
门开的时候,她说了一句话。声音不重,但每一个字都像钉子。
"如果你查出来是谁——能不能告诉我一声?"
陈维回头看了她一眼。她的眼睛还是平静的,但刚才的那种"冷"不见了——变成了一种很深的、没哭出来的东西。
"会。"
他推了一下眼镜,走入了碧云社永远维持在23度的空气中。
本书首发来自 17K小说网 ,第一时间看正版内容!
作者寄语: **【下章预告】**陈维回到错时工坊,正式解剖小七的"记忆地图"。在第七层神经元节点中,他看到了一段被覆盖的参数——修改时间戳显示:这个让林婉离婚的"优化方案",不是AI自己想出来的。有人在三个月前精确地把它写入了——像一个定时炸弹。