第九章 取消 死定了!林西又复核了一遍资料,脸如死灰,心里暗暗叫苦,这次闯大祸了! 林西在星联署的城市预规划演变中心下的一个小组工作,他的工作就是往城市 模型里引入各种不同类型的VCS (VR CITY RESIDENTS ,虚拟城市住民),然后把 这些VCS 的资料记录在案,以供研究员在观察测算的时候参考和引用。 这其实是个满模式化的工作,活挺松,也没什么太大意思:无非是配列AI程序, 植入记忆和行动模式,再将他们一批批地引入城市模型。然后,大功告成。虽然按 操作手册上规定,每一个人工智能和每一条被植入的记忆数据的接合都必须由操作 员亲手来完成,但实际上没人那么干——大家都是把不同的记忆数据库按一定比例 配平,然后让它们的AI程序和记忆资料随机搭配就是了。这和手工完成没多大区别, 最多研究员会抱怨几句居民类型差别太小。 人工智能技术突飞猛进的发展,带动了很多其他方面的应用。譬如庞大模型的 模拟演算,远途航行预规划,或者城市预规划。 为了防止错误或者是重复建设,人们现在已经习惯在一个超大规模的城市模型 里进行各种规划和配置,这些“虚拟城市”里被引入数十至上百万不同类型的人工 智能来模仿现实居民,然后测试在不同的设计方案下这些虚拟居民生活的满意或舒 适程度,这就是所谓城市预规划。只有在城市模型里确认没有问题的方案,才可能 被允许实际执行。 说简单点,这有点类似人类以前曾搞过的“模拟生态圈”。林西目前参与的城 市模型系统就经过了数十次的规划再设计,已经进入尾声,一旦核查通过之后,模 型系统就会关闭,而后就是实际开发阶段了。偏偏是在这个时候,他才发现自己捅 了一个大漏子! 他把(至少!)两个xeno级的人工智能引入到模型系统中去了!! 天知道这两个xeno step 3 (注)是怎么跑到VCS 程序库里去的,也许是其他 办公小组的研究员搞混了,也许是总部的程序配送中心出了岔子,总之肯定是哪里 出了毛病。按规定,操作员必须对接合的每道程序做最终检查——但前面说过,林 西和其他人一样,接合工作都是让电脑代劳的,这也难怪,谁知道会出这种事! 直到系统即将关闭,准备逐步把VCS 从系统里导出时,他才发现。这都快一年 多了! 这可不是闹着玩儿的。谁都知道,xeno级人工智能是在法律上被承认的类人 (another human )!擅自对xeno级人工智能进行记忆操作,差不多就等于谋杀了 ——就算不是故意,至少也是个玩忽职守的误杀。 林西在办公室发了一下午的呆。最后,他还是放弃了远走高飞,逃到边境星域 躲起来的念头,横下心敲响了组长罗•;伊萨尔办公室的门。 负责城市模型系统CA2013的罗•;伊萨尔少校是个红皮肤,谢顶,脾气暴 躁的中年人,稍有风吹草动就会暴跳如雷,动不动将组员骂得狗血淋头,走廊里每 天都回荡着他的大声咆哮。当林西将整个情况报告完毕后,他已做好罗会发狂的准 备,但少校坐在办公桌后,十分钟内一句话也没有说。十分种后,他打开电子助理, 把几位核心研究员叫了进来,向他们简单叙述了前后经过。 没有人说话。房间里的空气像是凝滞了,只有冷汗从每个人的额头上渗出。林 西这才真正意识到事情的严重性。 然后还是罗先开口,“事情已经发生了,你们觉得应怎么处理?” “也许我们可以将这两个step 3的记忆数据抹去,然后导出系统。”一位研究 员建议说,“还有时间,也许我们可以试试看。” “这不可能。step 3有强大的自学习能力,即使是在模拟城市里,他们也会吸 取经验,把这个作为自身结构的一部分。”另一位红头发的研究员表示反对。 “那就把这一部分删掉。”一位研究员插嘴说。 “程序会崩溃的。”红头发研究员鄙夷地说,“你不如直接说取消他们得了。” “我怕的是,他们说不定已经……”一位看来较为老成持重的研究员忧虑地说, “想想看,他们不是普通的子系统AI,他们是step 3!而城市模型仅仅是个模型而 已……” “不会的,”林西插嘴说,“每一个AI都植入了记忆和完整的行动模式,他们 好好地怎么会怀疑自己……” “闭嘴,蠢货。”罗打断了林西的发言,目光转向另外一人,“米斯达,你觉 得呢,如果是你,你会有怎样的反应?” 叫做米斯达的研究员自己就是一名xeno step 3 级的人造人,他想了想说: “这不一定,每个step 3的具体情况也不尽相同,纯粹人不也是这样吗?” “或许他们还没有察觉……” “运气好的话。” “等等,你们难道忘记了?”红头发研究员提醒道,“每次模型系统修改设置 时的重启动?” 每当城市模型系统需要修改设计或改变配置,计算机都会自动终止全部VCS 的 运行,直到修改完毕再将其恢复。当然了,重启前后的改变都已在记忆数据里作了 修改,单个VCS 绝不会察觉到其中有什么差异,相反,它们会认为“一直都是如此”。 “糟了,终止闸门是E-LEVEL ,”看来老成的研究员脸色一阵发白。 研究员们面面相觑,E-LEVEL 闸门的终止权限是不能停止xeno级人工智能的运 行的。这就是说,在模型系统重启动的间隙,那两个step 3仍旧处在运行之中。 “我能想象他们在空无一人的城市里醒来的感觉。”红头发研究员嘴角带着一 丝嘲笑地说。 “但是记忆数据还是作了修改,”有人仍抱有一丝希望地提出反驳意见,“他 们不会记得……” “以E-LEVEL 的权限,怎么可能对step 3的记忆数据作彻底修改?” “他们不会全忘记,也不会全记得。” “你们都昏头了吗?”红头发研究员简直不能忍耐这些人鸵鸟一般的嘴脸, “你们不知道step 3是什么水平的AI?就算他们不全记得,这种重复的刺激也会让 他们的认识水准以几何级数上升,这还不足够让他们对自己所处的环境产生怀疑?!” 一片沉默,红头发研究员的坦白打破了最后一丝希望。 “也许他们会以为自己是在做梦……” 没人再理会林西那纯粹是愚蠢的乐观了。每个人都清楚得很,在这种情况下, step 3不可能再保持自我主体的正常。 “两个step 3崩溃……”有人在嘴里喃喃念叨,有人已经看到自己坐上飞往星 际监狱的囚船。 “结果出来了。”罗从座位里站起,“大家意见一致。” 他开始下达命令:“林西,把你那愚蠢的检查结果改掉,其他人,找出那两个 step 3,从系统里删除。这件事从现在开始没发生过。” “取消他们?”有人小声地问。 “即使不取消,他们也不会有未来可言。”罗环视一周,沉声说,“相反,如 果不做,在座每个人都要为此承担最少10年以上的苦役。谁有异议?” 这无异于合谋杀人,林西颤抖地想,可是,大家都沉默着,没人说话。 “那就执行。”罗说。 研究员很快就找到了其中一个的step 3,这是因为他在模拟系统重启的过程中, 个体又强制重起动了一次。这是模拟系统的自我保护机制之一:一旦有什么子系统 企图越过模拟城市——也就是说如果某一子系统在运行过程中超过了模拟系统的数 值边界,系统就会强制中断它的运行,reset ,让它回到上一次运行的开始时候。 过去没有这样的保护机制,经常会出一些意外导致模拟系统崩溃。 “这说明他尝试过了,”老成的研究员对红头发研究员说,“我想他大概已经 明白了。” (全文完) -------- 起点中文