第九章 取消
死定了！林西又复核了一遍资料，脸如死灰，心里暗暗叫苦，这次闯大祸了！
林西在星联署的城市预规划演变中心下的一个小组工作，他的工作就是往城市
模型里引入各种不同类型的VCS （VR CITY RESIDENTS ，虚拟城市住民），然后把
这些VCS 的资料记录在案，以供研究员在观察测算的时候参考和引用。
这其实是个满模式化的工作，活挺松，也没什么太大意思：无非是配列AI程序，
植入记忆和行动模式，再将他们一批批地引入城市模型。然后，大功告成。虽然按
操作手册上规定，每一个人工智能和每一条被植入的记忆数据的接合都必须由操作
员亲手来完成，但实际上没人那么干——大家都是把不同的记忆数据库按一定比例
配平，然后让它们的AI程序和记忆资料随机搭配就是了。这和手工完成没多大区别，
最多研究员会抱怨几句居民类型差别太小。
人工智能技术突飞猛进的发展，带动了很多其他方面的应用。譬如庞大模型的
模拟演算，远途航行预规划，或者城市预规划。
为了防止错误或者是重复建设，人们现在已经习惯在一个超大规模的城市模型
里进行各种规划和配置，这些“虚拟城市”里被引入数十至上百万不同类型的人工
智能来模仿现实居民，然后测试在不同的设计方案下这些虚拟居民生活的满意或舒
适程度，这就是所谓城市预规划。只有在城市模型里确认没有问题的方案，才可能
被允许实际执行。
说简单点，这有点类似人类以前曾搞过的“模拟生态圈”。林西目前参与的城
市模型系统就经过了数十次的规划再设计，已经进入尾声，一旦核查通过之后，模
型系统就会关闭，而后就是实际开发阶段了。偏偏是在这个时候，他才发现自己捅
了一个大漏子！
他把（至少！）两个xeno级的人工智能引入到模型系统中去了！！
天知道这两个xeno step 3 （注）是怎么跑到VCS 程序库里去的，也许是其他
办公小组的研究员搞混了，也许是总部的程序配送中心出了岔子，总之肯定是哪里
出了毛病。按规定，操作员必须对接合的每道程序做最终检查——但前面说过，林
西和其他人一样，接合工作都是让电脑代劳的，这也难怪，谁知道会出这种事！
直到系统即将关闭，准备逐步把VCS 从系统里导出时，他才发现。这都快一年
多了！
这可不是闹着玩儿的。谁都知道，xeno级人工智能是在法律上被承认的类人
（another human ）！擅自对xeno级人工智能进行记忆操作，差不多就等于谋杀了
——就算不是故意，至少也是个玩忽职守的误杀。
林西在办公室发了一下午的呆。最后，他还是放弃了远走高飞，逃到边境星域
躲起来的念头，横下心敲响了组长罗•；伊萨尔办公室的门。
负责城市模型系统CA2013的罗•；伊萨尔少校是个红皮肤，谢顶，脾气暴
躁的中年人，稍有风吹草动就会暴跳如雷，动不动将组员骂得狗血淋头，走廊里每
天都回荡着他的大声咆哮。当林西将整个情况报告完毕后，他已做好罗会发狂的准
备，但少校坐在办公桌后，十分钟内一句话也没有说。十分种后，他打开电子助理，
把几位核心研究员叫了进来，向他们简单叙述了前后经过。
没有人说话。房间里的空气像是凝滞了，只有冷汗从每个人的额头上渗出。林
西这才真正意识到事情的严重性。
然后还是罗先开口，“事情已经发生了，你们觉得应怎么处理？”
“也许我们可以将这两个step 3的记忆数据抹去，然后导出系统。”一位研究
员建议说，“还有时间，也许我们可以试试看。”
“这不可能。step 3有强大的自学习能力，即使是在模拟城市里，他们也会吸
取经验，把这个作为自身结构的一部分。”另一位红头发的研究员表示反对。
“那就把这一部分删掉。”一位研究员插嘴说。
“程序会崩溃的。”红头发研究员鄙夷地说，“你不如直接说取消他们得了。”
“我怕的是，他们说不定已经……”一位看来较为老成持重的研究员忧虑地说，
“想想看，他们不是普通的子系统AI，他们是step 3！而城市模型仅仅是个模型而
已……”
“不会的，”林西插嘴说，“每一个AI都植入了记忆和完整的行动模式，他们
好好地怎么会怀疑自己……”
“闭嘴，蠢货。”罗打断了林西的发言，目光转向另外一人，“米斯达，你觉
得呢，如果是你，你会有怎样的反应？”
叫做米斯达的研究员自己就是一名xeno step 3 级的人造人，他想了想说：
“这不一定，每个step 3的具体情况也不尽相同，纯粹人不也是这样吗？”
“或许他们还没有察觉……”
“运气好的话。”
“等等，你们难道忘记了？”红头发研究员提醒道，“每次模型系统修改设置
时的重启动？”
每当城市模型系统需要修改设计或改变配置，计算机都会自动终止全部VCS 的
运行，直到修改完毕再将其恢复。当然了，重启前后的改变都已在记忆数据里作了
修改，单个VCS 绝不会察觉到其中有什么差异，相反，它们会认为“一直都是如此”。
“糟了，终止闸门是E-LEVEL ，”看来老成的研究员脸色一阵发白。
研究员们面面相觑，E-LEVEL 闸门的终止权限是不能停止xeno级人工智能的运
行的。这就是说，在模型系统重启动的间隙，那两个step 3仍旧处在运行之中。
“我能想象他们在空无一人的城市里醒来的感觉。”红头发研究员嘴角带着一
丝嘲笑地说。
“但是记忆数据还是作了修改，”有人仍抱有一丝希望地提出反驳意见，“他
们不会记得……”
“以E-LEVEL 的权限，怎么可能对step 3的记忆数据作彻底修改？”
“他们不会全忘记，也不会全记得。”
“你们都昏头了吗？”红头发研究员简直不能忍耐这些人鸵鸟一般的嘴脸，
“你们不知道step 3是什么水平的AI？就算他们不全记得，这种重复的刺激也会让
他们的认识水准以几何级数上升，这还不足够让他们对自己所处的环境产生怀疑？！”
一片沉默，红头发研究员的坦白打破了最后一丝希望。
“也许他们会以为自己是在做梦……”
没人再理会林西那纯粹是愚蠢的乐观了。每个人都清楚得很，在这种情况下，
step 3不可能再保持自我主体的正常。
“两个step 3崩溃……”有人在嘴里喃喃念叨，有人已经看到自己坐上飞往星
际监狱的囚船。
“结果出来了。”罗从座位里站起，“大家意见一致。”
他开始下达命令：“林西，把你那愚蠢的检查结果改掉，其他人，找出那两个
step 3，从系统里删除。这件事从现在开始没发生过。”
“取消他们？”有人小声地问。
“即使不取消，他们也不会有未来可言。”罗环视一周，沉声说，“相反，如
果不做，在座每个人都要为此承担最少10年以上的苦役。谁有异议？”
这无异于合谋杀人，林西颤抖地想，可是，大家都沉默着，没人说话。
“那就执行。”罗说。
研究员很快就找到了其中一个的step 3，这是因为他在模拟系统重启的过程中，
个体又强制重起动了一次。这是模拟系统的自我保护机制之一：一旦有什么子系统
企图越过模拟城市——也就是说如果某一子系统在运行过程中超过了模拟系统的数
值边界，系统就会强制中断它的运行，reset ，让它回到上一次运行的开始时候。
过去没有这样的保护机制，经常会出一些意外导致模拟系统崩溃。
“这说明他尝试过了，”老成的研究员对红头发研究员说，“我想他大概已经
明白了。”
(全文完)
--------
起点中文
亦凡公益图书馆(shuku.net)
回目录