第二章 吉拉尔德·布莱克在一年前获得辐射物理学科的学位,并和他这整个一代物理 学家一样,参与了研制超原子驱动的问题。现在,他的出席给超级基地内举行的一 系列会议总的气氛增加了一些新的因素。他穿着油污的白色工作外套。这个人不仅 有些倔强,但有时完全缺乏信心。他长得敦实有力;他的劲好像大得老要往外冒。 他紧张不安地使劲把手指头绞在一起,好像他那粗壮的手指能使铁条都变形似的。 柯尔纳少将坐在他身旁,面对机器人公司的两个代表。 布莱克说道:“人家对我讲:在第十号内斯特突然失踪之前,我是最后一个看 见它的人。我很理解,你们是想问我这件事。” 苏珊博士感兴趣地看着他:“从您的口气听起来,好像您自己也不敢肯定,年 轻人,难道您不知道,您是否是最后一个看见它的人。” “它跟着我在搞野外发电机,女士。而且,在它失踪的那天上午,它和我在一 起。我不知道,午后是否有人还看见过它。谁也不承认看见过它。” “您认为,有谁在撒谎吗?” “我可社这样说。但是,我也不想说,我愿意为此而受责备。”他的一双黑眼 珠冒着怒火。 “这里不存在责备的问题。那个机器人的行动,就像它作为一个机器人所应该 做的那样。我们正设法把它找到,布莱克先生,而且,让我们把一切其它的考虑都 放到一边吧。那么,既然您和那个机器人一起于过活,您大概比其他人更了解那个 机器人。您发现它有什么异常吗?您以前和机器人一起干过活吗?” “我和我们这里的其它机器人一起干过。那些都是简单的机器人。这些内斯特, 除了聪明得多并且也讨厌得多之外,也没有什么与众不同的地方。” “令人讨厌?怎么说呢?” “嗯……可能这不是它们的过错。这里干的是笨重的活儿。我们当中大部分人 都变得有点脾气粗暴。在超空间干些零七八碎的活并不是件好玩的事,”他淡然一 笑。 通过这种自白,他感到痛快。“我们不断地冒着会在正常的空间——时间的结 构中打出一个窟窿,并冒着会立刻从天地问,小行星上以及一切东西上被甩掉的危 险。这听起来离奇,是吗?自然,有时你会紧张不安;但这些内斯特却不会。它们 好奇,镇静,不焦躁。有时候,光这一点就足够使你气得发疯。当你想要急急忙忙 地把一件事情做好时,它们看来却在慢条斯理地干。有时我宁可没有它们都自已去 干。” “您说,它们慢条斯理地干?它们没有拒绝过命令吗?” “不,没有,”布莱克急忙说,“它们很听从命令。虽然,当它们认为你错了 的时候,会给你指出来。它们只知道我们教它们的那些东西。但是,这挡不住它们。 这可能是我个人的印象。但是,其他的伙计和他们的内斯特也有同样的麻烦事。” 何尔纳将军有意地清了一下嗓子:“为什么我没有听到有关这样的抱怨呢,布 莱克?” 年轻的物理学家的脸涨得通红:“先生,我们并没有真想不要机器人而自己干。 再说,我们不敢确切肯定……这类……小小的抱怨,会有人听。” 伯格特温和地插进来问:“您最后一次看见它的那个上午。没发生什么特别的 情况吗?” 布莱克默不作答。苏珊用安详的手势制止柯尔纳讲话,耐心地等着。 然而,布莱克的火一下冒了出来,他说:“我和它发生了一点儿纠纷事。那天 上午,我打碎了一个金勃尔管,五天的功夫也白白报销了,我的整个工作安排落后 于计划要求;我有两个礼拜没有接到家里的来信,可它又来想让我再搞一个月以前 我巳经放弃了的实验。它总是在这个问题上和我纠缠不休,都使我厌烦了。我让它 走开。这就是我看见它时的全部情况。” “您让它走开?”苏珊博士很敏锐地问,“用的就是这几个字?你是说了‘走 开’吗?您好好回想一下,确切地用了什么字眼。” 很明显,布莱克的内心正在斗争。他用一只大手掌擦了擦脑门儿然后放下手, 用一种对抗的口气说。“我当时讲:”走开,躲一边去。‘……“ 伯格特大笑了几声:“于是它就这样做了,嗯?” 但是,苏珊并不到此为止。她用诱导的口吻说:“现在我们已经弄明白一点了, 布莱克先生。可见,确切的细节很重要。要弄明白这个机器人的行为,一个字、一 个手势或一种语调都可能起决定一切的作用。您大概不光是讲了这六个字,是吗? 按您的讲述,当时您心情烦躁。可能,您讲话的语气重了一点。” 年轻人满睑通红他说:“唔……我可能……骂它什么来着。” “骂了什么?” “哎,我记不确切了,再说,我也不能重复这些话。您知道,当您激动的时候, 您会变得怎样,”他发窘地傻笑起来,“我用了骂人的话。” “没什么关系,”苏珊一本正经他说,“现在,我作为心理学家,我希望就您 所能记起来的。您尽量准确地复述一下当时自己所讲的话,并且把您当时的语调也 尽可能准确地表达出来。这后一点更为重要。” 布莱克转脸去看自己的指挥官,寻求他的支持,但一无所得。他把眼睛睁得大 大的,露出惶恐不安的神色:“可是,我不能。” “您应该说。” “假设,”伯格特仍然半带着逗乐的腔调说:“您就假设是对着我说。这样您 可能便于讲出口。” 年轻人的脸红得简直就像猪肺,转向了伯格特。他结结巴巴他说:“我当时说 ……”他又不吭声了,然后又使劲张开口,“我当时说……”他深深地吸了口气, 接着突突突地一气说出了一连串的音节。随后,在紧张的气氛中,他几乎是噙着眼 泪把话说完了:“……大致是这样。我记不起来骂它的话的先后顺序了。而且我刚 才讲的话里面可能有些出入。但大体上就是这样。” 只有双颊上微露的一点红晕揭示了心理学家的内心感受。她说:“我明白大部 分您所用的那些字眼的含意。其它的字眼,我认为,也同样是带侮辱性的。” “恐怕是这样。”布莱克狼狈不堪地承认道。 “而且,其中您还说了,让它躲到一边去。” “我这只是形象的说法而已。” “我明白这点。我相信,不会采取什么纪律措施吧。”心理学家把目光投向柯 尔纳。 将军气呼呼地点了一下头,就算表示了回答。可是五秒钟之前,他还完全不是 这样想的。 “您可以离开了,布莱克先生。感谢您的协助。” 苏珊花了五个小时讯问这六十三个机器人。五个钟头之内无数次重复着同样的 东西:相同的机器人一个接着另一个;提出问题,甲、乙、丙、丁;而后是回答, 甲、乙,丙、丁。她使用经过小心选择的和蔼的词句,很注意使用自然的语调、细 心地创造一个友好的气氛。当然,也很小的地藏起一台录音机。 当心理学家干完这件事之后,她感到精疲力竭了。 当她撒手膨的一声把录音带扔到桌子的塑料贴面上时,伯格特正用期待的目光 看着她。 她摇摇头:“在我看来,这六十三个机器人一模一样。我没法分辨出来……” 伯格特说:“您不可能凭耳朵把它们分辨出来,苏珊。我想,我们来分析录音 机。” 一般地说,对机器人的语言进行数学译释,是机器人分析学比较复杂的一个分 支。它要求有一批经过训练的技师,井要借助复杂的计算机。伯格特知道这点,他 也是这么说的。他听完每一组回答之后,都掩盖着自己极度烦恼的情绪,列出词汇 偏差表,标出了回答问题的间隔曲线图。 “没有显示出反常现象,苏珊。用词的差异和反应时间的快慢,都在一般的常 见的范围内。我们需要更好的方法。这里大概会有计算机吧,不——一”他皱起眉 头,细心地啃起大拇指甲来。“我们不能使用计算机,这太容易泄漏秘密了。或者, 如果我们……” 苏珊博士用不耐烦的手势打断他的讲话:“别说了吧,皮特。这不是实验室能 解决的小问题。如果我们不能把确实存在的、用肉眼就能看得出来的那个明显的差 别找出来,从而确定哪个是修改过的内斯特的话,那么我们只好认倒霉,而那样, 产生差错并让它溜掉的危险就太大了。图表中的一小点正常值是不够的。我告诉您, 如果我只能依据这点东西的话,我宁可把它们全部毁掉,才能放心。您与其它修改 过的内斯特谈过了吗?” “是的,谈过了,”伯格特颓然地靠在椅背上,“它们没有任何不正常。如果 说有什么不正常的话,那就是它们超乎一般地友好。它们回答我的问题,并为自己 的知识丰富而洋洋自得——除了新来的两个它们还没来得及学习辐射物理学。对这 里的一些专业我所表现出来的无知,引起了它们善意的嘲笑。”他耸耸肩,接着说 :“我想,这就是构成这里的部分技师对它们反感的一些主要原因。这些机器人太 喜欢卖弄自己丰富的知识了。” “您不能稍微试试着普兰南反应吗?看看它们的智力装置比出厂时有变化没有, 有什么退化。” “我还没有,但我是要试的,”他竖起一根纤细的手指,对着她摇摇。“您变 得沉不住气了,苏珊。我不明白,您干嘛要过分渲染。他们实质上是无害的。” “他们吗?”苏珊生气了,“它们?难道您不知道它们当中的一个在撒谎?在 我刚才讯问的这六十三个机器人当中,有一个就故意对我撒谎,尽管已下了最严格 的命令要讲真话。它所表现出来的这种反常现象简直太突出了,也太可怕了。” 皮特咬了咬牙。他说:“根本不是这样。内斯特十号接到‘躲到一边去’的命 令。这个命令是由最有权命令它的人发出的,而且是以最紧急的方式发出来的。您 既不能通过更高的紧急方式,也不能运用更高一级的指挥权来把这个命令抵销掉。 自然,这个机器人将尽力坚持执行他的命令。实际上,客观的讲,我非常赞赏它的 机灵。一个机器人藏到一群和自己相似的机器人当中,难道还有比这更好的‘躲到 一边去’的方法吗?” “是啊,您会赞赏这点。我发现,您觉得这很逗乐,皮特。您觉得逗乐,却对 事态缺乏了解到了可怕的程度。您是个机器人专家吗,皮特?那些机器人对它们视 之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比 它们低一等,感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠的。 而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他,躲到一 边去。那个机器人必须服从命令。但是,它会有一种下意识的反感;对它来讲,证 明它高人一筹,这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样,第一定 律所剩下的那部分就不够用了。这一点变得非常重要。” “苏珊,在地球上或太阳系的任何地方,机器人怎么会懂得骂人话的含意呢? 输入它大脑的东西里边没有污秽的语言呀!” “原始的输入并不代表一切,”苏珊粗暴地对他说,“机器人有学习的能力。 你……你这个笨……” 伯格特明白她是真的难以克制自己了。 苏珊急匆匆地继续说:“难道您不认为,它能分辨的所用的语调和字眼并不是 恭维话吗?您不认为,它以前听到有人用过,并且注意刭是什么样的场合用过这种 字眼吗?” “好吧,那么……”伯格特嚷起来,“请您给我指出修改了的机器人能伤害人 的一个途径,不管它是怎么样地被冒犯了。也不管它多么想证明白己的优越性。” “如果我告诉您一种途径,您能不声张出去吗?” “是的。” 他们隔着桌子互相靠拢,用悻悻的眼光相互盯着。 心理学家说:“如果一个修改了的机器人想要使一个重物坠落到人身上,它也 不会违犯第一定律。如果它这样做的时候,它往往认为凭自己的力量和反应速度能 在重物质砸到人身上之前把重物抓住并拿开。但是。一旦这个重物离开它的手,它 就再不也不是行为的主动者。行为的主动者将是不长眼睛的地心引力。这时候,机 器人会改变自己的想法,而仅仅抽手旁观地看着这个重物往下砸。修改后的第一定 律允许出现这种情况。” “这是胡恩乱想。牵强附会。” “这是我的职业有时要求我做的,皮特。咱们别再争吵了,开始工作吧。您知 道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记录。 我希望您船告诉我,在什么样的情况下,我们的机器人就可能做出我刚才讲的那类 事情。请注意,不是具体的那种事情,而是整个那一类的行动。并且,我希望您能 快点告诉我。” “而同时……” “而同时,我们其好搞搞性能检验,直接看它们对第一定律的反应。” 吉拉尔德·布莱克根据自己的要求,正在第二号放射大楼的第三层上监督安装 木制小隔间。这是一间拱形大厅,在鼓鼓的一个大圆圈内,小隔间如同雨后春笋, 一个接一个飞快地安装起来。工人们基本上默不作声地在于着活儿。但是,不少人 明显地感到奇怪,为什么还要安装上六十三个光电管呢? 一个工人在布莱克身旁坐下,摘掉帽子,若有所思地用生满黑斑的前臂擦掉前 额的汗水。 布莱克向他点点头:“进展得怎么样,乌里斯基?” 乌里斯基耸耸肩,点着一支雪前烟,说:“非常顺利。到底发生了什么事情, 博士?起先,我们三天没活儿干。然后就干一大堆这些小玩意儿。”他一边用胳臂 肘支撑着向后靠,一边吐出一团团烟雾。 布莱克的眉毛抽动了一下。他说:“有两个机器人专家从地球上来到这里。你 记得咱们和机器人之间的麻烦事吗?它们不能往伽马辐射场里跑。可是,我们反反 复复往它们脑袋里灌输这个道理之前,它们老往那里钻。” “记得。我们没有得到新的机器人吗?” “我们得到了几个补充的机器人。但我们大部分的工作是给机器人转入新知识。 总之,制造它们的人想使它们不至于轻易被伽马射线毁掉。” “看来可真稀奇。把研制超原子驱动的全部工作停下来,只为了这些机器人的 事。依我看,无论什么事情都不应当使驱动的工作停顿。” “嗯,只有楼上的那些人对这事有发言权。我嘛,我只是照人家说的去干。很 可能,这是一桩什么交易……… “是啊,”这个电工撇一下嘴,狡黠地眨眨一只眼睛,“在首都华盛顿一些人 是相互认识的。但是,只要我的薪水准时送到,我就得使劲干。至于超原子驱动, 可不是我的事。他们在这里打算干么?” “你问我?他们带来了一大批机器人,六十多个。他们打算测量一下反应。我 就知道这么一点。” “要测量多久?” “我还想知道呢。” “好吧,”乌里斯基大说其风凉话,“只要他们把我的钱给我,他们爱怎么玩 就怎么玩去吧。” 布莱克感到颇为得意——让这一说法传开吧,它不伤害谁,但又比较接近实际 情况,可以稍稍满足人们的好奇心。 有个人一动不动,一声不响地坐在椅子里。一件重物坠落了,很快地向这个人 砸下去。在最后一刹那,用同步的方法使一根铁棍突然有力一击,把重物打到一边。 在六十三个小隔间里,这些MS-2型机器人正在观看这种情景。就在重物被改变 方向之前的一刹那间,它们都向前冲去。六十三个光电管都向前离开原来的位置有 一米多远,引起记录笔上下跳动,在纸带上划出犬牙状曲线。 重物又被抬起,坠落;又抬起,又坠落;再抬起…… 总共十次! 这些机器人也向前冲了十次,每次当它们看见人安安全全地地稳坐在椅子里时, 才又停住。 自从第一次和机器人公司的代表共进午餐之后,柯尔纳少将再也没有全套地穿 过他的军服。现在,他上身只穿一件蓝灰色的村衫,敞着领口,黑色的领带松垮地 耷拉在胸前…… 他期待地望着伯格特,伯格特的穿着依旧整整齐齐,大概只有双颊上渗出的小 汗珠,才显露了他内心的紧张。 将军问:“情况怎么样?你们想看到的是什么东西呢?” 伯格特回答说:“一种差别,恐怕,这种差别对我们要解决的问题来讲,显得 太细微而难以捉摸了。这些机器人当中,有六十二个必须冲向那个明显受到威胁的 人。这种必要性在机器人学中称为被迫反应。您看,甚至当机器人知道这个人将不 会受到伤害;而且在第三、第四次之后,它们应该已经明白这一点,它们还是无法 避免不作出这种反应。这是第一定律所要求的。” “嗯。” “但是,第六十三个机器人,即修改过的内斯特却没有这种被迫感。如果它愿 意的话,它可以呆在自己的位子上。不幸的是,”伯格特的声音里带出了少许憾意, “它并没有这样。” “为什么您这样认为呢?” 伯格特耸耸肩:“我想,苏珊博士到这里的时候,会告诉我们的。很可能,也 只是做些令人害怕的、悲观的解释。有时她有点烦人。” “她能胜任工作,是吗?”将军突然担心地皱起眉头。 “是的,”看来,怕格特觉得怪有趣的。“她完全能胜任工作。她像机器人的 姐姐一样了解它们。我想,这是由于她非常痛恨人们的缘故。她是心理学家也罢, 不是也罢,问题就在于她是个非常神经过敏的人,有时容易想入非非。您不要拿她 太当真。” 伯格特把一长卷划有虚线的图表在他的面前摊开:“将军,您看。对每个机器 人来讲,从重物开始坠落,到机器人冲了一米多所用的时间随着试验一再的重复而 呈逐次减少的趋势。有一定的数学比例来支配这类现象,而脱离这种比例,就可能 预示着正电子脑有明显的异常。不幸的是,它们全部都显得正常。” 可是,如果我们的第十号内斯特没有作出被迫反应,那么为什么它的曲线和别 的机器人的一样呢?这点我不明白。“ “这很简单。机器人学中的反应与人的反应不尽相同。这真是遗憾。人的自觉 动作比条件反射的动作要缓慢得多。而机器人则不然。在它们身上,仅仅是一个人 们自由选定的问题。否则,自由的动作和被迫的动作速度都是一佯的。我原希望看 到第十号内斯特在第一次试验时会吃惊,因而它作出反应的时间会推迟。” “但是它没有这样。” “恐怕是没有。” “那么,我们没有什么进展喽,”将军带着沮丧的表情仰靠在椅子里,“你们 到这里已经五天了。”