系统可靠性的幻想 在技术的发展过程中,常常能够发现一种非预期后果法则(law of unintended consequences)在起作用。也就是说,新技术的用武之地可能与人们的设想相去甚远,从而 产生无法预期的结果。例如,谁能够猜想到,电子报表软件Lotus 1-2-3的出现,会成为个 人计算机业爆炸性增长的主要催化剂?作为第一个获得广泛使用的商业应用程序,它将个人 计算机带进办公室,造就了日后个人计算机业将近1000亿美元的庞大规模。 同样地,有人想到过色情电影会成为录像机工业发展的主要动力吗?色情片的流通带动 了录像机在产品开发初期的畅销,最终使其成为常见的家庭工具。今天,80%的美国家庭都 拥有录像机。如果你问,在美国,最受欢迎的科技产品是什么?或许有人会说,是卫星通 信,或者是电脑网络。但这两个答案都错了。 1997年1月,由麻省理工学院进行的一次问卷调查显示,绝大多数美国人认为,他们 最喜欢的科技产品是录像机,80%的人说,录像机使他们的生活充满欢乐而富有情趣;排在 第二位的是电脑和移动电话。 这样的故事还有许多。斯但福大学的经济学家内森·罗森伯格指出,蒸汽机当初发明 时,专门用来从水淹的矿井中向外排水,没有人预料到它会带来铁路运输的发展,从而在整 个19世纪带动工业的增长。电话的故事我们在前面已经讲过,贝尔第一次把它带到公众面 前时,人们普遍将其视为一种有趣的娱乐性玩具。至于说电脑,IBM公司前董事长托马 斯·沃森在1943年曾作过一个著名的预言:“我想,5台计算机足以满足全球市场。” 非预期后果法则甚至会获得可怕的。悲剧性的力量。1994年,在卢旺达发生了惨绝人 衰的种族屠杀,50万图西人,包括妇女和儿童,在不到100天的时间里,被胡图人残杀, 平均每天就有5000人遇害。这幕惨剧为何会上演? 博学的非洲学者和专家们会指出,世代不绝的部族矛盾、贫穷和殖民主义的余孽是这场 灾难的罪魁祸首。这些原因的确存在,但现代技术在其中扮演的角色却很少有人提到。此处 所说的技术并不是指现代军事技术,如突击步枪。坦克或战略导弹,因为胡图人在实旅暴行 时使用的是我们所知的最古老的杀人工具:大棒。这里的技术指的是收音机。 在过去,部族战争往往是短暂的。受地理局限的,但在90年代的卢旺达,收音机使部 族屠杀达到了前所未有的规模。它将胡图族领导人对图西族的诬蔑传到了全国成千上万人的 耳中。紧接着,在每一个小村庄,胡图族人开始对他们的图西族邻居下手。 这样,古列尔莫·马可尼(ouglielmo Marconi,1874一1937)发明的无线电成为进行 大规模毁坏的工具。马可尼的本意是将无线电技术用于船舶联络,后来,它成为一种大众传 播手段,用来把人们团结在一起。但在卢旺达,它却在制造分裂。 从事风险与技术研究的专家彼得·纽曼说:“一些似乎彼此不相干的事件能够产生国际 性问题。”这属于混饨数学(chaosmath)的领域。作为一个新兴的数学分支,混沌数学正 日益受到科学家的重视。在过去的几百年里,我们一直习惯于用直线和线性方程来解释现 实,而现在,混沌数学却将我们生活的宇宙描绘成一个无规则的、不连续的场域。用混沌数 学来分析诸如天气和股票市场一类的复杂系统,竟然取得了令人意想不到的精确结果。 在混沌学中,一个著名的说法是,一只蝴蝶在中国拍打翅膀,却可能在纽约引起飓风。 也就是说,在遥远的一地发生的一件小事,可能会在另外一个地方造成巨大的动荡。 从混饨学的角度出发,我们不难听到关于技术彻底崩溃的预言。 科幻作家菲利普·怀利在1972年出版的《梦境的终结》一书中对技术和环境灾难能如 何轻而易举地毁灭地球上的生命作了一系列探讨。从一些似乎无害的现象——例如使河流阻 塞的水藻急剧繁殖——开始,问题很快会演变成越来越具破坏力的事件,包括大范围的供电 中断、航空灾难和核事故。最终结果是人类的毁灭——像恐龙一样,成为过于专门化的牺牲 品。 科幻作家罗伯特·海因莱恩在1966年出版的科幻小说《月球是个无情的情人》中描述 了复杂的电子系统相互连接将会出现的后果。他在小说中描写的计算机系统某天早晨醒来时 不仅获得了意识,而且拒不执行地球上的主人发给它的指令。 纽曼说,“从长远看,我们将会遇到严重的问题,除非采取某种断然措施。” 每当人们设法简化生活程序和摆脱现代技术的复杂性时,却发现自己已被本想摆脱的技 术紧紧缠绕着。在前述关于美国最受欢迎科技产品的调查中,只有25%的人认为电脑网络 给他们的生活带来了便利,但问时有12%的人认为,电脑网络是使生活变得更加复杂化的 头号发明。 我们的社会日益被一种极易发生故障和遭受破坏的技术所控制。纽曼说:“每当某个技 术故障排除以后,人们总是说这种故障绝不会再次发生,但它总是会一再发生。不论我们是 否愿意,我们必须同未知的和无法辨明其可靠性的人和系统共存。” “未知的、无法辨明其可靠性的人和系统”将会在本书中不断露面。 诚然,公众对某个系统——无论是空中交通控制网还是电子银行业务——的信赖可能与 系统的合成同样重要。 专门从事公众对风险看法研究的保罗·斯洛维奇说,“这种信赖对于某个系统的有效运 行至关重要。这是一种微妙的平衡。所有这些系统都是复杂的管理系统,在动摇我们信赖的 故障还没有发生之前,我们倾向于信赖这些系统。” 但是,随着越来越复杂的子系统相互联系在一起——不论这种子系统是奔腾计算机芯片 中的电路还是与全国电网相连的住户——绝不会有任何人能够完全了解所建立的究竟是一种 什么样的新系统以及它可能出现故障的无数种方式。有人说,公众予以信赖的许多系统发展 得过于复杂和昂贵,永远也不可能完全可靠。美国南加州大学的拉尔夫·基尼教授说,工程 师们所能尽量“的最大努力就是设法使这些系统在一旦发生故障时不会出现安全问题。前述 1996年8月9日美国西部电网的停电事故只影响到电网上的部分住户,就是一个很好的例子。 但是造成一些失控问题的原因往往正是安全系统本身。 1990年1月15日,一次微小的电子故障使美国电话电报公司的长途电话业务整整瘫痪 了9个小时。采用自动化技术的修复系统存在的缺陷引起了很快波及整个网络的突发性故 障。而那个有缺陷的安全系统正是为了防止重大故障而于1980年设计建立的。这起事故对 本书论及的电脑黑客现象有着极为重要的意义。 人们不能或不愿深刻了解的是,系统的复杂性正是产生技术的报复效应的原因。 有时我们能够清晰地听到技术报复的脚步声。