1999年12月6日，一架“全球鹰”无人侦察机在成功降落之后，在滑行过程中突然加速到155节（每小时178英里），在拐弯处滑离了跑道。它的前起落架撞到了附近的沙漠，造成了530万美元的损失。
事故发生时，操作无人机的操作员在控制室里完全不知为什么会发生事故。空军调查结果认为，突然加速是因为软件问题以及“监督不力”等复杂因素。
“全球鹰”制造商诺斯洛普·格鲁曼（Northrop Grumman）公司发言人将超速完全归罪于操作员。操作员确实在认清无人机意外行为上有所延误。即使是他们发现了一些异常，也不明白飞行器遵循的是哪项程序。飞行器对于他们发出的补偿性指令要么没能接收到，要么是不匹配。操作员无法理解这个半自动的设备打算做什么，从而提供合理的有效指令。
已有案例中有迹象表明无人机能够明白自己在做什么，或是飞行员打算让其做什么，这说明它具有一定形式的“意识”。当然，在上述的例子中并非如此。无人机只是根据软件编程的子程序进行运作。
“全球鹰”无人机只是依赖复杂计算机系统运行的无数新技术中的一个。现在已经部署和正在开发的大多数系统并非全自动，但也不是完全依靠人运行。无人机，就像有飞行员驾驶的飞机或是外科大夫用来做精细手术的机械手，是非常复杂且部分智能的装置，它是作为团队的一部分开展工作。这种团队会展示出人类与非人类行为者的复杂互动，以及相互学习对方的聪明才智。在正确操作下，无人机能够独立开展任务，也能够执行由人类操作员发出的指令。
复杂系统的成功运行取决于协调计算机和人所做的决定，一般认为，人应当在其中发挥作用，使系统适应预料之外的情况。像“全球鹰”滑离跑道这样的问题刚开始大家判断是人的因素造成的，其中一个解决办法是让智能系统有更高的自主性。但是，这并不能解决问题。
对智能系统的行为做出预测对于人类操作者来说越来越困难，因为智能系统以及它所运行的环境日益复杂。要让操作人员了解复杂的计算机在想什么，以及预测计算机的行为以协调人机团队的行动，实际上是增加了操作人员的责任。设计出具有高度适应性，独立于人控制的计算机和机械零件是工程师的长远目标。但是，这个目标是否能完全实现仍是个问题，因此也不清楚人类是否会被大型复杂系统运行排除在外。同时，当意外情况出现时，仍需要人类帮助机器做出响应。
复杂系统本质上说是不可预测的，一旦碰到意外情况容易出现各种问题。即使是设计精妙的复杂系统也会出现未曾预料到的问题。概率很低的事件一般为人所忽视，且没有做过计划，但是这种事件的确会发生。
设计一个能够协调人和机器行为的复杂系统是一个很困难的工程问题。同样棘手的问题是如何确保复杂系统在出现问题的情况下具有足够的韧性，从而恢复正常。计算机系统的行为是十分脆弱的，想想Windows计算机只要出现一点信息错位就会死机，所以它们几乎不能适应新的意外情况。意外情况，不管是纯粹的机械故障，还是计算机自身的问题、人的错误，或是突如其来的风暴，都会破坏那些真正复杂系统的运行，比如机场。
我的结论是没有人真正了解复杂系统。
麻省理工学院教授、畅销书作者谢利·托克（Sherry Turkle）提到管理复杂系统时这样说：“也许我们人类就是不善此道。”我们是否可以获得必要的知识以了解如何管理复杂系统呢？某种程度上，答案是肯定的。但是对于如何控制好复杂系统，却存在着内在的限制。
这并不是一个新问题。过去半个世纪以来，人们一直在争辩政府和能源公司到底能否很好地管理核电站。当危险已为人所知，我们通常会花费更多的精力和注意力去管理风险。但是尽管如此，大部分（当然并非全部）的核泄漏事故的发生都是由于缺乏足够的认真，或是出于愚蠢，或是二者都有。少数核泄漏事故是由于意料之外的或无法解决的情况造成的。日本福岛核电站泄漏事故就是因为千年不遇的海啸引起的。
“复杂”一词的基本意思很容易掌握，但很难理解为什么“复杂性”竟然起到决定成败的作用。本章将介绍复杂性，包括目前已经显而易见的复杂系统、正在开发的复杂系统，以及认识哪些形式的复杂性带来风险。在澄清监督和管理复杂系统的难点过程中，也将阐明相应的C开头词语：“混沌”（Chaos）。
从我们的目的出发，弄清楚“复杂性”和“混沌”对于了解其中可能被忽视的挑战、难点以及危险是非常重要的。如果我们要安全地采用和监管新技术，复杂性不应被视作障碍，而应给予重视。
现在已经有一些科学研究领域专门研究“复杂性”和“混沌”是如何工作的。“二战”以后，对系统以及系统内各个组成部分如何表现的跨学科研究，变得日益重要，最终发展成一个领域，即系统理论。自我管理的系统是天然存在的，比如人的身体；社会系统，比如政府或一种文化；或是技术创新系统，比如汽车或者合成生物等。
在日常语言中，“复杂性”“混沌”这些词的用法比较宽泛。但在系统理论中，这些词的用法更加精确，以便为两个相关领域——复杂性科学和混沌科学，奠定基础。但是这些新兴的科学研究领域对于应对不可预测性以及控制突发灾难方面到底有没有用呢？
气象模型很复杂，经济市场的行为也很复杂，迄今在预测二者行为方面并没取得多少成功。复杂系统科学在建立模型方面取得了一些进展，多方数据输入相互作用形成了一些模型。大部分的进展依靠计算机模拟。但是未预料到的因素使得对市场和天气的预测兼具可能性和运气。对我们所创造的很多技术的行为进行预测也是如此。这令人十分困扰，因为当今社会日益依赖计算机网络和能源网络等复杂技术系统。
要了解这个问题的广度，很重要的一点是要认识到技术系统不仅仅是由技术的部件组成。以无人机为例，复杂的系统包括了制造、维护、改善、运行以及与技术进行互动的人类。总体来说，技术部件、人、机制、环境、社会价值观以及支撑系统运行的社会实践共同构成了所谓的“社会技术系统”。水净化设施、化工厂、意愿和政府都是社会技术系统。
换句话说，一项具体的技术——不论是计算机、药品，还是合成生物等，都是更大的社会技术系统的零部件。问题在于整个系统是否运转良好，并不完全取决于其中的技术零部件。本书将聚焦技术零部件或流程，因为问题往往源自社会系统中零部件的相互作用。
我们是否能够充分了解或完全驯服复杂系统？工程师努力使他们开发的工具具有可预测性，从而能够安全使用。如果我们开发的工具不可预测，有时候用起来并不安全，那我们还依靠这些工具管理关键的基础设施则是愚蠢鲁莽的。
目前迫在眉睫的是投入必要的资源（时间、人力和金钱）制定控制复杂技术的新战略，并了解这些战略的边界。如果规划者和工程师不能限制危害，那我们所在的社会不应再依赖日益复杂的技术系统。本章选取的例子旨在阐明复杂适应性系统哪些方面更容易为我们所理解。
复杂系统和混沌系统
复杂系统的单个部件如同计算机网络中的节点，大脑中的神经元，市场中的买家和卖家。当许多部件对相互之间的行动做出响应时，并没有十拿九稳的方法预测系统的整体行为。了解一个复杂系统的行为，有必要观察这个系统每一步如何展开。就像下棋，每一步可用的走法是有限的，尽管如此，也很难预测5步、10步或是20步之后会发生什么。
1997年IBM计算机“深蓝”打败国际象棋世界冠军盖里·卡斯帕罗夫（Garry Kasparov），“深蓝”需要巨大的计算能力计算后续走法。即使在当时，它也只能预测出5步或10步之后的走法，每一步都生出新的枝节。卡斯帕罗夫走的每一步棋都砍掉了一些枝节，同时也制造了新的可能性。
数学公式通过解题得出结果，但是计算机技术的核心所在——演算法，则是确定一步一步展开的流程。随着事件按顺序展开产生一个模式，但这个模式也可能无法告知我们如何预测后续事件。
与“全球鹰”无人机故障的例子类似，复杂机器人将根据演算程序开展行动，当新情况输入时，我们很难或者说不可能对它的行为进行预测。当然考虑到在仓库里运送亚马逊快递订单的半自动机器人所带来的好处，我们对它可能造成的危害是可以接受的。但是，作为武器平台的机器人，其行动可能会出人意料地，但也是可以想象的，造成很多人死亡。
引用一句格言：“烤一个蛋糕很容易，造一辆车很难，养一个孩子很复杂。”复杂机械装置中零部件相互作用的方式基本上容易理解。复杂系统的行为可以进行预测。一个部件损坏，复杂系统会出现故障，但是工程师已经很善于预测多长时间以后系统出现故障。
我还年轻时，难以预测汽车的零部件比如轮胎什么时候会出问题，过上一段时间总会碰到意外爆胎。随着汽车技术发展，汽车越来越复杂同时可靠性也在提升。非常复杂的技术能够很好地预测事故。可以说，过去的一个世纪，汽车从复杂、不可预测的系统不断发展成可预测性更好，但也越来越复杂的系统。
不管怎样，不断有汽车召回说明现在的汽车零部件还是会出现问题。而且，计算机化的车辆对软件错误很敏感。换句话说，因为有些问题在车辆上市之前就无法预料，所以事故仍会发生。
并非所有技术创新都是复杂的。但是即使是简单的技术，一旦对现有复杂系统的行为进行干预，比如气候、自然环境、人体等，后果也将是非常危险的。气溶胶罐及氯氟化碳（俗称：氟利昂）推进剂是十分简单的技术，但却出人意料地改变了大气臭氧层。从另一个角度来看，氯氟化碳使得已经很复杂且难以预测的气象模式更加复杂。
系统的不可预测性不在于部件数量的多少。1887年法国数学家、物理学家亨利·庞加莱（Henri Poincaré，1854—1912）研究了三体的经典难题。三体问题是去发现太空中三个大的天体之间的重力如何影响各自的轨道。彭加勒证明其中并没有可辨识的模式。换句话说，三个天体的轨道并不是一再重复其轨道。他证明即使在所有行为都受制于物理法则的机械宇宙中，所有的活动也是混沌和不可预测的。
复杂和混沌是相互关联的，且有时是交叉的概念。二者所指的系统行为是不可预测的，能因小事件而改变。二者不同之处在于，混沌学或混沌理论研究系统部件的活动如何在遵守简单物理法则的同时，既是充满活力的，又似乎是随意的。复杂学研究的是一个系统中大部分的部件或单元之间互相影响的动态行为。在混沌系统中，单个元素不必以明显的方式影响其他元素的行为。相比之下，复杂系统中的节点、部件或是个人是耦合的，并且要适应各自的行为。
复杂系统是强健的，能够进行自我组织。如果股市中某一大公司破产（想一想2008年金融危机雷曼兄弟公司倒闭），市场中的其他公司会做出调整，就算没有这个公司市场也能继续运行。设计关键基础设施时，比如说发电厂，工程师会考虑备用系统和冗余度以提高系统的强健性，以及系统承受故障及迅速恢复的能力。
混沌或复杂系统中某一个或多个元素的行为带来的影响可能在整个系统中回弹，有时也会造成灾难性的大事件。在混沌理论中，通常称之为蝴蝶效应，即墨西哥的一只蝴蝶扇动一下翅膀，在恰当的情况下，将发展成得克萨斯州的一场龙卷风。“恰当的情况”在此非常关键，初始条件的任何微妙变化都将改变扇动翅膀所带来的影响。
我们通常称因一个简单变动导致复杂系统重组的事件为“引爆点”。引爆点与物理学中的相变类似，比如当温度在0摄氏度（32华氏度），液态水凝结成冰。要理解小事件如何改变复杂系统引起灾难性后果，其最好的例子并非来自科学界，而是政治历史事件。
1914年6月28日，奥地利大公斐迪南和他的妻子在萨拉热窝遇刺，引发了系列事件，成为第一次世界大战的导火索。1914年，欧洲大国之间的政治和军事联盟错综复杂共同构成一个复杂的政治和军事系统。塞尔维亚人行刺的动机是将斯拉夫省份从奥匈帝国分离。奥匈帝国与塞尔维亚一旦开战，欧洲所有的国家都因为各自的联盟关系拖入战争。
政治领袖从一战爆发原因中充分认识到国家联盟的紧密耦合关系，但是这些认识并没有传递到商界领袖那里，其实跨国集团技术系统之间也关联密切。
疾病的扩散或是某种狂热的出现都存在引爆点，在此点上只要增加几个人就能迅速导致大范围的流行病。新技术的扩散，比如手机的使用，刚开始只是几个人用，一旦过了引爆点，社会大部分人都开始使用。一种新的病毒引发世界范围流行病，在世界卫生组织开发有效疫苗之前已经过了临界点。
复杂系统的任何改变都需要在整个系统内进行调整，并造成一系列的问题。一个公司或是大学管理层新来一位经理人，他的风格和思路与前任大有不同，迫使该系统内的上百名员工都要调整他们的活动。荷兰特文特（Twente）大学的技术哲学家埃米·凡·文斯伯格（Aimee van Wynsberghe）指出，一家医院引进一台只从事简单护理工作的机器人都会改变该医院各种职员的作用和责任。
几年前，我搭乘航班从康涅狄格州前往加利福尼亚，途中经停美联航的枢纽达拉斯沃斯堡（Fort Worth）机场。因为突然遇到短时强降雨，我们被请出了飞机。重新登机之后，还有上百架飞机排队等待起飞。我们等了三个小时才起飞，这次各个航班的延误，导致美国和加拿大所有航班都得重新排时间。
幸运的是，民航管理部门已经从过去的经验以及对复杂系统的研究中学会如何应对这样的突发事件。航空运输行业系统设计已很完善，能够自我组织对任何挑战做出响应。一场暴风雨、撞击、恐怖主义袭击本身打不垮民用航空系统。但是，即使是这种自我组织的过程也会导致航班延误和严重破坏，还有个人不幸，以及灾难。
飞机延迟不仅仅是对那些误机的人来说造成了不便，也会让人们误认为混乱无序是生活的本质。更让人担心的是，有些情况下不可预测的事件导致灾难发生，甚至对整个系统造成灾难性的后果。
复杂意味着更容易出问题
复杂系统酿成灾难主要有四个原因（或四个原因的综合体），如果我们无法避免这几个原因同时发生，预防其中某一个原因也不容易。
管理人员或实际操作人员的无能或错误操作是第一个原因。切尔诺贝利核电站事故发生之前及过程中出现了一连串的错误决策。管理层和操作人员都没有受过良好的训练，为防止电站停堆采取了不当的补救措施。切尔诺贝利核事故发生只是迟早的问题。
一些追逐利润的管理层不愿意采取昂贵的安全系统，也是系统出现故障，导致危害发生的其中一个原因。2010年4月至7月，位于墨西哥湾的“深水地平线”离岸油井爆炸，导致11名工人死亡，490万桶原油泄露。如果英国石油公司和越洋公司（负主要责任的企业）的高管不急于完工，并不在安全措施方面大打折扣，这场事故本可以避免或者说后果不会如此严重。
设计缺陷或薄弱环节是复杂系统发生故障的第二个原因。反应堆设计缺陷是切尔诺贝利核泄漏事故发生的原因之一，程序错误或故障十分常见。通常情况下，用户并不会注意到软件的薄弱环节，除非各种事件同时发生。比如，像Windows操作系统的新版本有几百万条代码行，在对外开放使用的时候，就有成千个已知的故障，还有些故障直到终端用户报告才为人所知。
消除复杂系统的故障是一个持续不断的过程，因为每次故障维修都会遗留新的薄弱环节。正如第二章中提到的骑士贸易公司不到一个小时就在华尔街损失了4.4亿美元，主要原因是用了一个尚未成熟的新软件。关键软件在投入使用之前一定要进行严格的测试。很多情况下，软件没有得到充分测试，并且再严密的检测也会遗漏一些薄弱环节。
此外，每一个薄弱环节都可能遭到不当利用，比如黑客制造计算机病毒，或是出于非法目的侵入系统。在网络犯罪和网络情报等蓬勃兴起的领域，带有非法目的的黑客已发展成一门高端艺术。我们对于阻挡破坏性病毒和阻止利用计算机薄弱点从事犯罪活动的各种反计算机病毒程序、防火墙、密码等都已非常熟悉。但不幸的是，这些安全措施增加了复杂性，导致诸多不便，更重要的是，增加了复杂系统的不可预测性。
第三，对社会技术系统的关键特征缺乏关注往往导致灾难发生。1984年12月2日，印度博帕尔联合碳化物公司农药厂异氰酸甲酯毒气泄漏导致3700人死亡，事故发生前该化工厂已经发生了很多小事故。但没有发出警示提醒周边居民，当天晚上泄漏发生后，风速缓慢以及毒气扩散的方向都是造成严重事故的原因。上述因素如有任何变化都会减少死亡的人数，当然悲剧还是发生了，并造成那么多人死亡。
博帕尔事件发生后30年里，再没有发生如此严重的化工厂事故。耶鲁大学退休的社会学家查尔斯·佩罗（Charles Perrow）认为：“这并非因为我们采取了更多的安全措施；实际上，自博帕尔事件后，严重的化学事故发生概率是上升的，但是我们已没有如此规模的大厂和环境条件可供酿成一起灾难性事故。”
佩罗认为1979年宾夕法尼亚州三里岛核事故就是常态化事故的典型范例。该事故是因为三个方面同时出现问题造成的。反应堆设计者为每一种部件失灵制定了后备措施，但是他们并没有或许是无法解决多方面问题同时出现的情况。要为此类紧急情况做出预案，需要设计人员分析各个方面都出现问题时可能造成的影响。考虑到复杂的核反应堆中零部件如此之多，各种组合情况浩如繁沙。也许设计者可以对关键部件同时失灵的情况进行认真研究，但是这需要花费大量的时间和金钱。
工程师不会把全部精力都放在考量各种可能性的存在。1996年畅销书作家麦肯姆·格拉德维尔（Malcolm Gladwell）发表了一篇分析三里岛核事故以及1986年挑战者号航天飞机爆炸的文章。挑战者号上的所有机组人员和乘客都殉难了，包括首次受邀参与飞行的来自新罕布什尔的教师克里斯塔·麦考利夫（Christa McAuliffe）。
挑战者号失事原因最终追溯到一个环形密封套垫——O形环，因为一向阳光普照的佛罗里达有一段时间寒冷天气增多，导致O形环脆化。格拉德维尔得出结论，一般的理解是这些事故是因为各色人等没有很好地履职才导致这些不正常的事故发生，像三里岛核电站事故，有些处理程序抓住了多种因素产生的故障问题，但还是会忽视某些可能性。格拉德维尔写道：“我们所构建的世界发生高科技灾难的潜在可能性已经深植于日常生活之中。”
考虑到重大事故并非经常发生，管理不善、糟糕设计以及一般性的事故都可以看成是低概率事件。问题在于，认为此类事件不太可能发生正是问题所在，这也是复杂系统出现故障的第四个原因。
通常，一些不幸事故发生的可能性被低估了，因此没有提前采取预防措施。这些事件被称为“黑天鹅”，因为人们看到黑天鹅通常会感到惊讶。黎巴嫩裔美国人纳西姆·塔勒布（Nsaasim Taleb）是一位统计学家和畅销书作家，他支持黑天鹅理论，强调为什么人们对低概率事故发生的不可避免性视而不见，以及为什么这种事件一旦发生会产生大范围的影响。
塔来指出对于很多情况，钟形曲线（bell curve）并不能充分反映可能性分布概率。有些情况下，异常值发生的概率更高，标准的钟形曲线无法表现这一点。异常值发生的高概率性可以在分布曲线的末端加上一个“厚尾”或“长尾”进行视觉化表现。
更糟糕的是，在许多真实情况下，我们并不清楚实际可能性究竟是怎样的，而是不合理地消除了异常值，直至真的发生了异常事故。个人以及机构的行为比我们所理解的要危险得多。一家投资公司的战略可能多年来十分有效，但是突然某一天股票狂跌，这一战略导致公司倒闭。从多年来公司持续盈利的角度来看，该公司的战略看起来是成功的，但是从公司最终不可避免倒闭的角度看，该战略是失败的。
复杂技术系统，特别是计算机系统的行为大多被看成是低概率事件。就像赌场里的老虎机，所有标志排成一条线才能中头奖，但是这种情况并不常发生。低概率的事件并非完全无法预测，但是什么时候、在哪发生很难预测。此外，我们对于计算机系统可能的行动方案以及采取某些行动的可能性了解甚少。这是因为我们往计算机的计算程序中添加了数不清的信息节，而这些计算程序决定计算机采取何种行动。在某一既定时刻，输入的信息是具有独特性的。我们再看看第二章中所提及的闪电崩溃，也许能够更清楚地理解这个问题了。
复杂的技术系统
2010年5月6日下午2：42至2：47，道琼斯工业指数暴跌600点，当天已经下跌了300点了。市场缩水9%，上万亿美元蒸发。在最低点的时候，CNBC评论员伊林·博纳（Erin Burnet）报道说宝洁公司股份已经下跌24%至每股47美元。坐在她旁边的市场专家吉姆·克莱默（Jim Cramer）立马说：“这肯定不是真实的价格，赶紧去买宝洁公司股票吧。”就在他解释为什么购买宝洁公司股票是明智之举的时候，市场已经止跌回弹，上升了300点。显然很多人，包括自动买入卖出的计算机，也认为是什么出了问题，重新买入股票。克莱默一分钟后又说：“肯定是机器出了问题，系统出现大故障了。”不到几分钟，市场很快收复了大部分失地。
吉姆·克莱默继续展示了他的先见之明，谈到当天的事情，他说我们可能永远无法知道到底发生了什么问题。目前有一些理论解释造成“闪电崩溃”的原因，但是没有一个普遍认可的解释。最好的猜测就是一宗大型的交易因为计算机交易的不正常情况而放大了影响。
根据演算方法进行自动买入和卖出的计算机是复杂的系统。所有计算机与人类行为者纠缠在一起，人类的行为受到技术的影响，同时也影响技术的行为。从更广泛的角度而言，现代金融市场是一个复杂的适应性系统，由计算机、公司以及受到新闻、世界事件以及个人分析影响的人类行为者组成。
从更广泛的角度出发，世界经济体也是一个复杂的适应性系统，其行为受到多种因素的影响，比如天气、政治事件、单个市场及公司的表现、单个行为者包括计算机的决策等。换句话说，系统之内包含另一个系统，另一个系统内还有一个系统。反馈回路会影响每一个系统及组成部分的行为。
“闪电崩溃”只是一系列事件中的其中一项，在此过程中计算机高频交易释放的冲击波影响了全球市场。分析人员希望事后跟踪分析为什么会对市场产生巨大且不正常的影响，并且建议采取改革避免类似事件再次发生。
市场切断装置能够在探测出非典型模型出现时关闭交易就是其中的范例。但是切断器或是其他的市场改革能否真正终止奇特事件发生仍不清楚，也有可能它们只会给我们带来一切都好的幻觉。如果投资者认为市场不可靠或不公平，他们不会参与交易。但是复杂系统的改革，因为计算机和人类的行为密切耦合，会带来新的挑战和不平等。比如说，一些交易商具有不到一秒处理交易的技术占据了不公平的优势，改革对此进行修正，但也会给他们带来不公平的优势。
系统理论学者认为偶然的、不可预测的不稳定活动对于复杂系统而言是正常的。换句话说，“闪电崩溃”发生时，机器并没有坏，只是做了应该做的事，正如“全球鹰”无人机的软件只是按照编程程序要求做事。但是，考虑到金融市场应当是理性的，股票价格应该从某种程度上与有关公司的实际价值挂钩，这样来看，宝洁公司在“闪电崩溃”发生时股票下跌24%似乎没有正当理由。但是，股票通常是与市场整体情况捆绑在一起，市场总是因为某种原因在某个特别的日子或升或落，通常与投资者的心理以及短期目标密切相关，甚至超过与公司本身业绩的相关度。
人类心理是很复杂的，这也直接造成有人参与的任何活动都具有不可预测性。计算机的行为也存在同样的不可确定性，虽然说计算机没有自己的思维。2010年5月6日发生的道琼斯指数暴跌事件并非不理性，而是一系列因素巧合导致了低概率事件发生，这也代表了在一系列可能发生的事件中的其中一种可能性。
但是高频交易的世界里，系统本身很复杂，加上反应快速，能够加速低概率事件发生的可能性。抛硬币的话，正面朝上的可能性是50%，每一次投掷概率是一样的。运气不好的话，抛一百次都可能会输钱，但是如果抛足够多的次数总能达到平均数，即50%正面朝上，50%反面朝上。连续10次反面朝上的可能性很低。但是，如果你抛足够多的次数，迟早你会实现连续10次反面朝上的时候。实际上，非数学家们严重低估了连续多次得到同样一面的硬币的可能性。平均而言，每抛1024次可能会得到连续10次反面朝上的情况。
现在想象一下一台计算机模拟硬币投掷，每毫秒进行一次（千分之一秒）。对于计算机而言，得到连续10次反面朝上的概率与人类是一样的，但是人每投掷一次硬币需要5秒钟。所以说，这个简单的事实就是计算机投掷硬币的速度要比人快得多，这意味着计算机每过几秒钟就可能得到连续10次反面朝上。人类则需要一个半小时才能实现。交易速度加快即能加快异常值的出现。
对于短期交易员而言，金融市场的成功越来越依赖于使用越来越快的计算机加速交易。购买和出售同样的金融工具不到一秒就可以完成，在这极短的时间里，公司可能盈利或亏本。获得数据最快，第一个交易的公司更容易获得利润。
1815年，内森·罗思柴尔德购买英国政府债券发了笔大财，因为信鸽的报信让他比其他投资者提前知道威灵顿公爵在滑铁卢大胜拿破仑的消息。现在的计算机交易公司都愿意大笔投入服务器，减少获取信息的时间，哪怕是减少一秒钟。几毫秒的时间可能就是胜负两重天的区别。
通过使用计算机演算进行决策，同时排除人的因素，加速了新信息的获取，通过自动执行任务加速了市场的活动。计算机获取的信息越多，做出的决策越合理。输入的信息反映了当前世界所发生的情况，比如政府关于就业的报告、中央银行改变汇率、饭店连锁店宣布预期收益下降，或是巴西的风暴破坏了甘蔗林。
计算机的行动也会对外部世界造成影响。比如，订单急剧减少会迫使公司管理层辞掉大量员工进行重组。这些工人会重新找工作，从而影响当地的经济，甚至店主是否有钱继续为女儿支付舞蹈培训班的费用都会受到影响。复杂计算机系统的行为对市场产生影响，它不仅与市场密切相关，也与市场之外的复杂机构、大社会里的复杂个人的行为等紧密耦合。复杂的环境和地缘政治力量也在不断地改变我们的世界。
计算机的行动与输入信息的耦合加剧了复杂性，如信息输入的数量，以及软件如何根据这些输入信息做出交易的决定。增加系统的复杂性会影响所有可能事件的分布，从而出现更多的异常值。简单地说，由于复杂性增加，分布曲线会拉很长或是尾部增厚，计算机行动越不可预测，它们造成的影响也复杂。
当系统的各个元素紧密耦合或是复杂系统之间产生重要的影响，一些小的不可预料的事件会在整个大系统中产生反响并带来影响深远的后果。全球金融服务公司雷曼兄弟（建于1850年）与其他主要的金融机构有千丝万缕的联系，2008年该公司破产之时，威胁到全球整体金融系统。幸运的是，全球金融大系统十分强健，它吸纳了这些损失并在没有雷曼的情况下进行了结构调整。这种强健部分原因是在预料到雷曼兄弟破产的有限几天里，其他的金融机构做了大量的准备工作。如果没有那段时间，众多公司同时倒闭将造成国际银行系统崩溃。
从所有的可能性分析，“闪电崩溃”是由于某一系统的低概率事件引起的，又因其他系统的低概率响应变得复杂化。刚开始的不正常交易引发了链式反应，因此造成了剧烈的且短时间的影响。
可以肯定的是，这并非一个很精确的诊断。我们没有办法证明这个理论，或是这个问题的其他解释是对还是不对。但是，计算机交易导致的低概率事件的预防和管理问题的确值得注意以防止未来出现类似的危机。
计算机模拟是提前确定复杂系统可能遇到的各种情况的最好办法。好的模拟将影响系统行为的信息输入和影响建立模型。通过运行成千上万的不同场景，工程师或商业分析人员能够了解不同的情况导致较低或较高发生可能性的情况。好的模型能为提前规划提供信息并得出应在复杂系统中加入哪些安全机制。他们能帮助减少某些灾难发生的可能性，当然并非所有的灾难都能防止发生。
复杂建模能否解决问题
20世纪80年代，系统理论诞生了复杂自适应系统的科学研究，主要研究单个部件如何适应各自的行为，转而改变系统的结构和活动。更强大的计算机的出现使得这一对于复杂系统研究的变化得以成为可能。强大的计算机有利于通过为复杂活动建立模型进行模拟。系统理论家希望复杂自适应系统的科学研究可以提供一个工具，以理解并驯化我们日益依赖的复杂系统。
大部分对于自适应系统的研究关注物理和生物过程。即使是微小的生物系统比如活细胞都十分复杂。医学绘图师戴维·博林斯基（David Bolinsky）创造了有名的动画，描绘了在一个细胞中分子充满活力地跳舞。这个动画非常神奇，展现了一个丰富的宇宙，魔幻的结构活跃地互动。细胞中大量的分子微型机器不断改变状态。
哈佛大学分子、细胞生物部门都用博林斯基的动画模拟作教学工具，帮助学生想象细胞内部生命的复杂。但是，尽管这个动画展现了细胞内部的复杂性，戴维·博林斯基却告诉我细胞里发生的活动非常之多，该动画只是展现了分子结构及其活动的10%～15%。
复杂自适应系统的研究初期关注的是对进化进行模拟。在人工环境中探索进化进程带来了很多好处。在生物世界中，需要无数代的进化才能成功发展为具有有趣特征的物种。在电脑模拟中，从一代到下一代只需几秒时间。
随着对进化进程的研究出现了一个全新的领域，即人工生命（Alife）。人工生命的研究人员在模拟环境中增加了虚拟有机体。其想法是探索这些人工有机体会怎么改变，并对模拟环境中其他有机体的行为做出何种响应或如何应对环境的变化。我们可以把这当作计算机游戏《孢子》（Maxis公司出品，一款模拟生命进化的游戏，该公司还出了《模拟人生》《模拟城市》等产品）。人们希望模拟世界的有机体能够进化成复杂的虚拟生命，转而帮助大家更清楚地了解生物生命的强健性。
不幸的是，虚拟有机体的进化进入了一个平台稳定期。计算机环境中的人工实体并没有发展成足够复杂的程度。生物学家托马斯·雷（Thomas Ray），他发明了一个受到高度认可的研究人工进化的软件项目（Tierra），承认“数字介质中的进化仍然在进行过程中，所取得的成绩非常有限”。目前尚不清楚为什么人工生命模拟如此令人失望。不成功说明计算机模拟中的生物系统模型存在根本缺陷，至少通过目前所有的尝试结果是这样。尽管如此，人工生命研究人员继续探索新办法，取得了不同程度的成功。
科学认识取决于绘图和模型，它们通常抓住了物理、生物或社会条件下的突出特点，但忽略了明显的外部细节。绘图展示的是已经发现的特征。绘图中没有的是未经探索或未知的领域。动态模型重点放在看起来很重要的特征而忽视其他的特征从而使得对于关系和遵循法则的活动的研究成为可能。理论模型要成为可行的假说，必须揭示一些观察或预测并为现实世界的实验所确认。如果预测被证明是错误的，那这个模型要么是不对的，或是不完整的。
模型失效有多种原因。通常理论模型过于简单，不能抓住所有影响系统的重要因素。在计算机出现之前，科学家只限于处理相对简单的概念模型。计算机模拟使得有机会观察更复杂的系统如何一步步展开的，并成为研究所有从分子到宇宙的混沌和复杂系统行为的最重要的工具。随着新一代速度更快的计算机和更好的编程工具的出现，模拟将能够为越来越复杂的流程建立模型。
即使是优秀的模型如果不能吸纳根本的特征也是不够的。混沌和复杂性理论告诉我们模型中产生的非常小的影响能产生重要的作用。伦敦千年大桥是一座悬挂于泰晤士河之上的专供行人步行的桥，本是建筑学上的奇迹，但是在通行第一天，成千上万的行人走过去导致大桥摇晃。这座大桥很快就得到一个昵称“摇摇晃晃”，许多过桥的人都因为摇晃很困扰，设计大桥的工程公司也感到不安。
大桥摇晃的情况在计算机模型中并没有出现，风洞模拟也不明显。这家公司很快明白了，它们的模型并没有考虑路人步伐同步时悬浮的步行桥产生微弱共振的情况，步伐同步造成大桥摇晃。因为大桥摇晃，吸引更多的人以相同的步伐在大桥上走，从而使大桥摇晃得更加厉害。
不可确定性是工程师的敌人，他们的工作就是设计可靠的工具、机械、建筑以及桥梁。战胜不可确定性是安全的有机组成部分。机械系统天然倾向于从有序发展到混乱状态。比如，摩擦导致车辆发动机振动，振动会损坏或导致其他零部件松动。检测和消除混沌行为是确保复杂系统最佳表现的关键。
以千年大桥为例，找到问题根源后，工程师决定加装减震器可以有效缓解大桥晃动。闪电崩溃也引来了极大的关注，促成了各种改革措施，一旦交易中出现不正常现象，市场将暂时停止交易。但是，虽然开展了大量研究，人们并没有学到太多经验，也没有采取充分的改革措施驯服高频计算机交易占据主导地位的市场不确定性。
这个故事的寓意就是：即使使用高度精确的模型，人们仍没有掌握复杂自适应系统的研究，也无法跟上公司和政府继续发展的极度复杂的技术。我们对于复杂自适应系统的初步了解仍然不够，我们需要给予人类运行人员介入的机会。但是为了给他们履行职责的自由，我们需要给予他们充分的时间。
全力应对不确定性
2003年8月14日，我正在办公室工作，突然停电了一会儿，又恢复正常。俄亥俄州的用电高峰导致美国和加拿大历史上最严重的一次大范围停电。从密歇根到马萨诸塞州，以及加拿大的安大略省都受到了影响。有的用户需要两天或两个星期才能恢复正常。停电刚开始是因为克利夫兰（Cleveland）的输电线过热倒到了一棵树上。这起小事件升级成大范围停电，涉及8个州并影响到了加拿大。
软件故障使得停电更加复杂，操作员的决策也增加了复杂因素。在新英格兰南部，我们躲过了停电，是因为技术人员明显违反了自动化停电规程，并将我们的电力供应商与其他州的电网切断了。只需几秒时间就足以让我们住在康涅狄格州的人免于遭受停电带来的不便以及经济负担。
当今世纪，计算机网络紧密相连已很常见。可以争取的一点时间就是将关键单元从复杂系统中解放出来。模块化的设计，允许单个单元进行更加独立的行动，能够通过减少部件之间的密切联系提高安全性。因特网的根本是模块化系统的最好例子。分配中心出现故障不会导致互联网崩溃，因为在设计之初就考虑到要不断地寻找新的路径通过网络可用的节点传输数据。
查尔·斯佩罗（Chairles Perrow）和其他的专家建议通过打破耦合和模型化以减少意外事件所产生的影响。不幸的是，很多行业主流的倾向是各个次单元之间建立更紧密的耦合关系。在增加利润的压力下，商业吞并或与竞争者融合，消除冗余的单元，并对程序进行简化。跨国公司越来越大，日益集中，各个次单元高度集中以实现效率最大化。做出这些决定的商业领袖很少认识到其中的风险。他们只是做好自己的工作。反对对大型集团进行监管的政客们也根本不了解在每次周期性下滑或意料之外的灾难发生时，他们其实给经济带来了更大的破坏。
将金融市场和加剧金融市场动荡的高频交易解开耦合可以通过一些温和的改革来实现。比如，应对股票交易市场对每一次短期交易收取交易费。交易公司持有股票、货币或商品不到5分钟的，可对其收获的利润征税。按分或是按秒进行交易将会使那些获取信息或交易时间比竞争者慢几分之一秒的公司完全没有任何优势。上述的改革措施肯定可以很大程度上减少高频交易的数量。所以，并不奇怪的是，受益于高频交易的公司想方设法阻止采取可能干扰他们业务的措施，自“闪电崩溃”之后只有少数改革措施真正得以实施。他们辩称短期交易的流动性是有益的。那些最能驾驭系统的获利者似乎比市场的完整性和稳定性更重要。
我们对那些能够从系统中受益的人反对改革并不惊奇。我们也不能期待有改革思维的政府官员完全理解他们所考虑的并不完美的措施是否能够解决所考虑的问题。专家们对于复杂系统管理的决定有极大的影响力。考虑到其中的错综复杂，专家也可能搅浑水，有时候是为了支持现状，或是推动改革。那谁负责决定应如何管理复杂系统以及什么时候开始改革呢？
有关限制灾难性后果，还有人建议将化工厂、核电站以及其他有潜在危险的设施建在偏远地区。这个建议也很少得到重视。将化工厂建在人口密集的中心能够减少劳动、交通和能源等方面的成本。将核电站建在能源需求多的城市附近可以减少建造将能源输送给用户的基础设施。
后备和冗余系统对于解决一般的系统失效问题是有用的。自动停电可以保护电网的设备免遭电涌的破坏。关键系统的设计当然考虑了安全，但是很少会考虑具有灾难性后果的低概率事件。比如说，日本平均每7年会经历一次海啸，因此东京电力公司的规划人员确保了福岛第一核电站比海平面高18英尺（5.5米）。但是他们对于最糟糕的情况估计却忽视了公元869年该地区发生了Jogan海啸，其产生的海浪高度与2011年海啸引起的海浪高度类似，导致了福岛电站受到洪水袭击。当时海啸波峰超过了15米，比核电站防海水墙高出了5米。
2010年美国墨西哥湾原油泄漏事故的负责方：英国石油公司和越洋公司曾做出基本的计算，认为防灾计划花费昂贵，于是侥幸认为意外不会发生。其实，事故造成的环境破坏、经济损失和清理污染的成本是巨大的。截至2013年9月，英国石油公司在清污、索赔、罚款方面花费了420亿美元（310亿欧元），同时还要支付另外的180亿美元（130亿欧元）。英国石油公司辩称，很多索赔其实并非因石油泄漏造成的。1年以后（2014年9月），美国区法院法官卡尔·巴比尔（Carl Barbier）判决英国石油公司负有严重过失的责任必须支付所有的索赔。
在整个事件中，英国石油公司似乎是运气不好。其他一些冒着同样风险的公司似乎要幸运地多。这起事故发生之后的几年里，很多石油钻井公司还是没有主动采取昂贵的安全措施。他们仍然与要求强制采取安全措施的立法做斗争，在政治同盟的帮助下，他们是获胜者。但是目前尚不清楚，对于低概率的灾难缺乏规划对石油公司以及社会累计造成的经济损失是否会高于周期性灾难真的发生了所造成的经济和环境损失。
也许随着对复杂性的认识加深，工程师和政策规划者能找到新方法来驯服猛兽。但是当前而言，解耦合，模块化，将危险设施建在偏远地区，减缓对于少数人有利但对于社会而言好处微小的交易，风险评估以及更好的测试程序是限制灾难，或者至少是缓解灾难造成的伤害的目前最好的办法。要相信会采取上述措施还真的在于心诚则灵。更可能的结果是越来越依赖日益复杂的技术，大部分的公司对于采取昂贵的安全措施漫不经心，依赖复杂系统的危险依然被低估，灾难发生的频率将越来越高。
纳西姆·塔勒布（Nassim Taleb）建议所有战胜不确定性的努力都是将“灰天鹅”（模糊认识的问题）变成“白天鹅”。复杂世界的非常逻辑就是“黑天鹅”永远存在。一场事故之后，有几只“黑天鹅”会变成“灰天鹅”。“黑天鹅”因此减少了很少一部分。但是日益复杂的技术会催生出更多的“黑天鹅”。“黑天鹅”无法根除的理念决不可作为不采取安全措施减少破坏性事件发生的借口。
人体是一个复杂系统
从科学的角度出发，人体是复杂的系统，其神秘的面纱要通过精确的调查才能掀开。为了我们的讨论，这一领域的研究也适用于复杂系统的管理，可从三个不同方面来看这个问题。第一，人体适应力惊人，非常强健，有韧性。了解人类，实际上所有的有机体，为什么如此有韧性，能够促使科学家和工程师采取类似的机制改善非生物技术的适应能力。第二，很多在开发的复杂技术意味着对生物过程进行干预，以用于医疗目的或提高能力。所有的好医生都知道，干预人类的功能必须非常小心，否则很危险且难以预测。第三，人体的复杂性使得我们完全且轻松实现一些广为关注的技术理想非常困难，比如开发个性化药物，或是在婴儿出生前给他设定一些特征。本书中，复杂性的作用自然而然会拖慢技术创新步伐的观点会反复出现。
在对人体研究采用科学语言和方法之前，“灵魂”和“精神”等词语用于代表人的神秘特征。生命、智慧、创造力以及意识都是灵魂的天赋。按复杂性的语言来说，灵魂的天赋是涌现特征，是一种不只是他们产生的化学和生物互动的综合特征。涌现的概念是否足以解释生命的神秘仍是一个未回答的哲学问题。涌现是一个准科学的术语，经常作为一个占位符号，用现有的科学无法理解。人体中流动的能量特征比如力量、磁性、感觉等不足以描述“精神”一词所能抓住的特质和精神状态。当然，医学发现在加速发展。但是，将人体作为系统研究揭示出其多重复杂性和不可预测性。人体包括错综复杂的子系统，相互之间的影响并未为人所知。
在复杂系统的研究中，涌现的概念是一个特别有意思的主题。系统部件之间的简单互动会涌现出新的模式或全新的特质。化学和物理变化涌现出生命。如果没有传导体，心脏内窦房结中的上万个起搏细胞也能自我组织形成整个心脏的连贯心跳。人体大脑的单个神经元并没有意识，但是所有的神经元形成一个整体能使我们可以阅读眼前的这本书，并且意识到自己正在阅读。
一些形式的涌现是可以解释的，比如大型城市在两条河流交汇处出现，是因为许多单个的行为者追求自我利益的行为导致的。其他形式的涌现，包括单个神经元的活动涌现出的精神状态更为神秘些。
人体是所有复杂系统中研究最多的领域。这个系统对疾病、事故很脆弱，关键部件容易恶化。人体在没有多少药物或医生的帮助下，也具有很强的疾病康复能力。小伤口能自我康复。断的骨头一旦复位也能自我恢复。中风之后几个月，语言能力等关键功能能够专项被大脑的其他区域支持。但是，自然的损耗，比如说酗酒将破坏人体的强健和韧性。比如说，吸烟能损害人体的自然抵抗力，并为肺部疾病埋下隐患。
身体中薄弱性的“剥削者”包括病原体细菌，通常在胆中生存，并且当免疫系统脆弱时有机会利用自身的动力生存、再生和繁殖。“设计”的特征可能会让身体更强健，但也可能改变其生存和发展的适应力和能力。所有物种都是如此。如果对胆进行重新设计使其不再成为病原体的港湾，那可能会导致胆也不能保存其他的对于消化十分必要的其他形式的细菌。
在生病之前，身体里反映是否有问题发生的生物化学环境会产生变化。探测有疾病发生的标志物，通常称之为生物标记，医学家们认为它们对于预防疾病十分重要，对于降低医疗成本十分关键。美国每年在医疗方面的花费高达2万亿美元，其中仅有10%用于药物，2%用于诊断检测，大概85%用于照顾病人以及医疗管理。很显然，预防疾病将对医疗成本产生最大的影响。
大部分在开发的新医学技术研发方向都指向及早探测反映疾病发生的生物变化。亚利桑那州立大学生物设计研究所的创新和医药中心研究人员设想发明一款家用的检测人体健康状态的设备：“盒子里的医生”（Doc-in-a-Box）。“盒子里的医生”可以放在家里的长柜上，用来定期分析血液、唾液和尿液样品，以确定某些变化，指示是否有早期疾病发作。不同层级的生物标记与指示剂的正常基础水平进行对比。换句话说，通过与其他人的身体情况进行比较确定健康水平，或是通过与自身正常的身体化学和生物学情况进行比较。比如说，如果身体里的抗体正在与血液中数量上升的病毒做斗争，这就警示身体感染了病毒。
除了开发这种可以进行多种诊断测试的“盒子里的医生”存在很大的困难以外，读取数据和确定检测结果应当如何使用也面临很多的问题。有一种设想是通过个性化药物，并告知相关的诊断信息，赋予个人为自己的健康负责的能力。但是，考虑到人体的复杂性，这是个糟糕的想法。有些人一看到自己有感染的迹象，就毫无疑问倾向于使用一些自己并不需要的抗生素等药物。或是想象一位女士她读了自己的染色体，分析了菌群（肠道里的动植物群），每天都从“盒子里的医生”那里得到生物标记变化的反馈。所有的这些诊断信息到底是有用还是造成困惑？的确，有些信息非常具体可以表示有必要进行治疗。安吉丽娜·朱莉家族患有乳腺癌和子宫癌的病史，以及BRCA1基因病变的存在表明她患癌症的可能性很高。但是，大多数的诊断信号并不明确。在大多数情况下，要将各种因素结合起来分析。已知和未知的生物标记能够极大地提高和减少患有严重疾病的可能性。此外，生物标记因为一些非问题的因素比如青春期开始、怀孕、更年期等也会发生变动。即便是秋季季节变化也能改变人体准备过冬的生物化学特征。
比诊断信息更重要的是分析总体数据的工具。来自复杂计算机程序的帮助对于解析数据用处非常有限，该计算机程序用于组织和分析生物数据（有一门学科叫作生物信息学）。生物信息系统可能或不可能意识到或将一些基本信息考虑在内。或者该系统对于有一些疾病可以报告一系列的可能性。万一诊断数据的可靠程度或预测准确度很低怎么办？多大程度的不确定是可以接受的？读取的数据是否应当进行一些改动以符合个人的心理承受度？或者说这个人心理上是否合理地对待坏消息或不确定的消息？生物信息系统是否会报告这种疾病很有可能没有已知的疗法？
也许“盒子里的医生”或生物信息系统不应当将分析结果直接发给个人，而应当直接传送给医生、健康顾问或保险公司。但是如果雇主、保险公司或是政府掌握了个人的诊断数据，是否会在使用的过程中损害个人的权利？这些都是我们在考虑采用预先诊断疾病的新工具过程中出现的问题和担心。技术本来的用意是简化决策实际上却使得决策变得更加困难。为客户提供早期诊断数据的目标是值得钦佩的。被分析的身体的复杂性以及复杂的社会关注随着并不完美的消费者和机构企图使用这些信息而出现，这将使得实现这一目标变得更加复杂或者说阻碍了这一目标的实现。
与计算机数据读取产生对比的是，一位经验丰富的医生，更充分地考虑当地环境对于疾病的影响，虽然掌握的信息要比“盒子里的医生”少，但他的诊断更准确。进一步说，一位技艺精良的医生或护士会考量病人的精神状况，并以恰当的方式告诉病人身患严重疾病的消息。
在最好的情况下，一位技术好的医生总是能获取好的诊断数据，包括病人生物标记的每日变化。目前，因其价格昂贵使得只有特别富有的人才能获得。可令人遗憾的是，基因数据和诊断结果越来越容易拿到，这意味着很多缺乏必要知识如何恰当使用这些信息的人因为一些没有根据的担心给自己开一些没有必要的药。在有些情况下，他们的做法是十分危险的。
医疗方面取得的进步表明复杂系统比如人体出现的问题是可以进行管理的，虽然并不能总是得到解决或治愈。充满希望但是很天真的想法就是医学很快能解决所有的医疗问题，这种想法忽略了一个简单事实，即我们了解得越多，我们越能发现人类生物潜在的复杂性。我们找到的缓解痛苦的办法，比如药物，增加了问题的复杂性，它改变了反馈回路，引起了副作用或压制的一些病情在别处爆发。生物医学技术改善了某一方面的功能通常会导致复杂有机体或社会技术系统其他层面的脆弱。解决了某些问题使得整个系统更加复杂，因此很可能变得不可预测，有时候甚至是危险。
无法预测的命运
短篇小说家豪尔赫·路易斯·博尔赫斯（Jorge Luis Borges），曾在一段名为《论科学的严谨》的短篇故事中描述了一个国家的制图师技艺高超，他们绘制的每一张地图都以精确到点的方式抓住了国家地理的每一个特征。形成的整体地图越来越大，直至国家面积的同等大小，以至于后代的人们发现这幅地图大而无当，完全没用。
所有的科学都建立在模型基础上，模型在有些情况下预测非常准确，所排除的元素不会产生太大的影响。但是自然的复杂性和以技术为基础的文化导致即使是最微妙的影响在适当的环境下也能产生深远的影响。我们生存的世界涵盖无数的子系统，其中有一些是复杂的自适应系统。其他的子系统是复杂脆弱的，还有其他一些子系统的活动是混乱的。这些系统之间的反馈回路错综复杂，很难去跟踪或破译。
换句话说，我们的世界和我们身边的环境不符合任何模型。我们并不能完全将其概念化或对现实进行模拟，幻想我们能够完全预测或掌握人类的命运是天真幼稚的。从历史而言，承认和拥抱人类生存的不可预测性是智慧的表现。没有理由认为这一点已经改变了。