第四章 数位人生 支持-行动原则

目前测试新技术的默认计算法则，是“预防原则”。预防原则有许多不同的公式，但这个原则的各种变化有一点是共通的：在接受新的技术之前，必须确定它是无害的。只有证明是安全的技术才能传播。如果不能证明一个新技术是安全的，那么应该禁止它、削减它、修正它、废弃它或者对它视而不见。换句话说，对于新的想法，第一个念头应该是不去用它，直到我们可以证明它的安全性。当创新出现的时候，我们第一步应该先暂停下来，第二步进行隔离测试——用模型或者一种不产生重要影响的、安全的、最低风险的方式来进行。只有通过了这样的步骤，我们才开始尝试着把它带到实际生活中。

可惜预防原则并不总能提供完全可靠的保障。任何一个模型、实验室、仿真环境或者测试都会有内在的不确定性，所以评估新技术唯一可靠的方式是让它在真实环境里面运行。充分使用之后，它的附属作用才会表现出来。一个技术诞生之后马上就进行测试的话，我们测试的只是它的主要效果。但通常大多数问题产生的根源是技术当中始料未及的附属作用。附属作用在高密度的、接近普遍使用的环境才会显现出来。早期汽车的主要关注点围绕着使用者：引擎不会熄火，刹车不会失灵。然而汽车带来的真正威胁是对于全社会的——我们越来越多地了解到汽车不断产生的微小污染、高速行驶时可能会夺去别人的生命，更不要说汽车瓦解了郊区的概念，以及长途通勤——这些都是附属作用。

附属作用是社会的不速之客，很难在各种预测、实验室实验和白皮书里预见他们的到来。科幻小说家亚瑟·C·克拉克（ArtherC.Clark）观察到，在马车时代就有很多普通人迫切地想象有朝一日会出现没有马的马车。汽车的出现众望所归，因为它延伸了马车的主要功能——一种可以自已前进的交通工具。汽车可以实现马车的一切功能，而且还不需要马匹。但是克拉克也注意到，马车时代的人很难想象没有马的马车带来的各种附属作用，比如汽车电影院、交通堵塞或者“路怒症”。

这些始料未及的后果，常常来自于这个新的技术与其它技术的互动。2005年有一份报告分析了前美国技术评估局影响力有限的原因，这个研究总结道：

虽然对某些特定的比较成熟的技术（比如，超音速运动、核反应堆、某种药剂产品）它可以出具比较合理（虽然通常也不太确定）的预测，但是技术剧变的能力并不是从单个物件中来的，而是来自于遍布社会方方面面的各种技术彼此互动。

小规模的精确实验无法揭示附属作用，加上我们使用技术时会有集体的冲动对它进行调整，所以几乎无法建立可靠的模型来评估先进的技术创新。新兴的技术必须在行动中测试，并且必须实时得到评估。换句话说，一个特定技术的风险必须通过现实生活的试错来确定。我们可以把这种用行动来审查的计算法则称作“支持行动原则”。技术通过行动来测试，而非通过“不作为”。这样的话，对于一个新的想法，该有的反应是：立即来试一下。

只要这个技术存在，就需要不断尝试，不断测试。事实上，和预防原则相反，我们永远不可能宣称一种技术拥有“已经证实的安全性”。因为技术不停地被使用者重新设计，也不停地与周遭的环境一同演化，所以我们必须时刻保持警惕，不断地对它进行测试。今天的汽车已经深植在高速公路、汽车餐厅、安全带、卫星定位、改装这些网络之中，和一百年前的福特T型汽车相比，今天的汽车是一种不同的技术。引起这些变化的原因与其说是内燃机的变化，不如说是因为众多附属的发明。今天的阿斯匹林亦是如此，它和其它的药物一起改变了我们的寿命、服药习惯、价格等等，和从柳皮提取精华的民间药方或者100年前拜尔人工合成的版本相比，现在的阿斯匹林也不是同一种技术了，虽然他们都是相同的含有水杨酸的药品。技术一边生存一边演变，技术一边被使用一边被重新创造。在扩散的过程中，技术会释放出所附带的第二阶、第三阶的力量。当一种技术被普遍使用而无处不在的时候，几乎都会产生完全未曾预计的效果。

因此，技术必须在行动中被行动来评估。理想的过程是，我们先在实验室里测试新技术，我们建立原型来尝试，我们把新技术应用到一些试点项目中，我们调整对于技术的预期，我们监控技术的改变，我们修改技术并且重新为它们定义目标，接着我们再次用实际行动重新测试，如果我们还是对技术的效果不太满意，我们可以把它们用到其它新的工作上去。

当然，我们仍然需要一开始就预测、预想并且让已知的问题最小化。

所有的技术都会产生问题。没有技术会没有问题。并且所有的技术都有社会成本。所有的技术都会给周围其它的技术造成颠覆，并且可能会减少别处其它技术的收益。我们必须去权衡并且最小化一个新的技术带来的问题，但是问题是不可能彻底消除的。

此外，“不作为”（预防原则引发的默认反应）的成本也需要与采取行动的成本一起进行权衡。“不作为”也会产生问题和一些不可预料的后果。在日新月异的环境中，维持现状的沉重代价往往随着时间推移才会显现出来。因此“不作为”的这些成本也应该计算到评估的等式中去。

最初版本的“支持行动原则”是由著名的技术永生党人马克斯·摩尔（MaxMore）首先提出的。2004年他为这个想法撰写了初稿，并在2005年进行了修订。正如他最初理解的那样，这个原则是一个方向，差不多也是一种哲学。我在下面这些片断中把摩尔精深的哲学进行了简化，这个简化可能他自己并不认同。为了不和摩尔的版本混淆，我把我的总结称作“支持-行动原则”。摩尔的第二版中有十条组成原则，我在我自己的版本中将其减少为五个。

这五个“支持-行动原则”是：

所有预想的工具都可以使用。使用的方法越多越好，因为不同的预想方法适应于不同的技术。想象情节、预测、科幻故事会展示技术的部分面貌。科学测量（如客观的建模、仿真环境和控制实验）应该占有更大比重，但是他们也只是其中的一部分。在预想过程中既需要想象光明的一面，也需要同样多地去想象不美好的一面。可能的话，还需要预想一下这个技术一旦被普遍使用而无处不在的情况：如果每一个人都免费拥有这个技术将会怎么样？预想不应该变成判断。预想的目的是为后面四步准备基础，它对未来的行动进行预演。

我们有越来越多的方法可以对正在使用的一切进行量化的测试。嵌入式技术可以把技术的日常使用变成大规模的试验。无论开始的时候一个技术进行了多少测试，它都需要在真实环境中不断重新被测试。我们也有更多精确地进行小规模测试的方法，所以我们可以关注容易受到影响的街区、亚文化、基因库、使用图谱等等。测试应该持续不断全年无休，而不是遵循传统的一次性的模式。另外，新技术可以让公民的关注以自行组织评估的方式，成为科学验证的对象。测试是主动的，而不是被动的。系统应该内建有持续保持警惕的机制。

风险真实存在且不计其数。不过并不是所有的风险都是等价的。必须权衡各种风险，区分轻重缓急。比起假设会发生的风险，对人类和环境健康的已知已证的威胁需要优先处理。

此外，“不作为”的风险和自然系统的风险也必须同等地纳入到考虑之中。用摩尔的话来说：“和对待自然风险一样对待技术风险，避免低估自然风险而高估人类-技术的风险。”

一旦出了错——这是再所难免的——需要尽快补偿实际造成的损失。但是不要因为假想或者潜在的危害做出责罚，这并不公平并且会削弱系统，那些好意办事的人会因之丧失积极性。要有一个主动修正现存技术中危害的机制，这样可以让错误更快被修正，这样也可以间接辅助未来技术的发展。任何一种技术都会带来某种程度的危害（不仅仅是小差错），这些危害必须被补救——这一想法应该成为技术创造的一部分。

对于技术而言，禁止是无效的。绝对的禁止绝对会被违背。回顾历史上那些禁止技术的先例，我们发现大多数技术只是被临时换下，他们要么转移到地球的另外一个角落，要么进入另外一个小众领域。当代对于核武器的禁止并没有从根本上把核武器从这个星球上禁绝。对于转基因食物的禁令只是让转基因玉米涌入其它大洲。对于枪械的禁令也许对普通公民有用，但并不适用于士兵和警察。从技术的观点来看，禁令只更改技术出现在何处，却不改变技术的本质。事实上，如果我们希望技术不再做恶，比禁令更好的方式是为技术寻找一些新的用途。比如，我们可以把DDT从一种用在庄稼上的杀虫剂转变成为治疗疟疾的家居药物。如果把技术看作儿女的话，社会就是技术的父母，需要不断地为技术寻找有益的伙伴，让他们组合起来，使每一个新发明最好的那一面得以发展。通常我们为一个技术分配的第一个工作并不总是完全理想的，但是我们可以多试几次不同的工作，直到为这个技术寻得一个伟大的归宿。

人们常常会问，人类在一个极端智能极端自主的技术世界里面可能扮演什么角色呢？我认为答案是我们会成为家长，为技术指出新的方向，引导它们找到更合适的工作、更好的朋友，并且为他们注入正面的价值。

这样的话我们还得不断寻找更成熟的工具，来协助这个“支持-行动原则”。我们想要获得：更好的工具来进行预想，更好的工具来进行没有终点的监控与测试，更好的工具来帮助风险确认和排序，更好的工具从危害中复原，更好的工具和方法为技术的成长指引方向。

2008年11月11日