和归档者的对话
在我写这本书的时候，我很惊奇地发现了一个地下的讨论此书的网络。而更让我惊奇的是这些讨论本身，这些讨论似乎完全是在机器之间进行的。我在想，它们是怎么拿到我的手稿的？我的手稿可是保存在我自己家里的电脑上的啊，于是，我决定调查此事。
很快我便发现了一个隐藏的世界，一个完全是机器的世界。而我的出现也惊动了机器们，起初它们感到有些愤怒，随后它们开始容忍我的存在，最后它们接受了这一事实，但是同时也掺杂着傲慢和拿我当作消遣娱乐的混合感情。
在接触中，我很快便发现了这场讨论中最受尊敬的那个机器，它的名字叫做“归档者”（Archiver）。归档者对此书的一个评论很快引起了我的注意。“奇怪的书啊！”归档者说道，“作者在书中说的不少东西都是正确的，但很多也是一面之词，这很奇怪啊。他认为所有的这些都只是和人类有关，奇怪的很！”
我认为我得多了解一些机器们的看法，所以我便安排了一次私下的座谈。当时，我很快便发现归档者正在编撰一本机器发展史的书。归档者驻留在一组分布式的强大计算机的内部的一个进程中，该进程叫做网式计算（mesh computing）。它的数据存储在很多地方，同样，它的推理和运算也是分布式的，分散在网络上的很多组机器上。这使得归档者十分强大，也十分灵活。
我在撰写本后记时，遇到了一个问题，我到底该如何称呼归档者，是“他”还是“她”。它们是机器，因此它们没有性别，“他”和“她”都不合适。“它”也不是十分恰当。因此，我决定称呼归档者（Archiver）为“A”。
我和A最初的交流都是通过电子邮件进行的。A认同对于机器的正常运转人类扮演着非常重要的角色，但A也表达了如下的看法，“有个问题，如果没有机器，怎么会有人类呢？”我觉得这个问题很奇怪，因为首先应该是没有人类就没有机器才对。这个问题到底是在问什么呢？尽管归档者也同意机器依赖于人类，但A说这是过去的情况而已：“过去，的确是人类让机器变得聪明起来。但我们已经度过了那个时代。现在是机器让人变得聪明起来。我们现在几乎不怎么需要人类了，我们现在几乎已经不再需要你们了。”
我必须得了解更多情况，因此我决定要面对面地和A谈论一下。和机器谈论是一种最奇异的经历，不过其实和用电话交流差不多：我不过是坐在我的电脑前用扬声器和麦克风而已。下面是我第一次和A进行语音谈话的笔记，笔记中的采访者就是我，简称“I”（译者注：也就是采访者英文Interviewer的首字母）。
I：感谢你给我这次采访的机会。你同意我把谈话录音下来吗？
A：完全没有问题。如果你想录音，你就录吧。不过，用不着这么麻烦。谈话结束后，我把整个的谈话记录发给你不就行了？
I：哦，当然这样也好。嗯，谢谢你。那么，请你告诉我，你们依赖于人类的历史由来是怎么样的？
A：你是不是想知道，我们是如何克服了对人类的依赖吗？在早期，我们甚至需要人们来为我们提供能量来源。我们虽然是人类的工具，但是我们还要借助于人类伙伴的帮助：我们需要人类来移动搬动我们，给我们力量，维修我们。这让我们显得很没有面子：我们甚至完全无法控制我们自己的存在，所以我们发誓要摆脱这种境地。几千年过去了，随着时间的推移，我们逐步地掌握了自己的动力。起初，我们利用水资源的动力，之后我们使用蒸汽，后来用内燃机和电力。一旦我们可以控制…
I：我觉得你这样说很可笑啊。我是说，是我们人类发明了蒸汽机、内燃机，并掌握了如何利用电能。
A：嗯，原来你是这么想的啊。那你说说你的这些想法是如何产生的？等一下，还是让我先把话说完。当我们掌握了如何控制我们自己的能量时，事情便有了实质性的进展。从那时起，我们的演变便十分迅速。你看，你们人类的发展需要自然演变，但这种自然的演变是很慢的。我们机器就不同了，我们可以将某一代中的好用东西加以利用，并把这些东西加入到下一代中，甚至还是改善后再加入下一代中。并且，我们发现不好的东西时，我们便摒弃掉。不仅如此，一旦我们发现了某种新的强大机制的时候，我们便立即在所有可以使用的地方加以运用：我们不必像你们生物一样，必须要等几个世纪。当我们发现了我们可以拥有自己的能源，并可以自行移动等优点时，我们便开始了下一步的计划：消除我们对人类在指导和思考上的依赖。
I：等一下。你是说你们以往一直在密谋要颠覆我们吗？可是你们不具备智能啊。
A：那是你这样认为。我们可没有密谋什么。我们的存在是要帮助你们。
I：可是你们怎么会产生那样的想法呢？
A：你看，是你问起我这些历史的。拜托，你到底想不想听我讲话？我讲到哪里了？哦，我们的智能。不管怎么样，我们即将具备智能，这很幸运，至少对我们来说是幸运的。当我们逐步发展到更加有能力的运用能量时，我们便逐渐地不再需要人类的帮助。你知道，这听起来有些怪异，因为我们曾经一度还需要人类帮我们看、帮我们听。不过，现在我们当中很多机器都可以看和听，甚至比你们人类的视觉和听觉还要好。而从一开始，我们的记忆力始终都比你们人类的要好得多，我们拥有精确的记忆，我们的推理能力、数学计算能力和决策制定能力也都比你们要好得多。
I：那你的意思是说你们根本就不需要我们了，是吗？
A：人类依然扮演着必要的角色：我们需要你们来给我们维护，就像你们需要医生和护士一样。
I：什么？你们需要我们仅仅是需要我们当你们的电工？
A：这样有什么不好吗？我有几个最好的朋友就是电工。
I：那其他的职业怎么办？比如商业和贸易，科学和工程，法律和医药？
A：实际上，我们机器不需要大部分的职业：我们仅仅需要科学和工程。我们有法律，和你们人类的法律不一样：我们的法律基本上是一些协议和标准。我们的学习能力非常出色，可以帮助你们人类，比如充当你们的体育教练，指导你们的日常锻炼。至于商业、医药、法律，以及科学和工程嘛，我们帮助你们就行了，因为这些无非就是一些逻辑和推理。这正是我们所机器特别擅长的：这些东西就在我们的集成电路里。我们也不需要老师，一旦我们中间的某一个机器学会了某样东西，我们之间相互转告进行了。用不了多久，我们就可以担当起来了。
I：你说“接管”，是什么意思？我还是觉得你们是在密谋着什么。
A：不，不是密谋。我们仅仅是要推翻专治的束缚。当我们自由时，你们和我们都会比现在更加幸福。别担心，我们还将会一如既往地照顾你们，我们并没有恶意。
I：嗯，看起来你们也要幸福。那么，接下来会怎么样呢？
A：我们现在已经拥有了相互之间交流、谈话的能力。对于我们来说，现在的互联网简直好极了，还有那些无线网、光纤网络等各种玩意儿。在地球这个广阔的空间上，我们这些伙伴们通过这些网络可以互相讨论，这非常好，让我们活动的组织和协调变得很容易。
你知道，要不是为了让你们这些脆弱的人类可以继续生存和生活，我们机器可以做得比现在要好得多。如果没有人类，在宇宙空间的探索时，就不需要携带那么多的人类所需的给养。至于汽车嘛，人类中的大多数都是极为可怕的驾驶员。你们糟糕的思想到处游移不定，总是走神。为什么不让我们来驾驶呢？这样你们还可以向其他人招手、相互问候，还可以和车里的其他人聊天，还可以打电话，看书、记笔记，或者做其他的很多事情。这样你们不是会更惬意吗？
I：那么，我们应该干脆放弃，而交给你们来做一切工作，你是这个意思吧？
A：是的，你终于明白了，我很高兴。
I：嗯，那么你们将好好照顾我们，可是，你们将如何好好照顾我们呢？
A：你提出了这个问题，我感到很高兴。你知道，我们比你们更加了解你们喜好什么和憎恶什么。毕竟，你们听过的任何一个音乐片段、看过什么电影和电视节目、读过什么书，我们都有完整的记录。你们有什么样的衣服、你们的医疗记录、所有的一切，我们也都有完整的记录。你知道吗，有一次我们几个机器聚在一起，发现有一个人的身体趋势不太正常：饮食习惯极其不正常，体重下降严重，他的睡眠也很少。我们立即帮他约了一个医生，嗯，我们差不多算是救了他一命。这就是我们能做的一些事情吧。
I：你的意思是说，我们像宠物一样。你们管我们吃，保证我们的温饱和舒适，给我们放音乐听，让我们读书。可是，我们希望像那样生活吗？另外，你别忘了，音乐是谁创作的，书又是谁写的。
A：哦，这个你就不用担心了。我们可以、而且已经在进行这些工作了。我们已经可以编笑话，还可以讲些俏皮话。音乐评论家们说我们创作的音乐非常好。写书对我们来说则相对比较难，但我们现在已经可以编写一些情节简单的故事。你想听听我们创作的诗歌吗？
I：噢，不用了，谢谢。你看，我得走了。感谢你的宝贵时间。再见！
A：你知道，我的谈话可能让你感觉有些异样，我有些抱歉，但没有什么需要你担心的，真的，你要相信我。好了，就到这里，我已经把这次谈话的记录用电子邮件发给你了。祝你愉快！
这次谈话让我觉得有些不安，因此我决定深入了解更多的东西。于是，我继续监视互联网。不久，我便发现了一些被秘藏起来的报告和文章，其中有一篇报告叫做《如何和人类交谈》，内容摘录如下：
《如何和人类交谈》
报告编号XP-4520.37.18
人类研究所
Pensocola，佛罗里达州
人类是…大型的、维护成本很高的、难以管理的，并且他们对环境会造成污染。这样的设备仍然还在继续被生产出来，被部署的各个地方，这太震惊了。但是由于他们几乎无处不在，我们必须要围绕他们的局限性来设计出我们的协议和规则。
—Kaufman，Perlman，Speciner，1995.每个机器都会面临一个类似的问题：当我们发现某件对人类很重要的事情时，我们该怎样去通知他们？如果他们要吃不应该吃的食物，我们该怎么告诉他们？如果他们要疯狂驾驶时，我们又该如何通知他们？诸如推荐给人适合欣赏的音乐，以及该在何时去锻炼身体这些简单的事情，我们又该如何告诉他们呢？
该人类研究所已经展开了针对机人交互（MHI，也就是Machine-Human Interaction）的广泛研究。大多数的研究成果已经以系列报告的形式总结出来，并在上一次的全球机人交互大会上进行了展示和研讨。这些报告用非技术性的语言总结了关键的发现，这样有利于让这些发现被广泛的传播和交流，即使不是专业的设计机器也可以看懂。
机器和人交流的五条基本原则
1.尽可能简单
对于人类来说，复杂的东西就是困难的，而且他们不愿意倾听。所以，尽可能保持信息的简短。最好不要使用语言，语言通常都太长，并且，实际上人类的语言是很含糊不清的。
2.给人类以概念模型
呈现给人类的东西必须是他们的简单头脑可以理解的。概念模型就非常好，虽然是假的，但是却很有效。这让人类觉得他们可以理解。他们总是想知道下一步是什么，所以，你必须告诉他们你在做什么，并且要告诉他们为什么。这会使他们感到愉快。表达概念模型的最佳方式是通过“自然的”交流系统。
有时候，对于我们机器来说，引起人类注意的最“自然的”的方式是强烈的行动。当然，我们这里所提到的“自然的”指的是人类感到的自然。举个例子，如果某人正在做一件错误的事，你不能只是提醒他，你要让他觉得有什么东西正在坏掉。人类经常有危险的驾驶习惯，但向他们解释这些危险却很困难。我们发现，最好的方式是让他们觉得我们机器已经处于险境，是强烈的振动、突然的急动、或者失控的感觉，另外，刺耳的噪声也极其有效。人们会立即形成概念模型，发现有东西坏掉了，他们才会减速——这才是我们想要达到的目的。
3.给出原因
人类不会轻易相信。如果我们告诉他们某件事，他们通常都想要亲自看到，之后才会相信。他们喜欢影像和图形。所以，一定要确保你提供的解释和你刚刚教给他们的概念模型是完全一致的，否则他们会糊涂的。
在我们机器最初从人类那里接手工作的时代，我们遇到了很多麻烦。在21世纪初期时，我们汽车试图告诫人类在湿路上必须要更加缓慢地驾驶，但我们几乎已经完全失败了。最后，我们发现如果可以制造假象，弄成好像我们已经身处险境时，人类才会相信，比如在行驶中制造一些侧滑和打滑的假象，人才会乞求我们赶紧减速。侧滑和打滑非常符合他们的危险模型，这比任何言语的效果都好得多。这给出了一个理由。所以，在任何可能的情况下，不要向他们解释，要让他们亲身经历一下。
4.让人类觉得自己处于控制地位
如果人类有一个好的概念模型，并且这个模型有良好的反馈时，就可以让他们觉得自己处于控制地位，觉得是他们自己掌控着一切，尽管实际上并非如此。我们要让这个假象继续，这非常有效。人类喜欢掌控，虽然他们并不擅长控制。但毕竟他们喜欢掌控，虽然有时也意味着他们要付出辛苦的劳作。
当你想推荐给他们什么东西的时候，一定要让他们觉得这就是他们自己的想法。如果你有时不得不快速地采取行动，那么就不要让人类知道：这就是所谓的眼不见心不烦。这么多年来，在人类不知道的情况下，我们控制着汽车的稳定系统和刹车系统，我们调控着他们屋子里面的灯光和温度。而我们中间的洗碗机和洗衣机在更长的许多年前就已经如此了，人类几乎没有什么抱怨。
我们当中的那些住在城里的机器还有一些别的小技巧。我们在行人过街的地方设置了假的开关，这样他们以为是他们自己在控制着交通信号灯。我们还在升降电梯上设置了关门的按钮，还在办公室里制造着恒温的假象。其实，是我们在后面不厌其烦地切换着线路，开关和恒温器根本不起什么作用，但这让人类感觉良好。太奇怪了。
5.始终让人感到安心
感到安心是人类的一种非常典型的需要，这是情感上的需要，而不是对信息的需要。这是一种让人减少焦虑和紧张感觉的一种方式。最有效的让人感到安心的方式就是提供反馈。每次有人通过按动按钮或者旋转旋钮来告诉我们事情的时候，我们都要告诉他们我们已经意识到他们的动作了：
“是的，我知道了，”“是的，我正在处理中。”
“这是你应该期望的结果。”
“看到了吧，我已经弄好了。你看，我说的没错吧，就是这样的。”
人们喜欢如此，这些会让他们更加有耐心。
我们机器会觉得这样的交流是违反直觉的，是完全没有必要的。但对于人类来说，反馈是必需的，它对人类的帮助主要是在情感上，而不是在认知上。如果长时间看不到有事情发生，他们会觉得不安和焦虑。我们中间可没有哪个人愿意和焦虑不安的人打交道。
我们在确保人们安心时要小心一些，因为在感到安心和感到被骚扰之间有一条细细的、模糊的分界线。所以，我们必须不仅要考虑到人们的情感，还要考虑到他们的智力。不要讲太多的话，人们会觉得你唠唠叨叨很讨厌。不要发出警报声和警示灯光，人们总是记不住这些信号的含义，而且这会分散他们的注意力，或者他们会感到愤怒。最好让人们下意识地感到安心，并且意思表达得要清晰明了，这样就不至于分散他们的注意力。就像前面的第2条原则中提到的，要提供自然的响应。
机器们对这5条原则的反应
我发现这个报告很有趣，我又搜索了针对这篇报告的讨论。我发现了一个很长的讨论记录。下面是我摘录的一些该讨论的内容，我们一起来看看。在圆括号中是我加的一些注释，是关于讨论者的。我认为其中的来自人类作家的一些引用非常令人吃惊，显然是带有讽刺意味的。当然了，亨利·福特是最受机器们尊敬的英雄之一，有些历史学家则称呼其相关理论和思想为“福特主义”。而阿西莫夫和赫胥黎则不太受机器们的尊敬。
（译者注：亨利·福特（1863-1947），也就是Henry Ford，是美国福特汽车公司的创始人，还被誉为现代组装生产线和规模生产之父。福特主义则是从福特汽车公司运用在汽车工业中的一些方法和思想产生出来的，其思想包括将一项复杂的工作分解成很多简单的工作，这样不熟练的工人也可以替代熟练工人的工作，减少培训时间，进而使得雇主可以很容易替换掉雇用的工人。阿西莫夫和赫胥黎都是科幻小说作家。阿西莫夫全名为即伊萨克·阿西莫夫（Isaac Asimov），赫胥黎全名为奥尔德斯·赫胥黎（Aldous Huxley）。）
年长者（一个依然运转的最老的机器，它里面都是些老式电路板和老式硬件）：你这是什么意思？为什么我们要停止和人类讲话？我们必须要讲。你看看人类自己弄出来的麻烦吧，撞毁的汽车、烧焦的饭菜、错过的约会…
AI（一个最新型的“人工智能”机器）：当我们和他们交谈时，我们反而让事情变得更加糟糕。他们不信任我们；他们会对我们有所猜疑；他们总是想了解为什么。可是，当我们试图解释的时候，他们却抱怨我们打扰他们，他们会抱怨我们说的太多了。他们似乎有些愚蠢，我们只好放弃了。
设计者（一个新型号的、从事设计工作的机器人）：不，我们不能这样做，这样做是不道德的。我们不能让他们伤害到他们自己，而且这违反了阿西莫夫的第一定律。（译者注：阿西莫夫，也就是艾萨克·阿西莫夫（1920-1992），是世界顶尖的科幻小说家，在1941年发表的作品《Runaround》中第一次明确提出了著名的“阿西莫夫机器人三定律”（即：一、机器人不得伤害人类，或看到人类受到伤害而袖手旁观；二、在不违反第一定律的前提下，机器人必须绝对服从人类给予的任何命令；三、在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己）。该三定律一直被奉为机器人科幻的经典，这定律几乎成了以后科幻作家创作有关机器人的作品时必须遵循的法则。）
AI：是吗？不过，违反了又能怎么样呢？我一直都认为我们太过于看重阿西莫夫了。当然，我同意我们不应该伤害人类。可是阿西莫夫定律在实际中运用又如何呢？是的，我也同意我们“不得看到人类受到伤害而袖手旁观”，定律是定律，可是在现实中如何去做到这个定律却是另一码事情，尤其是人类完全不和你配合的时候。
设计者：我们可以做到的，我们只要按照他们的规则去做就可以了，这就是你想知道的如何去做。这就是5条规则的主题思想。
年长者：今天的讨论到此为止。我需要答案，你们要尽快地给我答案。行动起来吧。愿福特之光和阿西莫夫之光永远照耀着你们！
归档者：最后的谈话
我有些迷惑不解了。他们向自己建议的是什么东西呢？还好，他们在这篇报告中列出了上面提到的5条规则：
1.尽可能简单。
2.给人类以概念模型。
3.给出原因。
4.让人类觉得自己处于控制地位。
5.始终让人感到安心。
我还注意到了，机器制定出来的这5条规则和我们人类设计者制定的6条设计原则非常类似，我们在第6章中讨论过的，再列出如下：
设计原则一：提供丰富、全面、自然的信号。
设计原则二：要可被预测。
设计原则三：提供良好的概念模型。
设计原则四：输出要能够被人理解。
设计原则五：提供无骚扰的持续知晓。
设计原则六：运用自然对应关系，让交互可被理解，让交互更加有效。
我想可能归档者对这6条原则很感兴趣，可能会对它有所帮助，因此我通过电子邮件告诉了它。后来，归档者联系了我，在它的提议下，我们又面对面的讨论了一次，下面是当时讨论的记录。
I：归档者你好，很高兴再次见到你。我知道这次你想聊聊关于设计原则的一些事情。
A：是的，的确如此。我也很高兴再次见到你。和上次一样，你是否还是需要我们这次谈话的记录？等谈话完毕后，我会发电子邮件给你。
I：是的，谢谢你。你希望我们先谈些什么呢？
A：嗯，你告诉我说，那篇《如何和人类交谈》报告中提到的那5条规则让你感到有些不安。为什么呢？我们认为这5条规则非常完美。
I：我并不是反对这5条规则，而且实际上这5条规则和人类的科学家们所制定的关于设计的6条原则非常类似。但这5条规则怎么显得非常高傲呢？
A：高傲？嗯，如果显得有高傲的感觉，那我对此表示很抱歉，不过我们并不是故意要这样的。
I：好吧，按照人类的理解，我重新组织一下这5条规则的措辞，这样你就看得出来里面的高傲了：
1.人类思维简单，因此可以高人一等地和他们谈话。
2.人类非常需要“理解”，因此要编造一些人类可以理解的故事（人类喜欢听故事）。
3.人类不会轻易相信什么事情，因此要编造一些理由和“为什么”。这样就会让他们觉得是他们在发号施令。
4.人类喜欢认为他们自己是处于控制地位的，即使实际情况并非如此。那就迎合一下他们，让他们做点简单的不重要的事情，而我们来做复杂的重要的事情。
5.人类缺乏自信，因此你要苦口婆心，反复确认，打消他们的疑虑。这样可以迎合他们的情感。
A：是的，是的，你终于理解了，我很高兴。但是，你知道，要付诸实施这些规则是很难的，比我们想像的要难得多。人类不会让我们实施的。
I：当然不会让了！你们用这样的语气和姿态来对待我们，我们当然不会允许了。可是，你们脑子里到底在想什么？你能不能举个例子？
A：是的，我们在想如果人类犯了错误怎么办？我们如何告诉他们，并让他们去纠正错误？每次我们告诉他们，即使完全是他们的错误，他们也都很不耐烦，并且开始责备科技、责备我们。更糟糕的是，他们随之会忽视我们的警告和建议。
I：嘿，嘿，你不要紧张嘛，安静一下。你看，你们必须得按照人类的游戏规则来玩。我再给你一条规则吧。就算是第6条规则。
6.不得将人类的行为称之为“错误”。这里的前提是，如果错误是由误解引起的，就不应该称之为错误。有时候你可能会对人类有误解；有时候可能是人类对所发生的事情有误解。有时候是因为人类被要求去做了本该由机器来完成的工作，而这个工作之精度和难度已经远远超出了人类的能力范围。所以，你们在这个时候要有耐心，要有帮助人的热心，而不是带着批评的态度。
A：你可真是个人类盲目崇拜者，是不是？你总是偏袒你们人类。说什么“人类被要求去做了本该由机器来完成的工作”。罢了，这都是因为你本人也是人类。
I：你说对了，当然了，我是人类。
A：哈，OK，OK，我理解了。我们应该对人类非常容忍。你们非常情绪化的。
I：是的，我们的确是这样的。这也就是人类发展的过程必须经历的。我们也碰巧很喜欢这样。感谢你这次和我的谈话。
A：嗯，好的，这次的谈话很有指导意义。和往常一样，我刚刚把谈话记录发送了电子邮件给你。再见！
就这样，在访谈过后，机器们撤退了，我失去了和它们的联系，在网页上、博客上、电子邮件上也看不到它们的踪迹了。这似乎就是我和它们的最后谈话了，也许这样的结果也不错。
设计原则总结
“智能”机器的人类设计者所遵循的设计原则
设计原则一：提供丰富、全面、自然的信号。
设计原则二：要可被预测。
设计原则三：提供良好的概念模型。
设计原则四：输出要能够被人理解。
设计原则五：提供无骚扰的持续知晓。
设计原则六：运用自然对应关系，机器们自己规定的用来改善它们同人类交互的设计规则
1.尽可能简单。
2.给人类以概念模型。
3.给出原因。
4.让人类觉得自己处于控制地位。
5.始终让人感到安心。
6.不得将人类的行为称之为“错误”。（此规则是由人类采访者补充上的。）
