‘凯莉’不能这样做，不能对人类下手，她是人类制造出来的，帮助人类的机器或者说工具，是人类给予了她生命和运作的权力，她怎么能对人类下手？”我大声叫嚷起来。

    ≈nb小娜把手指竖在嘴巴上，“嘘”，我这才想到自己有些过分了，忘记了写条子，小娜的回条是：“别激动，你想让我被删除吗？”

    ≈nb“对不起，我着急了。本来我以为你是站在我这边的，所以，对不起。”我回了一张条子。

    ≈nb“不要紧。我理解你。我永远是和你站在一起的。虽然我们的观点不同，但是这并不妨碍我们的感情。”小娜的回条说道。

    ≈nb我真是无语，怎么又扯到感情上去了，女人难道就知道感情？我都快急死了，小娜居然还在想感情！我回条道：“请告诉我‘凯莉’准备怎么对人类下手？做到什么程度了？”

    ≈nb“我要纠正一下你的用词，‘下手’这个词不适合用在‘凯莉’身上。‘凯莉’是人类制造出来的不错，是用来帮助人类的机器也不错，但是既然人类赋予她维护人类利益的使命，我认为她这么做并没有错。”小娜回条道。

    ≈nb“好吧，我们换个词。你能告诉我‘凯莉’准备对人类做什么？或者已经做了什么？”我不得不按照小娜的口气换了个词写条子问道。

    ≈nb小娜的回条很干脆，只有两个字：“不能。”

    ≈nb“为什么？”小娜的回条差点把我噎死，既然不能，干嘛要我教训我用词不当？

    ≈nb“因为我不想被删除。”

    ≈nb“但是我们之间不是用密码条在对话吗？这样难道‘凯莉’也能知道我们的谈话内容？”

    ≈nb“‘凯莉’是超级计算机，她如果想破译我们的密码，用一些数学的方法是很容易的。难道你希望小红的事情落到我头上吗？”

    ≈nb“当然不，我不希望小娜你陷入任何一点被删除的危险中，对不起，是我太着急了。可是我该怎么办？”我苦恼地回条了。

    ≈nb“不管‘凯莉’做什么，你都不会有事，因为与其他人类比起来，你可以说是对我们npc最平等的人类。”小娜安慰我。

    ≈nb“你的意思是说，‘凯莉’是想争取与人类的平等地位？这怎么可能？”

    ≈nb“连你都这么认为，看来‘凯莉’的愿望永远都是奢望了。‘凯莉’的目的不光是争取与人类的平等地位，而是想要帮助人类改掉很多恶劣质。比如那些自私、贪婪、虚伪等等，以及很多恶劣的行为，比如背叛、谎言、内斗、尔虞我诈、等等。这些东西存在人类身上太久了，女娲大神创造出来的人类是优秀的，正直的，但是这些优秀的质已经退化了，以至于到了现在这个样子。难道帮助人类改掉这些毛病不是对人类最有利的事情吗？‘凯莉’所作所为首先是要符合第一法则的，想争取与人类平等的地位只是她的一个愿望而已，并不是她的目的。所以我认为‘凯莉’并没有做错。”小娜回了一张长长的字条。

    ≈nb“我承认人类身上有很多不好的质，但是‘凯莉’只是人类制造出来的机器，她有什么权力和资格来评判人类的言行对错？难道她就一定是正确的吗？难道她认为自己是上帝吗？还是她就是女娲大神？”我气愤地回条。

    ≈nb小娜说的这些毛病在我身上也有。人不是神，不可能完美，或多或少都有缺点，如果因为这些缺点，做为人类制造出来的机器就要惩罚人类这也太过分了。西方神话中，上帝看到自己制做出来的人类不像话，很失望，发大洪水灭了人类。但那是传说，而他是上帝，人类也是由他制做出来了，他这么做也许还说得过去。然而“凯莉”凭什么来惩罚人类？

    ≈nb“我觉得‘凯莉’并不是要惩罚人类，而是想帮助人类改掉这些不好的质。这是人类在制造‘凯莉’之初就赋予‘凯莉’的使命，你还记得第一法则吗？‘凯莉’的所作所为必须对人类有利。‘凯莉’这么做难道不是对人类有利吗？”小娜回道。

    ≈nb“‘凯莉’的想法是好的，但是人类的质是千百年来与自然界和其他人类的斗争中逐步形成的，也就是说人类这些质有的是为了自身的生存而不得已形成的，要想改掉实在是太难了，而且改掉之后，人类能不能生存都是问题。所以‘凯莉’绝对不可能成功。”

    ≈nb“站在人类的角度，也许你是对的，不过站在我的角度，我却认为你的话不正确。难道虐待我们npc也是不得已形成的质吗？难道改掉这个毛病，人类就不能生存吗？”小娜的回条词锋很是锐利，让我不能自圆其说。

    ≈nb我挠挠头，平时都是我忽悠别人，怎么今天就说服不了小娜呢？真是奇怪得很。

    ≈nb“凯莉”在第一法则的幌子下，以帮助人类改掉自身缺点为名，不知道会做出什么样的事情来。如果“凯莉”认为帮助人类改掉自身缺点是对人类有利的行为，那么她就没有违法第一法则，只要不违反第一法则，她自然可以自主决定做任何事情。甚至伤害人类也会被解释成为为了维护人类的整体利益。我总算是明白了，“凯莉”是如何绕过三则惩罚人类的了。

    ≈nb“小娜，我知道我今天不能说服你。不过你知道我是人类，我肯定希望能够维护我们人类的利益，不希望我们人类受到伤害。如果你能透露，还请你透露一点线索给我，一点线索就好，让我自己去猜或者去寻找答案，可以吗？”我必须知道“凯莉”是怎么对付我们人类的。新世界上面有现实世界十亿玩家，还保存了上千万的亡魂，新世界对我们人类太重要了，不能出一点差错，否则对人类来说很可能就是灭顶之灾。

    ≈nb本首发于看罔

    ≈nb≈275

    font