机器人学的三条规则
1．机器人不可伤害人，不可袖手旁观地听任人受到伤害。
2．机器人必须服从人给与它的命令，但是如果这个命令与第一条规则发生抵触，
那就不服从。
3．只要不违背第一条规则或第二条规则，机器人必须保护它自身的生存。
安德鲁·马丁说，“谢谢，”同时坐在请他坐的位子上。他看上去并没有露出背水
一战的样子，但是他已经没有退路了。
实际上他什么也没有表示出来，因为除了有人想象看到他眼睛里流露出来的悲哀以
外，他的脸孔平静得毫无表情。他的头发光滑，呈淡褐色，很好看。他脸上光滑，好像
刚刮过脸的样子。他的衣服显然是老式的，但是很干净，像是紫红色的天鹅绒做的。
面对着他的是坐在办公桌后面的外科医生。办公桌上面的姓名牌上写着由文字和数
字组成的证明身份的全部内容，安德鲁很容易看懂。称他为医生就够了。
“医生，什么时候能做手术？”他问道。
那位外科医生以某种对待人类的必不可少的恭敬的口气温和地说，“先生，我不能
肯定我了解怎样做这种手术，或者对谁做这种手术。”
如果像外科医生那样的机器人的青铜色不锈钢脸孔上能够有不妥协的表情，或者任
何别的表情的话，那么他脸上可能露出了一种恭敬而又不妥协的表情。
安德鲁·马丁观察那机器人用来拿刀子的右手。那只手一动不动地放在办公桌上。
几只手指都很长，是带有艺术性的金属手指；弧形的曲线弯得很优美、很恰当，人们能
够想象它们适合于拿解剖刀，拿刀子时手指和刀子连成一体。他做手术时不会犹豫，不
会失手，不会发抖，不会弄错。这种信心当然是伴随着专业化产生的。人类强烈要求这
种专业化，只有极少数机器人具有这种专业化的头脑。外科医生当然必须具有这种脑子。
但是这个机器人，虽然具有专业化的脑子，可是他的能力被限制在专业范围内，所以他
不认识安德鲁，也许从来没听说过安德鲁。
“你曾想过你会像人那样吗？”安德鲁问道。
外科医生犹豫了一会儿，似乎在给他规定的阳电子的电路里没有这个问题。“先生，
我可是机器人啊。”
“做一个人不是更好么？”
“先生，做一个更好的外科医生会更好些。如果我是人，我就不能做更好的外科医
生，只有我是个更先进的机器人，我才能做更好的外科医生。如果我能成为更先进的机
器人，我就会感到高兴。”
“如果我命令你做各种事情，这会冒犯你吗？如果我一声令下就能使你站起、坐下，
向右或向左移动，这会冒犯你吗？”
“先生，使你高兴会使我感到愉快。如果你的命令旨在干涉我对你或对其他任何人
的职责，我就不服从你。关于我对人的安全负责的第一条规则比关于服从的第二条规则
更重要，但服从会使我感到愉快。那么请告诉我，我要给谁做这个手术呢？”
“给我做手术，”安德鲁说道。
“但这是不可能的。这显然是破坏性的手术。”
“没关系。”安德鲁平静地说道。
“我决不可使你受到破坏，”外科，医生说道。
“你不可使人受到破坏，但是我也是机器人”，安德鲁说道。当安德鲁第一次被制
造出来的时候他很像机器人。像任何机器人一样，他的外表很像机器人——设计得很光
滑，而且是以实用为主的。
当机器人在家庭里，或者在整个行星上还很希罕的时候，他在他所安身的那个家庭
里干得很好。那个家庭有四个人：先生，夫人，小姐和小小姐。他当然知道他们的名字，
但是他从来不用这些名字。先生名叫杰拉尔德·马丁。
他自己的编号是ndri……他终于忘记了这个数字。他当然已经忘记了很久了，但是
如果他想要记住这数字，他就不会忘记。他根本不想记住。
小小姐是第一个称他为安德鲁的人，因为她不会用那几个字母；于是家里其余的人
统统照她那样称呼。
小小姐……她活了90岁，已经死了多年了。他曾经想称她为夫人，但是她不允许他
那样称呼。小小姐这个称呼一直用到她最后的日子。
安德鲁曾经想执行男仆和男管家的任务，甚至想执行女仆的任务。执行那些任务的
日子对他来说是试验的日子。除了在离开地球的工业和探测工厂以及空间站以外，对任
何地方的所有的机器来说也确实是试验的日子。
马丁一家人都喜欢他，因为小姐和小小姐要和他玩，所以他的工作时间被占去了一
半。小姐第一个懂得怎样安排他陪她们玩。“我们命令你和我们玩，你必须服从命令。”
“小姐，很抱歉。先生先发出的命令必须先执行。”
但是她却说，“爹爹刚才说他希望你打扫一下。这并不是命令。现在我命令你。”
先生并不介意。先生喜欢小姐和小小姐，甚至超过喜欢夫人；安德鲁也喜欢她们。
她们对他的行动所造成的影响，用人的标准来衡量，至少可以称为喜爱的结果。安德鲁
认为影响他的行动的东西是喜爱，他不知道表达它的任何其他的字眼。
正是为了小小姐，安德鲁才用木头雕了一个垂饰。她曾经命令他雕。小姐似乎得到
了一个有涡形装饰的象牙垂饰，作为她的生日礼品。小小姐感到不开心。她只有一块木
头，便把这块木头连同一把小菜刀拿给安德鲁。
他雕木头雕得很快，小小姐曾经说，“安德鲁，太好了。我要把它拿给爹爹看。”
先生不相信。“曼迪，说实话，你从哪里得到这东西的？”曼迪是他对小小姐的称
呼。当小小姐向他保证她说的是实话时，他转向安德鲁。“安德鲁，是你雕的吗？”
“先生，是的。”
“图样也是你设计的吗？”
“先生，是的。”
“图样是从哪里复制来的呢？”
“先生，那是顺着木头纹理雕出的具有几何图形的艺术品。”
第二天先生把一块更大的木头和一把电动刀拿给他。“安德鲁，用这块木头雕东西
吧。你想要雕什么就雕什么。”他说道.
安德鲁在先生注视下雕东西，然后对雕成的东西看了很久。从此以后安德鲁不再伺
候进餐了。主人命令他阅读关于家具设计的书籍，于是他便学习做家具。
“安德鲁，这些家具都是令人惊异的产品。”先生立刻对他说。
“先生，我喜欢做家具。”安德鲁承认道。
“喜欢吗？”
“这个活儿使我脑子的电路更容易流动。先生，我听说，你用了‘喜欢’这个词儿，
并且你用这个词儿的方式符合我感觉这个词儿的方式。我喜欢干这一行。”
杰拉尔德·马丁把安德鲁带到联邦机器人和机械人公司的区公司去。作为区立法机
关的一位成员，他可以毫无阻挡地会见机器人心理学主任。仅仅因为他是区立法机关的
成员，就使他有资格在第一个地方，在早期机器人还很少的时候成为机器人的主人。
当时安德鲁对这件事一点也不懂。但是在以后的岁月里，当他学得更多的时候，他
就能重温早期的情景，并能正确地理解它。
默腾·曼斯基这位机器人心理学家皱着眉头听着，不止一次地设法不让他的手指在
桌面上咯咯咯地敲。他的脸孔拉长了，前额布满了皱纹，但是事实上他可能比他的外表
更年轻。
“马丁先生，机器人学不是一门精密的技艺”，曼斯基解释道。“我不能向你详细
说明它，但是数学是支配阳电子电路的标绘工作的，它太复杂了，允许求得近似的答案。
自然，由于我们环绕这三条规则制造每件东西，这些规则是不容置疑的。我们当然要更
换你的机器人——”
“别客气”，先生说，“在他那一方面没有失败的问题。他能圆满完成分配给他的
任务。关键在于他也把木头雕成精美的式样，并且从来不重复一种式样。他制造工艺
品。”曼斯基似乎给弄糊涂了。“真奇怪。这些日子我们当然在试用一般化的电路。你
认为这真的是创造性的吗？”“请你自己看吧。”先生把一个小木球拿过来，木球上有
一个运动场。场上的男孩们和女孩们雕得太小了，几乎看不清楚。但是他们非常匀称，
和木头的纹理这样自然地配合在一起，似乎纹理也是雕出来的。
曼斯基表示怀疑。“他雕的吗？”他摇摇头，把它拿回给先生。“真讨人喜欢。电
路里有名堂。”
“你能叫他再雕一个吗？”
“大概不能。再雕的事情从来没有听说过。”
“很好！我毫不反对安德鲁是唯一能雕的机器人。”
“我猜想公司会请你把你的机器人送回来，让他们研究。”曼斯基说。
“不可能！”先生突然严厉地说。“忘掉这件事把。”他转身对安德鲁说道，“让
我们回家吧。”
“先生，照办，”安德鲁说道。
小姐正在和男孩们约会，家务事管得不多。现在安德鲁的心目中只有小小姐，她已
经不像过去那样小了。她始终没有忘记他雕的第一个木雕品是给她的。她把它系在她颈
上挂的银项链上。
第一个反对先生习惯于把安德鲁的工艺品送人的人就是她。“爹爹，听我说，如果
任何人想要一件工艺品，就叫他拿钱买吧，它值得付钱。”
“曼迪，它不像你那样贪钱。”
“爹爹，不是为了我们，而是为了这位艺术家。”安德鲁过去从来没有听见过这个
字，当他有点儿时间能让自己安排的时候，便在词典里查出这个字。
然后先生又带他出去，这一次是到先生的律师家里去。
“约翰，你认为这件东西怎么样？”先生问道。律师名叫约翰·费戈尔德。他头发
雪白，大腹便便，他的无形眼镜的边缘给染上了鲜明的绿色。他看着先生递给他的那块
小饰板。“这东西太美了，但是我已经听到这消息。它是你的机器人的雕刻作品吗？我
说的是你带来的这件东西。”“是的，是安德鲁雕刻的。安德鲁，难道是你雕刻的吗”
“先生，是我雕刻的。”安德鲁说道。“你愿意付多少钱买它？”先生问道。“我不能
说。我不是收集这种东西的收藏家。”
“你相信我已经出价250美元买那件小东西吗？安德鲁曾经制造了卖到500美元的几
只椅子。卖出安德鲁的产品存在银行里的钱已有20万美? tech.icxo.com |
