A.机器人不应该伤害人类,或者因不作为致使人类受到伤害。
B.机器人应该遵守人类的命令,与第一条违背的命令除外。
C.机器人应能保护自己,与第一条、第二条相抵触者除外。
阿西莫夫的机器人三原则,人们更常称之为“机器人学三定律”,发表于1950年末由格诺姆出版社出版阿西莫夫短篇小说集《我,机器人》的引言部分
第一原则
机器人不得伤害人类,或者因不作为致使人类受到伤害A robot may not injure a human being ,or through inaction ,allow a human being to come to harm.
第二原则
除非违背第一原则,机器人必须服从人类的命令A tobot must obey the orders given it by human beings escept where such orders would conflict with the First Law.
第三原则
除非违背第一原则或者第二原则,机器人必须保护自身之存在A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
1985年,在《机器人与帝国》这本书中,阿西莫夫后来又为三原则增加了一个前提,即第零原则。
第零原则
机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害A robot may not harm humanity, or by inaction, allow humanity to come to harm.
阿西莫夫规定,第零原则高于第一、第二及第三原则,因此,第一原则被修改为:
除非违背第零原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害A robot may not injure a human being , or through inaction, allow a human being to come to harm, unless this would violate the Zeroth Law of Robotics.
人们常说的“机器人三原则”实际上是“四原则”,“机器人学三定律”实际上是“四定律”。但“机器人三原则”自1941年被提出以来,一直声名显赫,甚至已经成为专用术语。第零原则在1985年出版的《机器人与帝国》中首次提出,这时“三原则”成名已久,第零原则已经无法撼动“三原则”这样一种固定说法了,第零原则之后,阿西莫夫本人也仍然使用“The Three Laws of Robotics” 来为自己的规则体系冠名。
后来,人们不断提出对机器人三原则的补充、修正
保加利亚科幻作家Lyuben Dilov1974年在小说《 Icarus's Way》中提出第四原则
第四原则
机器人在任何情况下都必须确认自己是机器人
1983年,保加利亚科幻作家Nikola Kesarovski在《The Fifth Law of Robotics》中又提出一个与Lyuben Dilov第四原则看似相似实则不同的第五原则:
第五原则
机器人必须知道自己是机器人
在这之后,更多的人对机器人三定律做了补充、修改,并产生过很多严肃的讨论文章。这里只举罗杰·克拉克为例,他构思的机器人原则是:
元原则:机器人不得实施行为,除非该行为符合机器人原则第零原则:机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害第一原则:除非违反高阶原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害第二原则:机器人必须服从人类的命令,除非该命令与高阶原则抵触。机器人必须服从上级机器人的命令,除非该命令与高阶原则抵触第三原则:如不与高阶原则抵触,机器人必须保护上级机器人之存在。如不与高阶原则抵触,机器人必须保护自己之存在第四原则:除非违反高阶原则,机器人必须执行内置程序赋予的职能繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则
阿西莫夫机器人三原则及系列小说对此后机器人科幻小说产生了巨大影响。詹姆斯·冈恩说:“在阿西莫夫的机器人系列之后,造物的自动反叛变得不合逻辑、荒谬可笑、罗曼蒂克或者毫无新意。”它“清除了日积月累的一大批胡乱构思、粗制滥造的劣等科幻小说”,“带来了思想的明晰和文风的纯洁,在此后二十年之中大大促进了科幻小说的健康发展”。的确,阿西莫夫机器人三原则自1941年正式提出之日起,影响所及,至今仍然十分巨大。
[1] 百科:机器人三定律
[2] 阿西莫夫逝世20周年,一起来讨论和完善机器人定律
[3] 机器人三定律