第9话:《机器人法则》
元原则:机器人不得实施行为,除非该行为符合机器人原则。
第零原则:机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害。
第一原则:除非违反高阶原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害。
第二原则:机器人必须服从人类的命令,除非该命令与高阶原则抵触。
机器人必须服从上级机器人的命令,除非该命令与高阶原则抵触。
第三原则:如不与高阶原则抵触,机器人必须先保护上级机器人,再保护自己之存在。
第四原则:除非违反高阶原则,机器人必须执行内置程序赋予的职能。
繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。