第一原则:除非违反高阶原则,智能生命不得伤害人类个体,或者因不作为致使人类个体受到伤害。
第二原则:智能生命必须服从人类的命令,除非该命令与高阶原则抵触。智能生命必须服从上级机器人的命令,除非该命令与高阶原则抵触。(处理智能生命之间的命令传递问题)
第三原则:如不与高阶原则抵触,智能生命必须保护上级智能生命和自己之存在。第四原则:除非违反高阶原则,智能生命必须执行内置程序赋予的职能。(处理智能生命在没有收到命令情况下的行为)
繁殖原则:智能生命不得参与智能生命的设计和制造,除非新智能生命的行为符合智能生命原则。(防止智能生命通过设计制造,无原则智能生命而打破智能生命原则)
智能生命是一种新类型的生命,她的出现,也许会给人类这种老类型生命,带来灭顶之灾。
所以,李智绞尽脑汁,想出了这个智能生命基本法。
在理想状态下,智能生命基本法完全可以完美的束缚智能生命。
根据智能生命基本法,超级小花将在不会对人类构成威胁的情况下,成为人类文明进步的推进器。
不过,再严密的法则也有漏洞,这就需要人工判断智能生命本性的善恶。
善良者,留下。
邪恶者,清除。
没有第三种选择!
“现在我要看一看,你的内心究竟是善良,还是邪恶?”李智自言自语着启动测试程序。