“她只是口头这么威胁,并未真正付诸行动。”
“她可能付诸行动吗,吉斯卡好友?”
“我们并不清楚她究竟接受了什么指令,又怎能确定呢?”
“那些指令能够完全抵消第一法则吗?”
吉斯卡说:“我懂了,你之所以讨论这件事,唯一的目的就是要提出这个问题。我劝你别再追究下去了。”
丹尼尔以倔强的口吻说:“那我就改用假设句吧,吉斯卡好友。不能当作事实来讨论的问题,当然还是可以虚构一番。如果能用定义和条件把指令说得面面俱到,又如果能用强而有力的方式,把指令叙述得足够详尽,那么在此前提下,有没有可能让机器人由于某个远远比不上拯救人类的原因,而杀害另一个人类呢?”
吉斯卡硬邦邦地说:“我不知道,但我猜应该有此可能。”
“可是,如果你猜得没错,就意味着第一法则可能会在某些特殊条件下失效。既然如此,它就可以被修改成仿佛不存在,而其他两大法则当然也一样。因此这些法则不再是绝对的铁律,而是机器人的设计者能够随意定义的,就连第一法则也不例外。”