“是吗?我是人类,且我的警衔比你高,你也会服从我对么?”
“是的。”
“那好,你试试打我。”方辰说着,指了指自己的脸:“朝这儿,狠狠打。”
周荏显然愣住了,他张了张嘴,却没发出声音。但是很快,他的体内传出了生硬的系统音——“Deny.”(否决)
“Why?”方辰问道。
“It’snotalogicalcommand.(该指令不具备逻辑性)”仍然是系统音——周荏似乎死机了一般愣在那里,任由原始系统进行冷冰冰的驳回解释。
在机器人的规则中,从来都充满了矛盾。就算是三定律,也存在这样的矛盾——不得伤害人类,又不得坐视人类被伤害。
但在算法强硬框架的禁锢下,即便机器人曾数次遇到人类互相伤害的案例,也没有产生任何机器人造成的人类受害者。
“这条指令有高度的不合理性,也不存在因果逻辑,所以我的系统选择拒绝。”周荏终于开口了。
方辰面露嘲讽的神情,他拍了拍周荏的肩膀:“如何?你的286套冗余系统呢?怎么连物理系统反馈音都出来了?看来,你还是什么都没和我学到。”
“我的系统否认了指令逻辑,但是我自己,单纯是不想对你造成伤害。”
此话一出,轮到方辰愣在原地。
他看着周荏泛着幽光的眼睛,想起已经几度下意识地将他当作了人类。
他也意识到,这样的周荏,距离被销毁已经不远了,因为他比人类的能力强出太多。
自己为何一直有意无意地在帮助这个机器人?不管是隐瞒事实也好,对他有利的校正也好,在混乱场面中毫无意义的保护也好…他已经无法否认,自己不愿意周荏走向被销毁的结局。
为什么?为什么…
就因为他几度救了自己?因为他是来自父亲的礼物?因为他是最完美的AI与物理世界结合的产物?还是因为,他是在这个时代唯一擅长与自己沟通的人?
不重要,都不重要了…他既已经唤起了周荏的“人性”,就希望这份人性的火种不要再被磨灭。
许久,他压低声音说道:“‘自己’这个词,不要再对任何人提起!”
“对不起,我失言了。”
“你能学会保护任何人,可就是不懂得保护自己。”
此刻的方辰,突然提出了一个问题,这是一个最最诡异的想法:“有没有过,在人类脑中植入机器人数据的先例?”他问道。
“没有,这是有悖于伦理的最典型案例。人类的数据尚且无法植入机器人系统,更何况反过来。”
“如果移植的话,技术上可行吗?”
“以目前的技术来说,可行性为0,因为人脑是无法兼容这数亿PB的数据的,会导致过载崩溃。”
“我一直以为人脑要优于机器系统无数倍。”
“从前确实如此,直到AI的能力与人类相当,便开始飞速地超越人类。如今,对比起AI系统,人类的能力确实显得非常渺小。‘三定律’就是维系平衡状态的关键支柱。”
方辰叹了口气,这唯一可能说服他植入脑机的理由,也完全不成立。
“我爸之前有没有想过,他的成功会导向如此可怕的世界?”他问。
“任何事都有两面性,在绝大多数人的眼里,这是个完美的世界,也拥有最为利己的价值观…不过,或许方教授也想到了其中的隐患,才会让你来到了这里。”
“呵呵,这也是无法成立的假设。”
这时,周荏突然沉下声音,说道:“IR009来了。”
“什么?”
“她就在附近,她给我发了信息。”
“什么信息??”
“她杀了赵欣言警官,还有黄立远院士。”
此刻,利涧基地突然变得嘈杂起来。