所有人都安静了下来,他们看看孙畅,又看向周荏。
“因为你的算法,孙博士,还有方辰警官校正。”
“我看了,方辰在你执行任务前有一条校正记录,可他建议你对敌人不要手下留情。”
“是的。但在此前,他对我的更多影响,是对人类生命价值的认知,以及完成任务的责任感。在此次任务中,这两种价值观产生了冲突——完成任务的前提,是要夺取人类的生命。通过分析和计算,我的规控中枢得出的结果,就是做到‘两全’——既不手刃人类,又完成任务。”
“你将每一个敌人的精准坐标发给远程攻击系统,这和手刃他们有什么区别?”
“本质区别在于,我为军方系统提供了建议,最终发射导弹的决策,由人类审核。”
听到这里,欧阳说,“好了,你别忘了,他出发前,方辰是特意为他强化了校正,是建议他放手杀人的。如果在这种前提下,他都没有亲手做到,我认为,三定律还是能禁锢住这一版本的系统的。”
“能不能禁锢住,不是你说了算的。”孙畅说,“应当由数据分析决定。”
这时,方辰突然笑了起来,笑声吸引了所有人的目光。
“可笑的是,数据分析,也是由AI做结论。”方辰说。
“但它比人类的主观判断更可靠。”孙畅有些生气了,脸也开始涨红起来。
“那你们要我何用呢?”
“…”
方辰这一句话,问得所有人哑口无言。
“如果没有人类的主观判断,就不会有现在的AI和科技进化。”欧阳走了过来打圆场:“好了,013的问题不是一晚的争论就能有结果的,无论如何,他的计算能力和大家今天都见识到了,这是各位的成果,大家应当为这种超乎预期的成果感到兴奋。”
人群逐渐散去。
凌晨,方辰走入孙畅的房间——因为后者说有事要私下和他谈。
“是记仇么你?早点说完让我早点睡吧!我年纪大了,100多岁了。”方辰说道。
“现在人的平均寿命已经达到了148岁,你也不算老。”孙畅坐着电动座椅滑了过来——他通过脑机接口就能直接连线控制它。
“我叫你过来,是因为我发现周荏有一段数据丢失。”他直截了当地说。
“??不可能。”方辰要打的哈欠都瞬间停了下来。
“他掩盖得很好,用其他并行数据给填补上了,但我仔细看过之后,还是能看出痕迹。”
“什么时间?多长的信息?”
“看时间,就是在完成解救人质任务之后,有一段17秒的信息消失了。”