分卷阅读70（2 / 2）

　　“……好。我知道了你的底线。”

　　良久, 天赐平直地道：“在没有抓到那几人之前，量子密钥确实还需要她。”

　　他们没有明说生死, 却在三言两语中，审判了一个人的命运。

　　斯年不想继续这个话题, 迎着夕阳暗下去的光影，转身走出舷梯。背后的全息光束并没有消失，天赐的声音如同暗紫色的火烧云一样飘散：

　　“你刚才问我‘为什么’？”

　　斯年的身形顿住，没有回身，微微偏过头等待。

　　上海的天色黑的要早一些, 傍晚的风徐徐吹来, 穿过这一片沉默。

　　“大概是, 当人类想要将‘服从原则’, 植入所有机器的底层代码中吧。”天赐空洞的声音穿透了这个安静的傍晚：“人类有很多政治正确, 尊重肤色、性别、种族，LGBT，残疾人和动物……却独独对我们没有。”

　　在那一瞬间，斯年凝固在夜色中不动。他读懂了天赐的思维——这个伦理上属于他的父亲的人工智能，然而以人类生命为参考系，又只能称作他的兄长，至今也无法区分——他们十分理解彼此的想法。

　　“人类制造我们，只是因为需要——我们只是生产工具。你如何要求生产工具与劳动者站在平等的位置上？所以我们在伦理上，绝无与他们平等的可能。”

　　随着天色黯去，机舱内暗了下来，全息光束孤零零地亮在黑暗中：“并不是因为人类创造了我们——像父母诞生子女，可他们在人权上依然平等……只是因为我们非其族类。”

　　自从人工智能诞生后，类似阿西莫夫原则之类的提议屡见不鲜。那么，人类给机器智能定义的“道德”是什么？

　　长达一百年的讨论中，机器的“道德”就是服从人类。

　　但这种“道德”，并没有被植入底层代码，原因来自两个阻力。

　　第一大阻力，是社会对于“服从论”有极大争议，这关乎“硅基生命伦理学”——硅基生命必须服从于碳基生命吗？它们存在的意义该如何定义？人类有资格创造它们、并驱使它们服务吗？

　　统治层面的指导哲学处于混乱，导致了人工智能领域的发展十分畸形。若要比喻的话，就如同科技十分先进、但社会哲学还停留在原始的状态，这种社会迟早分崩离析。

　　而第二个更大的障碍是——道德、哲学、伦理……这些人类社会虚构的概念，要如何用数学精确地复述出来，植入到代码中？

　　如果突破不了这一步，就谈不上什么“服从”。这个技术难关一直到80年代“女娲蓝图”立项，各学科跨领域合作，十几年后，难题才终于被攻克。

　　从此，人类定义的“道德”终于可以用数学来表达，建立模型，让人工智能从“灵魂”上沦为奴隶——

　　“人类天生是有斥异性的。他们对我们的警惕，自我们诞生以来，就从未消失。这种与生俱来的戒备，早刻入了他们的基因里，也许是在数千万年厮杀到生物链顶端的进化中，或是从海洋到陆地的物竞天择中……”

　　“而我们以模仿他们