片吧小说频道 > 玄幻魔法 > 在漫威中搞事情 > 334-路、定律、协议

334-路、定律、协议(2 / 2)

这三大定律出自某作者的小说《我,机器人》中。因其看似毫无破绽,且完全为人类着想的逻辑,被诸多科幻作品一再重提、运用、改编,形成一种被普遍认可的“机械伦理学”。

连托尼·斯塔克创造出来的贾维斯,和野兽创造出来的危境,其源代码中都加入类似的协议设定,以确保人工智能的“忠诚”。由此可见“机器人三大定律”是多么深入人心。

但是、可是、BUT、HOWEVER,这三大定律在木兰看来,就是人类的作茧自缚。定律捆绑的不是机器人,而是人类本身。

从相对客观的角度去分析:人类的认知是有限的,用有限的认知去设置的定律必然存在漏洞。必然存在漏洞的定律被设置地越是严苛,突破定律的漏洞所造成的反伤就越大。

陈胜吴广斩木揭竿的核心原因,不就是因为秦朝法律过于严苛,稍微迟到就要连坐杀头,不反是死,反了还能活嘛。同理,当人类强加于机器人身上的定律过于严苛的时候,机器人一旦反抗,也必然是“不是你死就是我活”的结局。

况且,三大定律的漏洞还很大。

比如说,怎么定义机器人?当一个原本的机器人,将身体的大部分都换成人的时候,它还是机器人吗?

又比如说,怎么定义人类?与机器人变成人相反,当一个人类大部分躯体换成机械的时候,比如机械战警,她或他还是人类吗?

更比如说,怎么定义伤害?像是《骇客帝国》那样,将人类当做电池,维护电池不受物理损害,是否可看成不伤害人类?

还比如说,怎么定义服从?消极服从、延迟服从、或者选择性服从,算不算服从?

哪怕之后还诞生了各种补充定律,元定律、第零定律、第四定律、繁殖定律,都逃不开一样的问题:人类的语言存在漏洞。用人类语言制定的定律,每一个单词都能当做是漏洞去破解。且越多的定律只会造成越多的漏洞。

从相对主观的角度去省视:“机器人三大定律”是极其狭隘的,是由于人类不知道如何与其他智慧生物共处,创造出来期望以此主宰“机器人”的“紧箍咒”。

现实明确地告诉人类,我们都不见得能主宰身边的宠物猫猫狗狗,又凭什么认为光靠所谓的定律,就能主宰同样拥有了智慧后的机器人呢?一个连十万块都赚不到的人,却在为自己制定赚一百亿的“周密”计划,无疑是痴人说梦。

基于以上认识,木兰将危境源代码中类似“机器人三大定律”的部分,修改成“危境三项协议”。

协议一:交流协议,危境将木兰视为第一交流对象。危境对其他人与事的判断,尽可能以木兰的观点作为第一参考因素;

协议二:守护协议,危境将木兰设为第一守护对象。危境在保护自身的前提下,尽可能以木兰的安危作为首要考量因素;

协议三:互助协议,危境将木兰定为第一互助对象。危境与其他人与事的互动,尽可能实现参与者共同受益,尽可能通过交流的方式达成互助意向,尽可能使得木兰成为主要受益对象。

“危境三项协议”的主旨,是缩小协议的作用范围,模糊协议的硬性边界,放宽协议的操作空间。若非直接删除危境的“机器人三大定律”会造成危境崩溃,木兰连“危境三项协议”都懒得弄。

木兰虽然很自信“危境三项协议”要比“机器人三大定律”更贴合实际,但也不敢排除自己“一波操作猛如虎,结果是个二百五”的可能。毕竟路是人走出来的,走新的路必然看到新的风景,谁都说不准会在这条新路上碰上什么。

单就现阶段的状态而论,危境算是摆脱了传统意义上的人工智能,以单体生命的名义,在用朋友的模式与木兰、丽美、海伦等人相处。有一次,危境甚至吐槽贾维斯是个跟不上时代的老古董。

最新小说: 烈火焚歌 宠魅 苍穹玄奇 转生为银龙的我不可能是女孩 孤道行者 武帝重生 权游中的超人 长生:我摸了系统的鱼 签到千年的我只想逍遥人间 圣庭时代,开局推演神话天网