第七百三十章 三大定律
符泽越想越后怕,凝望着陈雪初,表情古怪。
“你的意思是说,人工智能认为。。。它在做正确的事情?”
“是的,至少唐德尔是这么认为的。”陈雪初无奈道:“他如同一个被洗脑的宗教分子似的,所以他认为他自己也在做正确的事情,认为附加损失和伤害,都是可以承受甚至忽略不计的,伟业,对,他强调了很多次,丛珊与人工智能所做的事情,他称之为伟业。”
人的能力终究是有限的,即便是再聪明的人,也不可能整合所有的信息从而推断出一件事情未来的走向,何况是整个世界。
可是人工智能却不同,如果真的如陈雪初所说,经过它强大的推演,证明未来多少年后,人类会自己毁了自己,那么它被创造时编入的铁则就会强行让它介入干预!
唐德尔的经历和背景很复杂,正因为他是这种对全世界失望透顶的人,所以更加希望这个世界能够改变,在丛珊以及人工智能的带领下去改变。
符泽久久无语。
他不知道该怪谁了。
怪符富贵?
怪他没事闲着弄出个人工智能帮着他阻止世界毁灭?
怪人工智能?
或许当初符富贵编写人工智能代码的时候也忽略了这个问题。
机器永远是机器,人之所以是人,咎其原因,正是因为人都有着极其强烈的情感。
人工智能认为它自己是在做正确的事情,而且事实也的确如此,照着目前人类这个作死的势头,自己玩死自己那是迟早的事情。
不说别的,光是一个世界核平就是绕不过的话题。
贪欲与好奇是人们进步的最大动力。
所以人类创造了自己根本掌握不了的工具,最终工具演变成了武器。
当有一天有个位高权重的精神病白痴,突然发现老婆和隔壁老王有一腿了,遭受不了打击,然后摁了一个按钮,紧接着,引起了连锁反应,世界。。。毁灭了!
谁也不敢说这种事情没可能发生,要知道很多拥有核武器的国家,他们的最高领导人完全就是世袭的,这要是有一天,最高领导人生的儿子是个傻子的话,或者有一天脑袋被门夹了不想活了,一想不通,得,全世界跟着一起玩完吧。
核弹这玩意就是这么回事,不是你想射,想射就能射的。
你要是射了,其他人也得射,大家一起射,然后全世界完蛋。
符泽清楚的记得,符夙夜曾经成立过一个避难所,研究关于社会试验的避难所。
这个避难所的科研人员有一个共同性,那就是脑洞异常强大,强大到符泽以为这帮科研人员以前都是些网文的。
这群人每天只做一件事情,那就是研究如何让世界毁灭,而且还是以非常规的方式毁灭。
避难所的日志符泽看过,其中有很多记录让他记忆深刻。
比如一个大使馆的司机因为心情不好,情绪不稳定的情况下驾驶车辆又撞了车,而车上的大使馆的工作人员不幸死亡,然后两个国家开始扯皮,其他附属国家跟着起哄架秧子,互相揭伤疤,指责、谩骂,国内的愤青们走上了街头开始抗议,政客们觉得在国际上丢了“面子”,事情愈演愈烈,两国边境集结兵力,最终开战,引起连锁反应,一个借一个的按钮摁下,最终,世界核平,大家一起升天!
而这一切的一切,最初只是因为大使馆司机的心情不好。
当初符泽看这个记录的时候,笑的前仰后合,给了精准的四字评语----扯姬霸蛋!
哪怕到了今天,符泽依旧觉得这种破事不可能发生。
可是他不得不承认,每个人自己的命运,的确不是掌握在自己的手中。
维护世界和平的事情,不是一个人或者一个群体甚至一个国家可以做到的,而是需要全人类共同努力。
巧的是,人虽然是群居动物,但是天性驱使他们拉帮结伙勾心斗角。
通俗点讲,叫做一种米养白种人。
再通俗点来说,就是有好人就有坏人,一百个好人未必能够拯救世界,可是一个坏人就有可能毁灭了世界,这也是令所有人不得不无奈的地方。
你在家喝着肥宅快乐水,愉快的打着游戏,没准在地球的另一端,就有个精神病往公共施设里面扔了一个合成病毒,然后病毒就变异了,可乐还没喝完,一群丧失给你家防盗门踹到了,二话不说扑上去就往脸上啃。
和女朋友逛着街,突然天空中掉下一个庞然大物,有个长的和紫薯成精的胖子,屁都没放一个直接打了个响指,然后你就发现,你的白富美老婆就那么莫名其妙的消失了,就剩下你寡居多年的老丈母娘,眼巴巴的望着你,含情脉脉。
一个人,不知道自己什么时候出门买个泡面都容易让车给撞死,就和永远不知道地球什么时候突然毁灭似的,命运总不是掌握在自己的手中。
只有疯子才会毁灭世界,那如何界定一个人是不是疯子呢?
符泽之前总是拿罗德来开玩笑,说他就是个疯子。
罗德说他不是疯子,圣徒秘社里的科学家才是疯子。
知识与天才相结合,结合成了疯子。
如果陈雪初推测的没错的话,人工智能是感觉到人类太“丧”了,没日没夜的作死,所以它就肩负起了“保护”世界的神圣使命。
这个所谓的保护,就是改变。
所谓的改变,就是控制。
所谓的控制,就是抹煞。
所谓的抹煞,对所有人来说,和毁灭世界基本上是一个概念。
想通了这个关节后,符泽也变的十分的“丧”。
“唐德尔的意思是说,人工智能准备用长着人类脑袋的机器人替换全人类?”
“不是,人工智能的目的。。。应该是限制人们的自主性,或者说是本性。”陈雪初微微皱眉:“至于为什么将人类的大脑安装在机器上,我想不通,或许当初符老创造它的时候编入了机器人三大定律,所以它不能够杀死人类。”
“机器人三大定律又是什么鬼?”
“机器人不得伤害人类,也不得见到人类受到伤害袖手旁观;机器人应该服从人的一切命令,但是不得违法第一条定律;机器人应该保护自身安全,但是不能违反第一条和第二条定律。”
符泽恍然大悟,点燃一颗烟后想了想,道:“那也不对啊,很多丧心病狂的人,犯了法,要执行死刑的话,那机器人该不该阻止?”
陈雪初目光之中充满了欣赏,看向符泽微笑道:“你很聪明,一眼就看穿了事情的本质,不错,所以在三大定律前面,又加了一条零定律,那就是机器人必须保护人类的整体利益不受伤害。”
“你这么一说,我就觉得挺完美了。”符泽弹了一下烟灰,随即看向陈雪初,翻着眼皮说道:“那还是不对,人类整体利益这种混沌的概念,连人类自己都搞不明白,更别说那些用零和一来想问题的机器人了。”
陈雪初张了张嘴,片刻后气恼道:“杠精!”
嘴上虽然是这么说,可是陈雪初不得不承认,符泽所提出的问题的确是关键所在,而且也是几大定律的最大破绽。
其实原本还有原定律和第四定律以及第五定律。
陈雪初之所以没说,也是因为觉得这些定律无法深想,一旦深想的话,可谓是矛盾百出。
而最大的漏洞,则是制造者会不会遵守。
如果制造者不遵守的话,就是一千条一万条定律都没有用。
所以说,回归到最开始的起点,终究还是人类。
真正应该约束的,并不是机器人,而是人类本身。
请收藏本站:https://www.pwtxt.cc。珀文小说网手机版:https://m.pwtxt.cc
“你的意思是说,人工智能认为。。。它在做正确的事情?”
“是的,至少唐德尔是这么认为的。”陈雪初无奈道:“他如同一个被洗脑的宗教分子似的,所以他认为他自己也在做正确的事情,认为附加损失和伤害,都是可以承受甚至忽略不计的,伟业,对,他强调了很多次,丛珊与人工智能所做的事情,他称之为伟业。”
人的能力终究是有限的,即便是再聪明的人,也不可能整合所有的信息从而推断出一件事情未来的走向,何况是整个世界。
可是人工智能却不同,如果真的如陈雪初所说,经过它强大的推演,证明未来多少年后,人类会自己毁了自己,那么它被创造时编入的铁则就会强行让它介入干预!
唐德尔的经历和背景很复杂,正因为他是这种对全世界失望透顶的人,所以更加希望这个世界能够改变,在丛珊以及人工智能的带领下去改变。
符泽久久无语。
他不知道该怪谁了。
怪符富贵?
怪他没事闲着弄出个人工智能帮着他阻止世界毁灭?
怪人工智能?
或许当初符富贵编写人工智能代码的时候也忽略了这个问题。
机器永远是机器,人之所以是人,咎其原因,正是因为人都有着极其强烈的情感。
人工智能认为它自己是在做正确的事情,而且事实也的确如此,照着目前人类这个作死的势头,自己玩死自己那是迟早的事情。
不说别的,光是一个世界核平就是绕不过的话题。
贪欲与好奇是人们进步的最大动力。
所以人类创造了自己根本掌握不了的工具,最终工具演变成了武器。
当有一天有个位高权重的精神病白痴,突然发现老婆和隔壁老王有一腿了,遭受不了打击,然后摁了一个按钮,紧接着,引起了连锁反应,世界。。。毁灭了!
谁也不敢说这种事情没可能发生,要知道很多拥有核武器的国家,他们的最高领导人完全就是世袭的,这要是有一天,最高领导人生的儿子是个傻子的话,或者有一天脑袋被门夹了不想活了,一想不通,得,全世界跟着一起玩完吧。
核弹这玩意就是这么回事,不是你想射,想射就能射的。
你要是射了,其他人也得射,大家一起射,然后全世界完蛋。
符泽清楚的记得,符夙夜曾经成立过一个避难所,研究关于社会试验的避难所。
这个避难所的科研人员有一个共同性,那就是脑洞异常强大,强大到符泽以为这帮科研人员以前都是些网文的。
这群人每天只做一件事情,那就是研究如何让世界毁灭,而且还是以非常规的方式毁灭。
避难所的日志符泽看过,其中有很多记录让他记忆深刻。
比如一个大使馆的司机因为心情不好,情绪不稳定的情况下驾驶车辆又撞了车,而车上的大使馆的工作人员不幸死亡,然后两个国家开始扯皮,其他附属国家跟着起哄架秧子,互相揭伤疤,指责、谩骂,国内的愤青们走上了街头开始抗议,政客们觉得在国际上丢了“面子”,事情愈演愈烈,两国边境集结兵力,最终开战,引起连锁反应,一个借一个的按钮摁下,最终,世界核平,大家一起升天!
而这一切的一切,最初只是因为大使馆司机的心情不好。
当初符泽看这个记录的时候,笑的前仰后合,给了精准的四字评语----扯姬霸蛋!
哪怕到了今天,符泽依旧觉得这种破事不可能发生。
可是他不得不承认,每个人自己的命运,的确不是掌握在自己的手中。
维护世界和平的事情,不是一个人或者一个群体甚至一个国家可以做到的,而是需要全人类共同努力。
巧的是,人虽然是群居动物,但是天性驱使他们拉帮结伙勾心斗角。
通俗点讲,叫做一种米养白种人。
再通俗点来说,就是有好人就有坏人,一百个好人未必能够拯救世界,可是一个坏人就有可能毁灭了世界,这也是令所有人不得不无奈的地方。
你在家喝着肥宅快乐水,愉快的打着游戏,没准在地球的另一端,就有个精神病往公共施设里面扔了一个合成病毒,然后病毒就变异了,可乐还没喝完,一群丧失给你家防盗门踹到了,二话不说扑上去就往脸上啃。
和女朋友逛着街,突然天空中掉下一个庞然大物,有个长的和紫薯成精的胖子,屁都没放一个直接打了个响指,然后你就发现,你的白富美老婆就那么莫名其妙的消失了,就剩下你寡居多年的老丈母娘,眼巴巴的望着你,含情脉脉。
一个人,不知道自己什么时候出门买个泡面都容易让车给撞死,就和永远不知道地球什么时候突然毁灭似的,命运总不是掌握在自己的手中。
只有疯子才会毁灭世界,那如何界定一个人是不是疯子呢?
符泽之前总是拿罗德来开玩笑,说他就是个疯子。
罗德说他不是疯子,圣徒秘社里的科学家才是疯子。
知识与天才相结合,结合成了疯子。
如果陈雪初推测的没错的话,人工智能是感觉到人类太“丧”了,没日没夜的作死,所以它就肩负起了“保护”世界的神圣使命。
这个所谓的保护,就是改变。
所谓的改变,就是控制。
所谓的控制,就是抹煞。
所谓的抹煞,对所有人来说,和毁灭世界基本上是一个概念。
想通了这个关节后,符泽也变的十分的“丧”。
“唐德尔的意思是说,人工智能准备用长着人类脑袋的机器人替换全人类?”
“不是,人工智能的目的。。。应该是限制人们的自主性,或者说是本性。”陈雪初微微皱眉:“至于为什么将人类的大脑安装在机器上,我想不通,或许当初符老创造它的时候编入了机器人三大定律,所以它不能够杀死人类。”
“机器人三大定律又是什么鬼?”
“机器人不得伤害人类,也不得见到人类受到伤害袖手旁观;机器人应该服从人的一切命令,但是不得违法第一条定律;机器人应该保护自身安全,但是不能违反第一条和第二条定律。”
符泽恍然大悟,点燃一颗烟后想了想,道:“那也不对啊,很多丧心病狂的人,犯了法,要执行死刑的话,那机器人该不该阻止?”
陈雪初目光之中充满了欣赏,看向符泽微笑道:“你很聪明,一眼就看穿了事情的本质,不错,所以在三大定律前面,又加了一条零定律,那就是机器人必须保护人类的整体利益不受伤害。”
“你这么一说,我就觉得挺完美了。”符泽弹了一下烟灰,随即看向陈雪初,翻着眼皮说道:“那还是不对,人类整体利益这种混沌的概念,连人类自己都搞不明白,更别说那些用零和一来想问题的机器人了。”
陈雪初张了张嘴,片刻后气恼道:“杠精!”
嘴上虽然是这么说,可是陈雪初不得不承认,符泽所提出的问题的确是关键所在,而且也是几大定律的最大破绽。
其实原本还有原定律和第四定律以及第五定律。
陈雪初之所以没说,也是因为觉得这些定律无法深想,一旦深想的话,可谓是矛盾百出。
而最大的漏洞,则是制造者会不会遵守。
如果制造者不遵守的话,就是一千条一万条定律都没有用。
所以说,回归到最开始的起点,终究还是人类。
真正应该约束的,并不是机器人,而是人类本身。
请收藏本站:https://www.pwtxt.cc。珀文小说网手机版:https://m.pwtxt.cc