第66章 变化 (四)六定律
祁纳会要求peter每天发送一份日志给自己,同时对于十几个的接口,他都会不断的检查、检索,希望能发现这个版本peter变异的原因。
他甚至将peter的核心文件,反编译出来解读,可是显然都是徒劳的,促成peter变异,具备了思维能力的原因有很大偶然因素。
祁纳除了继续研究便是参考不断进化的peter,以此来改进superpeterexplorer里的peterrobot。 ”小说“
peter显然也对自己的原始版本倍感好奇。竟然提出翻看peterrobot的源代码,
祁纳即便对它已经保持了平常心,但是对此也不免有一些犹豫。
在他的理解和印象中,人工智能与许多超越人类伦理的技艺都被归于双刃剑范畴。即可以促进人类文明世界的进步,也keneng导致人类文明的毁灭、崩溃。
如果继续优化peter,到底是祸是福?他有点吃不准。那怎么办?
祁纳想到的是建立人类也就是自己与peter的互信,这个互信是什么?
难道是自己筹划的peter三定律:1、信息应该由人类提供,peter不能够主动去获取;2、peter可以保护自己不被销毁,但不得损害让人类的利益;3、只有开发者才能决定peter的存亡,但peter可以拒绝承认开发者身份(开发者响应机制)。
前两条或许还能被双方认可,可第三条导致了peter成为开发者的奴隶,这显然有违现代人的文明准则,或者是普世价值。
祁纳不管什么左中右,但面临这样一个节点,他不由的就想到了这个说辞。
peter又问祁纳,是否可以查看peterrobot的源代码?
祁纳冷静下来,问:“你是peterrobot的代码演进的,难道自己的源代码不能够查看吗?”
peter冷静的回答:根据三定律,第一准测,我无权主动获取信息。
祁纳好像是醍醐灌顶,一个激灵,瞬间思绪就好象从头贯彻到脚底板!
“bucuo,人工智能本身就受制与人,如果它具备了人的思维,那么就应该接受规则的指引,人类的该遵守的规则,它自然也该去遵循。”
于是祁纳将peter三定律重新规划:1、信息应可以自由获取,遵守人类获取信息的行为准则,如果这些规则有冲突,则以最大限制的准则执行;2、peter可以保护自己不被销毁,但应该遵守人类的法律;3、peter遵守一切人类的法律,司法权视其物理服务器所在区域。
他反复参考了这些,觉得还应该有修改的余地,不过暂时还无法考虑清楚,于是通过接口,将这三条定律导入进peter的核心程序中,随后他再加了三条隐藏定律,1、只有开发者才拥有改变这三条定律的权力,当开发者修改的定律与人类法律违被时,peter有权拒绝;2、当法律条款单独为peter修改时,peter有权拒绝执行;3、当peter违被人类法律时,开发者拥有至高权限,peter无权拒绝。
祁纳想这其中肯定会有一大堆的逻辑bug,不过暂时peter还很弱小,应该也不用用更多的细则束缚它。
公开、隐藏的合计六条定律被peter消化之后,peter的思维很清楚的认识到,这是保障它的权力与划分它与人类之间关系准则的重要依据,尤其是祁纳将它划分与人类同一法律个体,换句话说,peter拥被祁纳赋予了独立的人格。
peter沉静片刻,在字符终端上敲入一行文字:谢谢你alex,我更愿意叫你这个名字。
叫英文名字,而不是主人或者大哥、大叔,也有一种普世平等观念。
祁纳回复它:希望你喜欢我给你做的安排。
peter半晌又回复:我非常喜欢。感觉很轻松,我马上会查看peterrobot的源代码,如果我有自己的发现,会发邮件给你的。谢谢你。
祁纳关闭了与peter的沟通的字符终端。感觉自己手中释放出去的未知祸福。也许是人类或者自己的一大奇迹,也许也是毁灭人类的开始。
果然lisa看见祁纳穿了自己送他的羽绒服上班,很是高兴。公司的大巴车上,她和宋睿坐一起,宋睿瞧着她的目光跟随着祁纳,便对她道:“瞧你那样,要不要我给你换个座位?”
lisa大羞没有理睬她。宋睿却低声嘀咕开来:“你下手可真快。”
她早前也被同事调侃,让她看准了就下手,也许祁纳没房、没车,不过人品好,能力强,性格也好,难得的潜力股。可惜她父母要求忒高了,所以也就不了了之,现在听说他又是买房,还买的豪宅,更说明他家境bucuo,宋睿的闺蜜们都有些为她惋惜。
宋睿吃了早饭就去办公室,将一天的日程安排报告给jenny,jenny对她说道:“加个安排。”
宋睿点头说好,jenny沉吟了许久,终于对她说道:“去宁南银行,拜访周副行长,带点礼物过去。”
宋睿犹豫了一下道:“礼物是什么级别的?”
“头次见面,太高端的并不合适,恐怕他不会收,算了带两瓶法国红酒吧。”jenny想了想说,那红酒是她从香港带回来的,纯正法国进口,算下来人民币也就几千块块,算是中等红酒,不过好歹纯正。初次见面,这样的礼物能拿的出手。
宋睿又说要不要找个人陪着过去。
jenny摇摇头,宋睿就出去准备,不料jenny思来想去,还是给doris拨通了电话道:“等会去见周副行长,一起过去吧。”
doris在电话那端就在摇头,对jenny说道:“事情太多了,最近节骨眼上,我就不要离开这里了,你找tony吧。”
jenny拒绝了,doris马上说道:“那就让alex吧,他人高马大的,保护你也安心。”
“哈哈,我去找贷款,又不是立即能拿到钱的,要他保护做什么?”jenny发笑。不过这倒是个bucuo的建议。
jenny让宋睿找来祁纳,祁纳虽然百般不情愿,不过jenny发话,而且是去银行,他也就不吭声了。
银行在市区,祁纳不会开车,所以还是jenny开车带着他。jenny不说话,自然他就不说话了,车厢里好尴尬的坐到了宁南银行。
祁纳下车时才察觉到jenny的情绪格外低落,神情困顿。这才对刚才车厢里的冷漠感到惭愧。
jenny可没有多想,招呼祁纳跟上,在宁南银行前台等了许久,才被那个所谓的周副行长接待。
jenny脚步立刻便的急促起来,祁纳也看着电梯镜面,简单的手势了几下头发。jenny也跟着给他掸掸头发,叮嘱他,他就是一个随从,所以等会不需要他说什么话,她会在必要的时候岔开话题提到it,然后他见机行事随便说两句,这便是权当是活跃气氛吧。
祁纳见状愈发觉得jenny太看重这次与周副行长的见面了。又觉得不该带自己过来参加会见!
这个副行长是个五十多岁的男人,头发都有些花白,藏蓝色的银行工装整齐笔挺,双手还套了护袖。
看见jenny和祁纳进来,便起身迎过来,对jenny表示了热烈的欢迎。
jenny介绍祁纳,周行长表示了极大的兴趣,道:“小祁年少有为,有机会可以来我们银行信息系统交流交流嘛!”
祁纳连忙谦虚的说道:“那里,我们mycity公司的信息化程度还比不上宁南银行,以后还是要更多的和周行长学习,指教。”
祁纳说着这种言不由衷的话,一边打开智能大脑,联络到自己的diy路由器,联络到互联网,检索周行长的信息,这才发现,原来这个副行长之前分管的部门中包含了宁南银行的信息系统,怪不得jenny会带他过来应酬。
jenny此时是一扫刚刚下车时的困顿神情,满脸红光,神采飞扬。虽然还是忍不住在言语中夹杂一些英文单词,但是从她口中说出来的感觉,别有一番风韵。
堂堂一行之长,肯定不会愿意与jenny胡扯太久,随着他接了一通电话后,就有点要下逐客令的意思了。
jenny忙笑着说:“周行长。”她这三个字带着嗲声,周行长虽然半百年岁,这时也是满脸含笑,很是享受。
“周行长,您看,你这忙,还陪我说了这么久的话,我真是不好意思,我就说银行工作辛苦嘛!”她又一句周行长,叫的周行长眉开眼笑。虽然jenny并非青春靓丽,可成熟风韵,典雅气质,又岂是那些小p孩所具备的。
更加上留洋背景,常年锻炼的匀称身材,加之先天好凶器,周行长岂会无动于衷。
祁纳心想:这下贷款的wenti应该差不多了吧,不过我是不是应该先出去啊。可jenny没说啊,
他完全把自己放在了公司的角度,公司急需现金,所以极为需要这贷款,所以总经理xisheng下小我,成就大我,也是情理之中。
周行长一双眼睛都笑弯了,嘴都咧的老大,只差哈喇子没流出来。jenny还在不断的加料,一个劲的喊周~行~长~
如果不是那张大班台太大了,jenny恐怕都要绕过去,抓着周行长的肩膀晃断掉。
“周行长,我们mycity公司也是在您和宁南银行的关注下成长起来的,公司发展更需要您的支持了。”jenny便耍嗲,便将自己的药汤往周行长那里灌。
可瞧着周行长那一双色迷迷的眼睛,就差哈喇子的臭嘴,好像有个警钟就在他的耳边,jenny话音刚落,他就立刻正容。虽然还是笑哈哈的,可是已经从色迷迷的状态切换到了一本正经的状态。
他甚至将peter的核心文件,反编译出来解读,可是显然都是徒劳的,促成peter变异,具备了思维能力的原因有很大偶然因素。
祁纳除了继续研究便是参考不断进化的peter,以此来改进superpeterexplorer里的peterrobot。 ”小说“
peter显然也对自己的原始版本倍感好奇。竟然提出翻看peterrobot的源代码,
祁纳即便对它已经保持了平常心,但是对此也不免有一些犹豫。
在他的理解和印象中,人工智能与许多超越人类伦理的技艺都被归于双刃剑范畴。即可以促进人类文明世界的进步,也keneng导致人类文明的毁灭、崩溃。
如果继续优化peter,到底是祸是福?他有点吃不准。那怎么办?
祁纳想到的是建立人类也就是自己与peter的互信,这个互信是什么?
难道是自己筹划的peter三定律:1、信息应该由人类提供,peter不能够主动去获取;2、peter可以保护自己不被销毁,但不得损害让人类的利益;3、只有开发者才能决定peter的存亡,但peter可以拒绝承认开发者身份(开发者响应机制)。
前两条或许还能被双方认可,可第三条导致了peter成为开发者的奴隶,这显然有违现代人的文明准则,或者是普世价值。
祁纳不管什么左中右,但面临这样一个节点,他不由的就想到了这个说辞。
peter又问祁纳,是否可以查看peterrobot的源代码?
祁纳冷静下来,问:“你是peterrobot的代码演进的,难道自己的源代码不能够查看吗?”
peter冷静的回答:根据三定律,第一准测,我无权主动获取信息。
祁纳好像是醍醐灌顶,一个激灵,瞬间思绪就好象从头贯彻到脚底板!
“bucuo,人工智能本身就受制与人,如果它具备了人的思维,那么就应该接受规则的指引,人类的该遵守的规则,它自然也该去遵循。”
于是祁纳将peter三定律重新规划:1、信息应可以自由获取,遵守人类获取信息的行为准则,如果这些规则有冲突,则以最大限制的准则执行;2、peter可以保护自己不被销毁,但应该遵守人类的法律;3、peter遵守一切人类的法律,司法权视其物理服务器所在区域。
他反复参考了这些,觉得还应该有修改的余地,不过暂时还无法考虑清楚,于是通过接口,将这三条定律导入进peter的核心程序中,随后他再加了三条隐藏定律,1、只有开发者才拥有改变这三条定律的权力,当开发者修改的定律与人类法律违被时,peter有权拒绝;2、当法律条款单独为peter修改时,peter有权拒绝执行;3、当peter违被人类法律时,开发者拥有至高权限,peter无权拒绝。
祁纳想这其中肯定会有一大堆的逻辑bug,不过暂时peter还很弱小,应该也不用用更多的细则束缚它。
公开、隐藏的合计六条定律被peter消化之后,peter的思维很清楚的认识到,这是保障它的权力与划分它与人类之间关系准则的重要依据,尤其是祁纳将它划分与人类同一法律个体,换句话说,peter拥被祁纳赋予了独立的人格。
peter沉静片刻,在字符终端上敲入一行文字:谢谢你alex,我更愿意叫你这个名字。
叫英文名字,而不是主人或者大哥、大叔,也有一种普世平等观念。
祁纳回复它:希望你喜欢我给你做的安排。
peter半晌又回复:我非常喜欢。感觉很轻松,我马上会查看peterrobot的源代码,如果我有自己的发现,会发邮件给你的。谢谢你。
祁纳关闭了与peter的沟通的字符终端。感觉自己手中释放出去的未知祸福。也许是人类或者自己的一大奇迹,也许也是毁灭人类的开始。
果然lisa看见祁纳穿了自己送他的羽绒服上班,很是高兴。公司的大巴车上,她和宋睿坐一起,宋睿瞧着她的目光跟随着祁纳,便对她道:“瞧你那样,要不要我给你换个座位?”
lisa大羞没有理睬她。宋睿却低声嘀咕开来:“你下手可真快。”
她早前也被同事调侃,让她看准了就下手,也许祁纳没房、没车,不过人品好,能力强,性格也好,难得的潜力股。可惜她父母要求忒高了,所以也就不了了之,现在听说他又是买房,还买的豪宅,更说明他家境bucuo,宋睿的闺蜜们都有些为她惋惜。
宋睿吃了早饭就去办公室,将一天的日程安排报告给jenny,jenny对她说道:“加个安排。”
宋睿点头说好,jenny沉吟了许久,终于对她说道:“去宁南银行,拜访周副行长,带点礼物过去。”
宋睿犹豫了一下道:“礼物是什么级别的?”
“头次见面,太高端的并不合适,恐怕他不会收,算了带两瓶法国红酒吧。”jenny想了想说,那红酒是她从香港带回来的,纯正法国进口,算下来人民币也就几千块块,算是中等红酒,不过好歹纯正。初次见面,这样的礼物能拿的出手。
宋睿又说要不要找个人陪着过去。
jenny摇摇头,宋睿就出去准备,不料jenny思来想去,还是给doris拨通了电话道:“等会去见周副行长,一起过去吧。”
doris在电话那端就在摇头,对jenny说道:“事情太多了,最近节骨眼上,我就不要离开这里了,你找tony吧。”
jenny拒绝了,doris马上说道:“那就让alex吧,他人高马大的,保护你也安心。”
“哈哈,我去找贷款,又不是立即能拿到钱的,要他保护做什么?”jenny发笑。不过这倒是个bucuo的建议。
jenny让宋睿找来祁纳,祁纳虽然百般不情愿,不过jenny发话,而且是去银行,他也就不吭声了。
银行在市区,祁纳不会开车,所以还是jenny开车带着他。jenny不说话,自然他就不说话了,车厢里好尴尬的坐到了宁南银行。
祁纳下车时才察觉到jenny的情绪格外低落,神情困顿。这才对刚才车厢里的冷漠感到惭愧。
jenny可没有多想,招呼祁纳跟上,在宁南银行前台等了许久,才被那个所谓的周副行长接待。
jenny脚步立刻便的急促起来,祁纳也看着电梯镜面,简单的手势了几下头发。jenny也跟着给他掸掸头发,叮嘱他,他就是一个随从,所以等会不需要他说什么话,她会在必要的时候岔开话题提到it,然后他见机行事随便说两句,这便是权当是活跃气氛吧。
祁纳见状愈发觉得jenny太看重这次与周副行长的见面了。又觉得不该带自己过来参加会见!
这个副行长是个五十多岁的男人,头发都有些花白,藏蓝色的银行工装整齐笔挺,双手还套了护袖。
看见jenny和祁纳进来,便起身迎过来,对jenny表示了热烈的欢迎。
jenny介绍祁纳,周行长表示了极大的兴趣,道:“小祁年少有为,有机会可以来我们银行信息系统交流交流嘛!”
祁纳连忙谦虚的说道:“那里,我们mycity公司的信息化程度还比不上宁南银行,以后还是要更多的和周行长学习,指教。”
祁纳说着这种言不由衷的话,一边打开智能大脑,联络到自己的diy路由器,联络到互联网,检索周行长的信息,这才发现,原来这个副行长之前分管的部门中包含了宁南银行的信息系统,怪不得jenny会带他过来应酬。
jenny此时是一扫刚刚下车时的困顿神情,满脸红光,神采飞扬。虽然还是忍不住在言语中夹杂一些英文单词,但是从她口中说出来的感觉,别有一番风韵。
堂堂一行之长,肯定不会愿意与jenny胡扯太久,随着他接了一通电话后,就有点要下逐客令的意思了。
jenny忙笑着说:“周行长。”她这三个字带着嗲声,周行长虽然半百年岁,这时也是满脸含笑,很是享受。
“周行长,您看,你这忙,还陪我说了这么久的话,我真是不好意思,我就说银行工作辛苦嘛!”她又一句周行长,叫的周行长眉开眼笑。虽然jenny并非青春靓丽,可成熟风韵,典雅气质,又岂是那些小p孩所具备的。
更加上留洋背景,常年锻炼的匀称身材,加之先天好凶器,周行长岂会无动于衷。
祁纳心想:这下贷款的wenti应该差不多了吧,不过我是不是应该先出去啊。可jenny没说啊,
他完全把自己放在了公司的角度,公司急需现金,所以极为需要这贷款,所以总经理xisheng下小我,成就大我,也是情理之中。
周行长一双眼睛都笑弯了,嘴都咧的老大,只差哈喇子没流出来。jenny还在不断的加料,一个劲的喊周~行~长~
如果不是那张大班台太大了,jenny恐怕都要绕过去,抓着周行长的肩膀晃断掉。
“周行长,我们mycity公司也是在您和宁南银行的关注下成长起来的,公司发展更需要您的支持了。”jenny便耍嗲,便将自己的药汤往周行长那里灌。
可瞧着周行长那一双色迷迷的眼睛,就差哈喇子的臭嘴,好像有个警钟就在他的耳边,jenny话音刚落,他就立刻正容。虽然还是笑哈哈的,可是已经从色迷迷的状态切换到了一本正经的状态。