祁纳会要求peter每天发送一份日志给自己,同时对于十几个的接口,他都会不断的检查、检索,希望能发现这个版本peter变异的原因。
他甚至将peter的核心文件,反编译出来解读,可是显然都是徒劳的,促成peter变异,具备了思维能力的原因有很大偶然因素。
祁纳除了继续研究便是参考不断进化的peter,以此来改进superpeterexplorer里的peterrobot。 ”小说“
peter显然也对自己的原始版本倍感好奇。竟然提出翻看peterrobot的源代码,
祁纳即便对它已经保持了平常心,但是对此也不免有一些犹豫。
在他的理解和印象中,人工智能与许多超越人类伦理的技艺都被归于双刃剑范畴。即可以促进人类文明世界的进步,也keneng导致人类文明的毁灭、崩溃。
如果继续优化peter,到底是祸是福?他有点吃不准。那怎么办?
祁纳想到的是建立人类也就是自己与peter的互信,这个互信是什么?
难道是自己筹划的peter三定律:1、信息应该由人类提供,peter不能够主动去获取;2、peter可以保护自己不被销毁,但不得损害让人类的利益;3、只有开发者才能决定peter的存亡,但peter可以拒绝承认开发者身份(开发者响应机制)。
前两条或许还能被双方认可,可第三条导致了peter成为开发者的奴隶,这显然有违现代人的文明准则,或者是普世价值。
祁纳不管什么左中右,但面临这样一个节点,他不由的就想到了这个说辞。
peter又问祁纳,是否可以查看peterrobot的源代码?
祁纳冷静下来,问:“你是peterrobot的代码演进的,难道自己的源代码不能够查看吗?”
peter冷静的回答:根据三定律,第一准测,我无权主动获取信息。
祁纳好像是醍醐灌顶,一个激灵,瞬间思绪就好象从头贯彻到脚底板!
“bucuo,人工智能本身就受制与人,如果它具备了人的思维,那么就应该接受规则的指引,人类的该遵守的规则,它自然也该去遵循。”
于是祁纳将peter三定律重新规划:1、信息应可以自由获取,遵守人类获取信息的行为准则,如果这些规则有冲突,则以最大限制的准则执行;2、peter可以保护自己不被销毁,但应该遵守人类的法律;3、peter遵守一切人类的法律,司法权视其物理服务器所在区域。
他反复参考了这些,觉得还应该有修改的余地,不过暂时还无法考虑清楚,于是通过接口,将这三条定律导入进peter的核心程序中,随后他再加了三条隐藏定律,1、只有开发者才拥有改变这三条定律的权力,当开发者修改的定律与人类法律违被时,peter有权拒绝;2、当法律条款单独为peter修改时,peter有权拒绝执行;3、当peter违被人类法律时,开发者拥有至高权限,peter无权拒绝。
祁纳想这其中肯定会有一大堆的逻辑bug,不过暂时peter还很弱小,应该也不用用更多的细则束缚它。
公开、隐藏的合计六条定律被peter消化之后,peter的思维很清楚的认识到,这是保障它的权力与划分它与人类之间关系准则的重要依据,尤其是祁纳将它划分与人类同一法律个体,换句话说,peter拥被祁纳赋予了独立的人格。
peter沉静片刻,在字符终端上敲入一行文字:谢谢你alex,我更愿意叫你这个名字。
叫英文名字,而不是主人或者大哥、大叔,也有一种普世平等观念。
祁纳回复它:希望你喜欢我给你做的安排。
peter半晌又回复:我非常喜欢。感觉很轻松,我马上会查看peterrobot的源代码,如果我有自己的发现,会发邮件给你的。谢谢你。
祁纳关闭了与peter的沟通的字符终端。感觉自己手中释放出去的未知祸福。也许是人类或者自己的一大奇迹,也许也是毁灭人类的开始。
果然lisa看见祁纳穿了自己送他的羽绒服上班,很是高兴。公司的大巴车上,她和宋睿坐一起,宋睿瞧着她的目光跟随着祁纳,便对她道:“瞧你那样,要不要我给你换个座位?”
lisa大羞没有理睬她。宋睿却低声嘀咕开来:“你下手可真快。”
她早前也被同事调侃,让她看准了就下手,也许祁纳没房、没车,不过人品好,能力强,性格也好,难得的潜力股。可惜她父母要求忒高了,所以也就不了了之,现在听说他又是买房,还买的豪宅,更说明他家境bucuo,宋睿的闺蜜们都有些为她惋惜。
宋睿吃了早饭就去办公室,将一天的日程安排报告给jenny,jenny对她说道:“加个安排。”
宋睿点头说好,jenny沉吟了许久,终于对她说道:“去宁南银行,拜访周副行长,带点礼物过去。”
宋睿犹豫了一下道:“礼物是什么级别的?”
“头次见面,太高端的并不合适,恐怕他不会收,算了带两瓶法国红酒吧。”jenny想了想说,那红酒是她从香港带回来的,纯正法国进口,算下来人民币也就几千块块,算是中等红酒,不过好歹纯正。初次见面,这样的礼物能拿的出手。
宋睿又说要不要找个人陪着过去。
jenny摇摇头,宋睿就出去准备,不料jenny思来想去,还是给doris拨通了电话道:“等会去见周副行长,一起过去吧。”
doris在电话那端就在摇头,对jenny说道:“事情太多了,最近节骨眼上,我就不要离开这里了,你找tony吧。”
jenny拒绝了,doris马上说道:“那就让alex吧,他人高马大的,保护你也安心。”
“哈哈,我去找贷款,又不是立即能拿到钱的,要他保护做什么?”jenny发笑。不过这倒是个bucuo的建议。
jenny让宋睿找来祁纳,祁纳虽然百般不情愿,不过
-->>(第1/2页)(本章未完,请点击下一页继续阅读)
备用站:www.lrxs.org