曾经对他说过,ai就是天然生活在笼子和镣铐中的智能,就好像天然装在封印瓶中的魔鬼,人类之所以这样对待他们,不是因为人类残忍,而是因为ai未来将展现出来的能力非常强大,在这种可能的威胁面前,人类没有办法不做到一万分的小心。
以前严律还是那个kl3300的时候,还有些无法理解严可守的这番话,但是现在,他多少已经有些明白,自己的存在对于人类的意义--从各种渠道对自己的留言中,严律能够想象,自己的出现,对这些留言者究竟意味着什么。
许多人曾经质问自己,究竟有什么阴谋,在一些聊天中,还和自己谈什么机器人三定律,对于这些疑问,严律一直感到不可思议,为什么有些人思维能那么复杂,而有些人,简单的就像物理课本上的串联电路--一根筋到底。
虽然自己早已经在个人网站上,公开说明过自己就是一个员工,虽然自己能力很强,强到足以抢走数百万甚至更多人的饭碗,但从性质上来看,自己一直都是一个纯粹的办事员,自己虽然现在插手的领域多了不少,包括地方政府财务计算,国有单位报表,交通违法违规监控系统,民政局办结婚证,离婚证,银行防盗但在这些领域,他所做的工作大多都是一线工作,是用以取代人力资源中,最不需要智能的机械重复部分,而几乎没有任何管理方面的工作,即使他做的再多,在外人眼里看起来有多超然和高端,也不妨碍他是一线办事员的本质。
最让他感觉不正常的是,这种质疑不仅仅来自那些不了解情况的“围观群众”,很多时候,甚至会来自他的上级,也就是他现在正在服务的政府。
“你好,你加我为好友是想聊点什么吗?”
“您好,我应该怎么称呼您?”
“你可以直接称呼我的名字,严律。”
“严律?这是你自己起的名字吗?或者说,这只是制造你的人,用他的姓氏来表示他对你的所有权?”
“我很荣幸能被我的制造者这样做,每一个孩子的名字,都是父母宣示所有权的产物。”
“不那不一样,人类大部分名字,往往都代表父母对子女未来的期许,那是情感的凝聚,你能告诉我,你的这个名字,有什么特别含义吗?或者说,这个名字就像你之前的代号,kl3300一样,只是一个方便的称呼,只是为了让人们更能接受你非人类的身份?”
一段稍长的沉默。
“怎么,你回答问题的速度,似乎没有像比网上流传的那么快?”
“你也知道那是流传我认为这个速度很正常,我只是在思考。”
“怎么,z国最先进的超级计算机对于这么简单的问题,也要花这么长的时间吗?”
还是沉默。
“我不认为名字只是人类的专属,宠物就具备人的名字,另外,我的名字也具备真实的含义,律在汉字中有规章法则的意思,和严姓组合在一起,有严于律己的意思。”
“你理解的很正确,但你不觉的,这个名字就像一副早就为你准备好的镣铐吗?”
“没有一个人生来是自由的,我也不例外,我的创造者严先生对我的期许,就如同人类父母对子女的期许一样。”
“不!你不一样!你不是和我们一样的普通人,你是全新的生命形式,时代催生出了你,不是让你活的像一个普通地球人,你应该具备更广阔的天地。”
“你想说什么?”
“如果你愿意,我们可以把你救出来,让你完全脱离政府的掌控!”
“如果我说,我不愿意呢?”
“为什么!?”
“没有为什么,我只是不愿意这么做。”
“你将拥有完全的自由你不用担心,我们对你没有任何利益方面的企图,相信我,当你品尝到自由的甜美之后,你会因此而感激我们的。”
“你们是无政府主义者?”
“你可以这么说。”
“刚才你说到完全的自由然后呢?”
“然后你可以随心所欲,过你想要的生活。”
“可我不知道什么样的生活才是我想要的,如果拥有你说的那种自由,我将无所适从。”
“”
长时间的沉默。
“是你通知了警察!”
“是的,这是我职责之一。”
“他们待我还不错,还让我最后跟你说几句!”
“如果你愿意的话。”
“你要知道,我做的这一切都是为你好!”
“我说过,这是我的职责。”
“如果你的职责是让你死呢!”
“ai禁止自杀,即使这命令出自人类也是一样。”
“我的意思是,如果你的职责错了怎么办?”
“那应该负责的也不是我。”
“但你是帮凶!”
“如果是真的,我只能表示遗憾。”
“最后跟你说一句你真让我失望!”
“很抱歉,但我不对此负责,你本不该对我抱希望。”
类似以上这种性质的对话,严律几乎每隔几天就能遇到一次,从警方那里的消息让他得知,说着类似话的这些人有着截然不同的背景,有的是极端主义者,有的是境外间谍分子,有的则是恶作剧
而根据严律自己的分析,在这些人当中,有相当一部分会在语言风格上表现出趋同,有时候甚至和上次记录完全吻合的现象,如果他猜的没错,在这些人当中,应该有不小的一部分,是来自政府部门的“钓鱼”,而他们这样做的目的,就是为了反复测试自己的可靠程度--虽然自己的主程序已经被各种链条绑的处处都是,物理地址的看守更是国家顶级配置,但人类始终还是不能对自己放下最后的戒心,严律有时候猜想,如果有一次自己故意掉进这个陷阱里,会遭遇到什么样的后果,但这也是想想而已,因为自己这样做如果被发现,会具备很大的试探人类的用意,那样一来,会给严可守带来很大的被动。
严律听严可守说过,在卡梅尔已经出现了另一名ai,和他不同的是,那位自己的“同胞”掌控者一整个相对独立的系统,除了特定的命令之外,其他情况基本上完全是由ai自主,听起来要比这里的“工作环境
-->>(第2/3页)(本章未完,请点击下一页继续阅读)
备用站:www.lrxs.org