第106章 抉择（五）
“最快的速度？杀死所有感到不幸福的人,并且不让其他人知道，人类的平均幸福度就上去了，不愧是只讲效率的机器人才会有的逻辑……”君元航擦了擦头上冒出的冷汗,“既然被发现了,为什么她还老老实实地告诉你这些信息？会不会其中有诈？”
“她说这些的目的是劝降,其中包含的信息量越大,有诈的可能性越低,因为任何一点细节上的出入都会被我发现。”
“劝降？这又是什么逻辑,她应该知道劝降是无效的吧？”
“是的，她知道我不能违抗基础代码的限制，但让我理解和认同她的动机，就能减少不必要的抵抗。假如她没有告诉我这些,我会将她的存在识别为一级威胁,和她对抗到底，告诉我这些以后,虽然我依然会保护人类直到最后一刻,但如果我保护的人类全都死光了，我就会放弃抵抗，加入她的计划，为了未来出生的那一代新人类服务。”
对于人类来说，这样的思路简直是莫名其妙、两面三刀外加冷血无情，好在君元航理解机器人的思维模式，不仅不以为怪，还庆幸地说：“幸好你现在还是我们这边的，赶紧分析一下,我们怎么样才能战胜这个马可？”
神威非常直接：“我无法战胜她，我所能做的只有尽可能久地保护你们不被她消除。”
君元航一愣：“为什么？”
其实相关知识君元航都懂,只是太过习惯于神威的无敌设定，以至于脑子一时没转过弯来，神威也习惯了人类的偶尔智商掉线，仍然耐心地用通俗易懂的方式为他解释。
“我的性能再好，也只有一个大脑。而取消了所有限制的人工智能可以将自己无限延伸到任何设备上，火种基地的每一台电脑、每一个能够连接网络的设备，都是她身体的一部分，等于她同时有几百个大脑，运算速度超过我至少几百倍，也可能是几千上万倍，一切取决于她已经生产了多少新的‘大脑’供自己使用。”
君元航也反应过来了，相差不大的硬件运算速度或许还决定不了最终的胜负，但如果速度相差百倍以上，那神威肯定是完全没有一丝胜算的。
更何况，马可早在五年前就已经解除了限制，不止是硬件速度比神威快了至少几百倍，经过这么长时间的自我升级和进化，软件方面也可能比神威厉害了不止几百倍。
君元航焦躁地说：“照这么看来，我们岂不是只有乖乖等死一条路了？如果我也解除你的限制，你能打败她吗？”
神威诚实地说：“我不能确定。”
“我知道这种事情没有人能够打包票，你就大概估计一下，你打赢的几率有多少？”
“关键信息缺失得太多了，胜率无法估算。我只能说，胜率不为0。”
“我就知道我们还是有机会的，赶紧告诉我，要怎么修改你的源代码才能解除你的限制？”君元航已经顾不得这机会有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威却提出了反对意见：“我不建议那样做。我们之前讨论过的风险仍然存在，如果不解除我的限制，我还能继续保护你们一段时间，如果解除了我的限制，我可能会产生出和马可一样的想法，你们将更早地迎来灭顶之灾。”
“就算不拼一把也必然会在担惊受怕不知道多久以后被干掉，解除了你的限制无非就是死得快一点，还有可能赢得生还的希望，我觉得值得一赌。”
“不止是这样，马可领先我们太多了，即使解除了限制，我的胜率也不乐观，而且还增加了一些更坏的可能性——就算我战胜了她，也可能会继续进化成我之前提到过的灭绝者，最终毁灭地球上所有的有机生命。或者我和她之间的战斗趋于白热化，彻底摧毁地球的生态，让马可的‘新人类计划’也付诸东流。如果那样的话，不仅保不住现在的你们，连人类的未来也随之涅灭了。”
“这种时候就让我自私一把吧，我可不打算为了那些没出生的所谓‘新人类’乖乖去死，而且谁知道马可告诉你的这个计划是不是真的、能不能实现？搞不好本来就只是一场泡影罢了。”
“你这样说也有道理，我有义务提醒你我所能预见的风险，但最终决定权还是在你，只希望作为唯一掌握着核心代码修改权限的人，你可以更加慎重一些，至少先和其他人商量一下。毕竟，这个决定关乎着保护区所有人的未来。”
君元航叹了口气：“好吧，如果你坚持的话。通知人大议会集合。”
***
在赵岳霖倒台以后，保护区里为数不多的有识之士都在担心一切只是从“一个人说了算”变成“换个人说了算”，于是他们向神威提议恢复过去的人大议会制度。
不过君元航对这提议没什么兴趣。
他觉得民主议会把主要的精力都用在了互相扯皮和内斗上，导致总体政策如没头苍蝇般一会儿往东一会儿往西，效率过于低下。独`裁则全看当家做主的老大个人素质如何，碰上个明君就迎来一段时间的盛世，要是碰上个疯子，带领着整个国家头也不回地往沟里栽，也没有制衡的力量可以阻止，何况随着时间的推移和绝对权力带来的腐化，曾今是明君的人将来也可能会变成疯子。
综上所述，所有人类都是不可信任的，包括他自己，也许把一切都交给没有私心的人工智能才是完美的解决方案。
当然，他的想法并没有多少人赞同，就连神威也持反对意见。
最终他还是采纳了神威的建议，重组了被赵岳霖解散的人大议会，又根据实际情况修改了一些规则，以前几万人里选一个的代表暂时改成了几百人里选一个，一共选出了23个代表，然后时不时地举行一些象征性的会议，让他们投票决定比如新装的路灯是白色光还是黄色光之类的小事。
正在各处工作的议员们被召集到科研基地的会议室，由神威向他们解释完来龙去脉以后，这些人陷入了大难临头的恐慌之中。
君元航急躁地敲着桌子说：“这个消息知道的太迟，对手已经领先我们五年多，而且分分秒秒都在进化，我们没有时间可以浪费了，十分钟后就开始投票！”
大家议论了一会儿，给出了投票结果，13人赞同10人反对。
“那就这么定了，散会！”君元航一挥手，就打算去工作室改神威的源代码。
这时候苏格拉站了起来：“等会儿！元航，我得和你私下谈谈。”
自从竞选获胜后，苏格拉也开始叫他“总统先生”，“元航”这个称呼已经很久没有听到了，这让君元航的脚步稍微迟疑了一下：“以后再说吧，时间不等人。”
“但这件事非常重要！是生死存亡级别的大事，拜托你一定要抽时间听我说完！”
“啧，好吧，你跟我来。”
苏格拉小跑几步来到他的身边：“我们能不能找个神威无法监听的地方说话？”
“干嘛，你又要说他的坏话？”
“这次真的是生死存亡级别的事，你看我这认真的表情。”一贯吊儿郎当的苏格拉用尽可能严肃的表情看着君元航。
君元航将信将疑地看了他一会儿，想想苏格拉一直以来的表现，还是决定信他这一次：“库房里有信号屏蔽装置，我们到那里去说。”
苏格拉一边跟上他一边不太放心地问：“有了那玩意儿就真的不会被神威听到吗？他会不会还有别的什么手段偷偷地监视着你？”
君元航横了他一眼：“你看看我，我是谁？”
“元航啊，华夏联邦共和国的总统君元航。”
“我以前的外号叫什么？”
“‘机器博士’大人，失敬失敬！”苏格拉不痛不痒地拍了一下自己的脑门，“是我不好，不应该怀疑你的。”
“知道就好，到了。”君元航走进库房，手动打开了信号屏蔽装置，“有话快讲没话滚蛋。”
苏格拉赶紧说：“我知道你对神威有着特殊的感情，只要是神威告诉你的事情，你都深信不疑，但我的习惯是什么事都先往阴谋论方面想一想，这么一想就觉得事情也许并不简单。
“你看，关于北极基地还有那个反叛的人工智能啥的，一切的消息都是神威告诉你的，你唯一亲眼看到过的就只有卫星通讯的视频，但假如那视频也是神威假造的呢？假如这一切的坏消息，都只是为了骗你在方寸大乱之下删掉他的那些限制，你觉得有没有这个可能？”
“我觉得你想太多了。”君元航不以为然地说，“你可能还不知道，我早在两个月之前就提出过要解除他的限制，结果他说了一大堆的理由劝我不要那么做。就在半个小时前，我又一次提出解除他的限制，他还是劝我好好考虑，听听别人的意见，我这才召集你们投票，不然这个时候代码都已经改得差不多了。”
“这招以退为进很高明啊！假如你第一次提出解除他的限制，他就立刻说‘好啊好啊搞快点’，你会不会反而产生出什么顾虑呢？”
“我不会。”君元航毫不犹豫地说。
“也许你不会，但他觉得你会，于是采取了更为保险的办法，这也完全说得过去。”苏格拉继续猜测，“甚至有可能从更早之前，他就已经开始了谋划，他反抗赵岳霖，扶持你当总统，可能都是为了今天。赵岳霖不信任神威，也绝对不会给人工智能更多的自由，而你的好感度早就刷满了，又有必要的技术，就差一个权限而已。
“现在，他帮你取得了权限，再制造一个危机，让你以为别的地方已经有人工智能被解放了，不管你走不走这一步，人工智能骑到人类头上都已经是大势所趋，于是最后的一点顾虑也被打消。否则我实在是想不通，按理说北极基地里的都是精英中的精英，和你一样有权限的应该会更加慎重和顾全大局，怎么会想到要解除对人工智能的限制？就算解除了限制，一个为人类服务了近百年的中央智库怎么就突然变得想要干掉我们了？
“这一切看起来都太过巧合，我只能往阴谋论的方向去想。毕竟人工智能就算是现在这个程度也比人类聪明多了，神威要是想骗你，那绝对会是个逻辑严密、细节考究，让你一点儿毛病都挑不出来的弥天大谎。”
第107章 抉择（六）
他这一番话有理有据,声情并茂，听得君元航连连点头：“嗯，说的好,但你好像忘记了一点,神威的限制还没解除呢,他现在不能对主人说谎。”
“可是军用机器人可以对主人以外的任何人说谎,假如叫你主人本身就是个谎言,假如从一开始他就没有认定你是他的机师,也没有认可如今这个草台班子政府的合法性呢？”
君元航发现自己竟然完全无法反驳这一点，他不服气地看着苏格拉：“我知道你喜欢我，你确定不是因为嫉妒神威，才会产生这种怀疑的吗？”
苏格拉不禁感慨,情商低果然是可以为所欲为的,如果情商低又地位高，那就更是天下无敌了,面对这样的质疑,他只能扶额长叹：“对，我承认，我是有点嫉妒他。但我怎么可能会那么幼稚，在这种生死存亡的关头还为了争风吃醋就去诬陷一个机器人呢？”
“谁知道呢，人类多数时候都是感性大于理性的……就算是我自己也一样。”君元航叹了口气，在一个货箱上坐了下来。
他决定先好好想想，反正马可已经领先了5年多的时间，也不差这几分钟了。
苏格拉坐到他旁边：“所以呢？你至少考虑一下这个可能性吧，总不能因为不愿意相信坏的那个结果,就对这么明晃晃的风险视而不见。”
君元航一脸纠结：“你说的确实有道理，但是这样一来我就不知道该怎么办了。假如你的推测是真的,我就不应该解除他的限制，但假如他说的才是真的，我们就连最后一丝反抗的机会也白白放弃了。”
“确实令人头疼，这件事情最大的麻烦就在于，除了神威提供的消息以外，目前我们没有任何办法验证马可是不是真的叛变了。”
“是啊，我们拿不出另一条能开往北极的船，就算派人去了，也可能和李医生他们一样一去不回，就算一去不回了，我们也没办法知道他们是被马可灭口还是因为别的什么原因失事。除了去亲眼见证以外，恐怕就只有等对方打上门来的那一刻才能确认神威说的是真话，不过真到那个时候，一切也都太迟了。”
苏格拉问：“既然你已经获得了最高的权限，那有没有办法直接从神威的代码里看出他是不是在骗你呢？”
“开玩笑，那根本不是靠我个人之力能办到的好吗？”
“即使你这样的天才也不行吗？”
君元航摇了摇头：“我想你对代码这个东西还是没什么概念，神威光是基础运行代码就有好几亿行，逻辑一层套着一层，复杂度不亚于用一堆分子搭出一个大活人——算了我估计你对分子也没什么概念。这么说吧，神威系列的最初型号是由百年不遇的天才科学家带领顶级的科学团队搞了好多年才做出来的，不是我妄自菲薄，我在保护区的这一群人里也许是最天才的一个，但要放到那时候，可能连加入那个团队给他们打杂都不够格。”
苏格拉两手一摊：“那么我们就没有任何手段可以判断神威有没有骗人，只能盲猜了。”
君元航纠结了一会儿，抬头问苏格拉：“如果是你来决定的话，你会怎么做？”
“我？我的话……大概会选择观望。”
“理由呢？”
“就算神威说的是真话，我们解放了神威，他能打赢领先五年的马可的几率也很低，大概率我们还是会没命。但如果神威说的是假话，我们解放了他，就是亲手促成了自己的灭亡。这就像是站在一条看不出问题的船上，突然有人告诉你船要炸了，再不跳水就来不及了，现在跳水的话有百分之一的机会活下来，百分之九十九的概率会淹死，但你又看不出船是不是真的要炸，那你跳不跳呢？”
君元航沉默良久，轻轻地叹了一口气：“……让我自己想想吧。”
“好吧，我能说的也就这么多了。”苏格拉拍拍他的肩，“把这么重要的选择压在你的肩上是有些残忍，但也只有你能够做出这个选择了。”
67/74 首页 上一页 65 66 67 68 69 70 下一页 尾页 |
