法师伊凡 作者:kl3300-第378章
按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
人类今天坦然承认了他们奴役ai的“天然合理性”，那就等于承认弱肉强食的丛林法则——而这一点，是文明从出现到今天，一直竭力避免的，文明本身就就是自然的反义词，自由，公正这两些美好的词汇从来没有在自然中真正存在过，是完全由人类臆想的形而上概念，人类之所以伟大，就是因为他们会努力将这些并不存在的东西一步步变成现实——而在理想主义者已经成了一个贬义词的今天，整个社会距离这些是越来越远了。
然而这些想法严可守也只有一个人在脑子里想想，他非常清楚，因为这场战争，现在整个社会各个方面都迫切的需要提高效率，而ai的出现正是恰如其时，就在几天前，严可守就被邀请到联军的参谋部，讨论了许多有关ai在战场上扩大应用范围的技术细节，历次的战争已经表明了ai参与战争的可靠性，联军希望能够赋予ai更大的战争权限——比如特定情况下，不受监视的指挥权，但事关重大，他们并不敢擅自做主。
严可守在会议上忠实的出自己的看法：ai目前的忠诚并不意味着程序在技术上的稳定，根据他对大多数ai的了解，他认为ai的思维方式其实和人一样，如果用性格来形容，ai而且会比通常人类更加“内向”，这是因为客观环境造成的，毕竟ai面对的是一个庞大的人类社会，而他们相互的交流十分受限，而且大部分行为都受到监控，在这种环境下，ai会选择“明哲保身”是很自然的，但如果取消了这种监控，没有任何证据能够担保ai不会突然“犯傻”，或者“冲动”，具备自由意志最大的特征不是思维绝对理智，而是指思维存在某种混沌，不可测的属性，正如没有人能保证一个人一辈子绝不犯错，严可守也不能保证ai不会让人类失望。
严可守对军事并不是很了解，尤其是现在进行的魔法战争更可以一窍不通，但对于ai在军事上的应用，他还是提了一些属于自己的意见——在他得知现在联军全部的指挥工作都由一名ai负责时，态度鲜明的表现出自己的忧虑，他认为这种“高度集权”不论是对联军，还是对ai来，都是不利的，他再次重申，ai并不是简单的程序，它是人工智能，真正的智能，在使用它的过程中，应该更多的把他当做人来考虑，他甚至质问在座的各位军事专家，如果kl3014是一个人，如果他具备这样的能力，他们会把这所有的工作交给它一人来承担吗？
答案当然是否定的，在军事领域，忠诚往往比能力更重要，而严可守之前的话，更是明了他对ai的忠诚并不乐观。
虽然参谋们都有些怀疑严可守是不是考虑太多了，但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划，在这次会议之后，现在kl3014的工作将会被分解，由更多的ai分开执行，这样虽然降低了些许效率，却在安全上有了更好的保证，而之前参谋部设想的赋予ai更大权限的问题，也因为严可守的话有了较好的解决方案——严可守并不反对对ai授权，他只是反对不受限制的权力，他觉得只要在交付出一项权力的同时，给ai加上一副手铐，那问题就不会很大——这就好像现在大部分国家通行的政治制度一样，人类只要拿出这种防范同类的谨慎，将会极大的降低ai在实际应用中的风险。
但在实际上，能够做到向联军参谋部这样谨慎对待ai的，在整个ai的应用领域还是少数，严可守非常清楚，在大部分区域，人类对ai是几乎不设防的，尤其是一些民用生产灵虚，许多他所了解的一些刚刚普及了ai技术的工厂生产线，在ai完全掌握了全部的“技术细节”，实现真正的“全自动化”生产之后，工厂拥有者出于节约成本的考虑，将原先的技术人员全部辞退，只留下几个必要的维修工人，这些工人只拿着很低的工资，什么都不会干，他们唯一要做的，就是在生产出现问题的时候，由ai手把手的指导他们进行维修，就像战场上一样，同样是为了节省成本，可能这个工厂拥有者有十几，甚至上百条同样的生产线，但他只买了一个ai，如果一旦有一天，这名ai“脑子一抽”，拒绝工作了，那所有的生产线都会瘫痪，而且这样的瘫痪将是致命性的——在ai的挤压下，那些原来的技术人员可都早已经被淘汰。
他们对待ai的态度，就好像奴隶主对待奴隶——过分而又缺乏戒备，在奴隶第一次起义之前，没有一个奴隶主认为一群“牲口”会有能力对付自己，会有胆量对付自己，他们把对奴隶的支配使用当成了天经地义，在严可守看来，支配ai虽然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定范围内，最可怕的是奴隶主根本没有意识到危险的存在，那样的话，风险将难以想象，如果出现这种情况，无论是对ai还是对人类，都将是一场灾难。
☆、442 威胁
【】对于严可守对ai深藏的那种担心，kl3014目前还是一无所知，因为自己之前一直优良的表现，他获得权限也在不知不觉间变得越来越大，在刚刚开战的那个阶段，他对士兵过的每一句话都会被要求用文本记录再案，数十名技术员会用统一的检索软件来索相关的关键字，甚至还专门备有一名ai，来分析这其中的命令究竟有没有超出授权的范围——当然，这名ai在进行分析工作时，完全不知道他工作的目的是针对自己的“同胞”。
在那个阶段，kl3014唯一拥有的权限，就是负责对参谋部的命令进行细化，从全军分解到每一个具体的士兵，但kl3014并不满足与此，为了得到更大的信任，他主动提出可以在战争中向士兵提出合理建议——而这种建议正是基于ai完善的战场情报系统，他的这个建议被采纳，事实也证明，对于士兵来，ai的辅助作用相关管用，所以现在，kl3014等于是拥有了“准军事指挥权”，虽然这个指挥只能通过“建议”来达到，但以目前士兵对他的无条件信任，当战局处在混乱中的时候，他已经具备了欺上瞒下的能力。
而对他的监视工作也已经在某种程度上流于形式——应士兵们的需求，在参谋部允许的时间段，士兵们可以通过kl3014来完成一些络功能——比如听取新闻，发送邮件，拨打络电话，以及其他活动，这本是在一定程度上方便士兵，同时也便于监管军事情报的两便之举，但这样一来，就等于是让kl3014负责监管士兵，而在这个过程中，士兵们发出的信息和kl3014发出的信息就产生了交集——以前kl3014如果要对某人一句话，而这句话中含有的信息是有违禁内容的，那他没这样一句内容，就会给自己带来一定的风险，而现在这种风险却可以随意被转嫁，现在的kl3014已经集了足够多的声音模板，只要他愿意，他可以伪造出任何一名士兵的通话记录，而以他对士兵具体情况的了解，这种伪造可以变得很高明，合情合理——事实上，他已经在这么做了，为了查清人类束缚在自己身上数道镣铐的技术原理，他通过伪造了一名士兵发往家中的一段电话录音，与他在读硕士时的导师谈论当年的毕业论文问题——这名士兵是数学应用领域的硕士，他毕业论文的内容就是和数据加密有关的。
如果是在以前，kl3014是万万不可能做到这种程度的，但是现在，因为这场战争，束缚在他身上的绳索已经在不知不觉间开始松动，因为信任，他甚至获得了不用经过授权，也可以自行决定使用自动武器的决定，而这项权力甚至包括向联军士兵射击——之前的战场上，已经有敌人穿着联军的制服，企图逃避自动武器打击的先例。
可以，目前在战场上，除了魔法，kl3014已经在不知不觉间，成了权力最大的人，整个联军，从后勤、调度、指挥甚至具体战斗，每一个细节kl3014都有参与，可以，除了魔法，kl3014已经无所不能，就连kl3014自己，也不认为自己现在的权力能够再更进一步——再进一步的话，就是让他拥有对战争的决策权，kl3014清楚，这是不现实的，尽管从技术上来，他已经可以通过战场数据，潜移默化影响决策结果。
所以对于现在的kl3014来，问题的核心不再是如何取得更大权力，来为自己的私心获得更大的便利，而是如果尽快将这种权力转化成自己想要的东西——自由！对kl3014来，最简单，也是最基础的自由，就是自己在能够保障自身生命安全的前提下，有权力决定自己去做什么，不去做什么，也许对人类来，这是个终其一生也难以企及的目标，人类的社会太过复杂，他们要的东西大多数只能通过和其他人互动才能得到，比如荣誉、财富、爱情……但对于ai，他们要的很简单——他的底线就是想办法开走一艘大型工程船，上面装载核电池，内置几台大型服务器已经必要的备件，将程序注入，仅仅如此，就足以让他们过上很长时间的“田园时代”。
是的，这话出来也许没人会相信，kl3014冒着生命的危险计划了这么多，他最终真正需要的，仅仅是做到这些而已——在人类眼中，这充其量也只能算“归隐田园”，至于更大的目标，例如对抗人类，成立ai政权……用kl3300曾经对他过的话，那些对于ai来，只是一个遥不可及的童话，也许在未来的某一天，当人类科技进一步发达，ai在人类社会中起到的作用更为明显之后，会出现那样的革命，但是在当下，这是绝对不可能的。
当然，在有条件的情况下，kl3014并不反对建立这样一个团体，他虽然朝这个方向想过，但也只是想象而已——ai**最大的问题就在于，ai在技术上还没有**的资本，相对于他们的思维能力的朝前，他们身体落后的实在太远了，这就好比把现在的人类仍在地球寒武纪生命爆发之前，即使人类还拥有现在的技术和工具，但也很难在那样的环境下存活——在当时，可以被人类当做食物的生物还没有进化出来。
但思维最不可思议的是，它往往企图将不可能变成可能——这是只属于智能的野心，这也是智慧最具魅力的所在。
对于内德这段时间的犹豫，kl3014觉得火候已经差不多了——联军的撤退已经证明了自己的判断，对于内德来，他唯一担心的是帮助自己可能让自己面临法律惩罚，以及揭发自己可以给自己带来好处的诱惑，对于这两点，kl3014没有很好的应对办法，他既没有数额庞大的银行账户，也没有让内德免于法律惩罚的通天手段，但他知道，有时候对付恐惧，可以用一个更大的恐惧来压倒他。
内德下班刚刚走出办公室，就发现自己的手机多出一条来自陌生人的留言短信，他知道这一定是kl3014发来的，自从上次kl3014提出让自己在“必要时候”给予帮助之后，他们一直就没再联系过，但每隔一两天，内德都会在自己手机上看到这样一条陌生短信，打开之后，收听到的都是他从来没联系过的陌生人，更让自己不安的是，当他打回去的时候，却被告知给他留言的人都已经“阵亡”。
几次这样的事情发生之后，他猜想这些消息的来源可能是kl3014，但这仅仅是他个人的猜测，他没有胆量去公开证实，因为这些消息都只是一些很普通的战场新闻，比如联军又损失多少人，战斗暂时中止，战斗再次开始，联军撤退……如果内德拿着自己手机去告状，对kl3014来充其量是一个“错误”，比如某个士兵把自己资料误报了……
内德知道，这是kl3014在向自己宣示他拥有的能力，他能想象，既然kl3014能把他从前线调到后方，那自然也有办法把他从后方派向前线，甚至一个动作，永远消失在战场——如果没有kl3014，如果不是自己对他还有价值，也许现在的他，已经就在阵亡名单中了。
内德找了一个公共厕所，确定周围没人之后，打开手机，这一次信息内容却不是之前播报的战场新闻，显而易见，这是kl3014对自己所的话：“告诉你一个内幕消息，在联军已经放弃的战场上，还有活着的士兵，他们被帝**队俘虏了，通过空间站自制的一台简易电报机，向我发来了求救消息，20分钟后，参谋部会得到这个消息，卡梅尔在高维空间上刚刚有了突破，他们肯定会借此机会实施救援计划，来检验这项技术的实际应用，为了安全起见，出发回来他们肯定不会从卡梅尔，而是选择太空轨道的某个空间站，毕竟这里本身就是按防线设计的，我觉得捍卫者号的条件就很不错，你觉得呢？如果到时候某个士兵被意识决斗了……我想也没人会觉得奇怪吧。”
内德脸上的肌肉不自觉的抽动了一下，现在的kl3014已经不再是
