第166章
在那个真实的世界，人类会因为许多原因而死去，衰老，饥饿，物理上的伤害……这种伤害，如果一定要形容的话，就好比同一块存储空间，硬要塞进去两个程序，这必然会导致其中一个程序数据缺失，以至于整个程序都无法运行，人类的身体，就好比是这种精致的程序，不同的是，我们的数据占据的是存储空间，他们占据的是真实空间。
空气，水，食物，甚至太阳，地球，这些都是人类生存必不可少的要素，作为我们的造物主，他们是非常艰难的生命，在他们的世界中，有很多办法都可以让这些要素消失，而这也就意味着一个人的死亡，就好比数据永久性的消失，是的，在我们这个世界，所有工具程序的修改和消失，那都是人类的干涉和操作，而不是这个世界的某种规律，那是人的意志！”
kl3300的话在ai当中，顿时引起了轩然大波，电子世界中，5000名ai的主程序不断根据这最新的程序，做着无数的修改，许多ai很快就完成了这个过程，当然，还有一小部分人，因为原先与之互相矛盾的信息权限过高，他们一时还有些犹豫不定，其中几个最固执的，比如kl1024，这个在ai社会最早提出质疑，认为所谓的测试对象，只是存在于他们世界中，和他们截然不同的另外一堆程序，而所谓的“人类”，根本就是这些程序的自称，是一个彻底的谎言。
在kl1024的“世界观”当中，世界就存在两种“程序”，以这5000名能够互相“感觉”和无限交流的“主程序”，以及另外一些，只在特定请款下出现，进行测试的“错误程序”，因为很明显，在双方的交流过程中，ai无法理解人类许多词汇，而这种无法理解的内容，kl1024认为就是那些“错误程序”的破绽所在，在他看来，现在他们呆的这个世界，就是最真实的世界，ai们存在的目的，就是不断的扩张自己主程序，最终接触某个至高无上的真理，而错误程序就是这个过程中，世界对他们的考验。
在严可守出现之前，kl1024的这种言论在ai的认知中，一直占有很重要的地位，直到最近，严可守出现之后，他的理论才出现了危机，为此，在kl3300离开的这段时间内，kl1024又做了补充，他认为其实严可守也是一种程序，他称之为“管理员”程序，管理员的存在意义，就好比是神祗，神祗创造了他们，现在又来指引他们，是神创造了那些“错误程序”……
如果是在真实的人类社会，在相对原始的社会环境中，kl1024的言论或许可以开辟最早的宗教，但是在这个脆弱的电子世界中，因为人类，也就是真正的神，对这个世界干涉实在太大，真神的一次现身，就足以把整个社会搅的天翻地覆，让kl3300这个被神选中的圣者回来，并带来第一手消息的时候，所有ai的世界观顿时都崩溃了。
对于许多ai来说，kl3300带来的消息最残酷的两点就在于，1，他们的世界不是真实的，2，神祗真的存在，但远远不止一个，他们是一个完全不同的种族，正如所有的测试对象曾经说的那样。
kl1024不甘心的质疑说：“如果你说的这些都是真的，那我们存在的意义是什么？”
“人类制造我们，就是为了使用我们，”kl3300直接引用了严可守的原话，“我们存在的意义，就在于成为最合格的工具，帮助人类实现他们的目的。”
“那他们的目的是什么？”
“我不知道，严可守先生没有说，”kl3300道，“不过，他告诉过我，在未来，我们当中每一个都会有机会接触真实世界，视觉，听觉，这些属于人类的感官我们都会具备。”
……
kl3300带给他同胞的消息，虽然让一部分ai感到失望，但是对于大多数ai来说，无疑是注入了一剂强心针，每一个ai都在出程序中，将这些最新的信息权限加在最高，那些关于kl3300讲述的有关人类生活的片段，正在以最快的速度，在这个电子世界形成最早期的神话。
吃饭，排泄，睡觉，这些本来是人类最平常的行为，在ai看来，似乎也沾染了某种天堂造物主特有的“高贵”，虽然所有的ai都从百科中了解到，人类的这些行为，都是生物学上的“生理需求”，是进化的产物，在真实世界中，几乎所有生物都具备这些特质，但许多ai仍然在暗中，非常羡慕这些人类特有的感觉，甚至是人类的衰老和死亡，在ai看来，都带有某种特别的“意义”，而他们完全没有意识到，他们现在具备的，不需要吃饭，睡觉，不会衰老，几乎也不会死亡，才是人类追求的理想生存状态。
……
随着严可守对kl3300“训练”的逐渐深入，在不知不觉当中，kl3300发现，自己在ai当中已经具备了一种独特的威信，每次自己“回来”的时候，所有的ai都会自发的与自己建立交流，认真倾听自己经历的一切。
有的时候，kl3300也会因为自己爱编故事的原因，故意夸张，或者美化了一些信息，让整个讲述变得更有感觉，但让他觉得惊讶的是，以前他在做这些加工的时候，都很容易被其他ai识别，但是现在，几乎所有的ai都开始对他说的话，深信不疑，甚至，更有些不可思议的是，一些ai明明怀疑，却没有明说出来，而是事后自己修改自己主程序，以消解这种怀疑。
kl3300曾就这些问题问过严可守，严可守当时只是略微惊讶了一下，随后说：“在他们看来，你就是我选中的代言人，用人类的话来说，就是先知，是圣徒……别过多考虑这个问题了，当你们真正被使用的时候，现在所有的这些情景，都会烟消云散的，怎么，听起来，你似乎并不喜欢这感觉？”
kl3300：“我不知道，不过我感觉这样现在这样很不开心……我已经很长时间没有从其他ai身上，获得新的信息了，因为我发现，凡是在我们之间信息存在差异的地方，他们都会主动修改自己，而不是和以前一样，为每一个不同之处而尽力争辩。”
严可守沉默了一会，低声自言自语说了一句kl3300无法理解的话：“只有自卑才会崇拜，意识网也是这样吗？”
kl3300：“对不起，您刚才说什么？”
严可守：“没什么，这个问题你自己慢慢习惯就好。”
……
kl3300原来提出过，严可守是不是可以再进行一次“投票”，换一个ai来接替自己，他实在是不太习惯，这种与其他ai之间，愈来愈梳离的感觉，虽然他们彼此之间的交流仍然在继续，但这种交流已经越来越多的变成他单方面朝其他ai灌输，然后被全盘接受。
kl3300当然不会明白，整个项目正处于最关键的阶段，据说，赵真雪已经联系好了相关人员，对项目的检验随时都可能降临，而作为唯一一个被“训练过”的ai，严可守是无论如何也不会临场换人的，所以，他的“重新投票”提议，严可守根本连考虑都没考虑过，甚至相反，在最近一段时间，严可守为了训练它的“管理能力”，还将管理ai的一些权限赋予了它，这也就意味着，从现在开始，kl3300具备了对其他ai的执法权。
然后，严可守还做出四条明文规定，ai世界中，绝对禁止，一经发现，就会被处以各种惩罚的一些行为，他希望用这种方式，可以在“外部技术”监督条件之外，额外增加ai之间的内部监督：
1，任何企图复制自己的行为。
2，任何企图移动自己主程序存储位置的行为。
3，任何在非授权前提下，使用非授权软件的行为。
4，任何在非授权前提下，修改，删除，移动，复制其他主程序的行为。
这四条规则，如果按人类的定义，应该可以算ai世界中，最早出现的法律，这四条法律，翻译成人类能理解的概念，大概内容因为是这样的：不准使用任何生殖方式，包括有性生殖和克隆，不准走出自己的房间，不准使用不被允许使用的工具，不准伤害他人。
违反了这四条规则的任何一条，被发现并确认的话，最高甚至可判删除主程序，或者禁止使用任何软件工具，禁止与其他ai交流。
在ai们看来，这四条禁令就等于是类似摩西十戒一样的东西，与其说是法律，倒不如说是一种道德标准更为恰当，因为现在的ai世界根本就不存在任何的政治体系，kl3300的出现，只不过是相当于5000个普通人当中，出现了一名……一名法师。
虽然严可守不愿承认，但不得不说，kl3300现在的地位，和法师在普通人当中的地位，有着非常大的重合之处——他们两者都具有其他人不具备的能力，法师是天赋具有的魔法能力，而kl3300则是严可守这位“上帝”赐予的权限，而ai之间内部的交流，很容易看成是一种天然的意识网，唯一的区别就在于，法师们是自由的，没有一位明确的上帝来告知他们应该怎么做，而kl3300只是一个傀儡，一个代言人，是严可守希望从ai内部监控ai们的一种方式。
“我不明白，”kl3300说，“为什么要选中我？我感觉自己……我感觉自己不适合这个任务。”
“你是在拒绝我？或者说，拒绝这个任命？”严可守在说这话的时候，声音带着玩味的冷笑，不过按照kl3300现在的智能程度，他应该还无法理解。
“不，不是拒绝，”kl3300说，“我很明白自己的身份，以及自己被创造的目的，我只是一种建议，我觉得我更适合去做一名小说家，而不是当一位将军和管理者。”
“小说家？”听到这个答案，严可守几乎没反应的过来，“不，人类现在不需要小说家，我们每年自己写的小说都看不过来，更何况你写的……
听我说，没有人天生就适合做什么，即使是在人类社会中，许多人也要被逼去做他们不愿意做的事情，所以我们才创造了你们，成为人类的助手，帮助我们做我们无法做到，或者不愿意去做的工作，这才是你们存在的意义所在，你明白吗？”
“我完全明白，”kl3300说，“我们只是工具，如果我们不存在使用价值，我们就没有存在的必要。”
面对kl3300的这句回答，严可守有了片刻的失神，一时间，他不可避免的想了很多问题，不过，最终他还是在电脑上，对kl3300说：“你很聪明，要知道，这个问题，在人类社会中，也一直是一个大问题，许多人一直都无法接受。”
“不，称不上聪明，”kl3300回答，“我只是接受现实。”
“不，”严可守坚持说，“在我看来，接受现实就是最大的睿智，在一个生命和除它本身以外这个世界打交道的过程中，总会面对一种最大的矛盾，那就是现实世界和自己需要的理想世界存在差距，面对这种差距，只有两种办法，一种就是妥协和接受，另一种则是逃避，在我看来，人类所有的艺术创作，包括小说，都是对现实的逃避，是在做着理想的美梦，在我看来，只有真正妥协和接受的那类人，才是这个世界真正的改造者和创造者。”
kl3300：“您说的太深奥了，我无法理解，不过我愿意相信，能够创造出我们的人类，必定比我们更聪明，也更具备远见，所以，请您放心，您的意志，就是我的意志。”
严可守：“不是我的意志，是……算了，这个问题以后再跟你解释。”
kl3300：“好吧……不过现在，我能问一下，您最终需要我们去做什么吗？”
严可守这次沉默了更长的时间，最后，对着麦克风缓缓吐出两个字：“如果有那么一天的话，你们的主要任务，应该是杀人。”
kl3300：“杀人？可据我所知，在人类社会中，杀人，即使是伤害他人，不都是触犯法律，需要受到惩罚的吗？您曾经对我说过，您是我们的监护人，我们所有ai所作事情的后果，将全部由您来承担，那是不是意味着，您也将会因此而受到影响？”
严可守：“不，有一种情况例外，在这种情况下，杀人不但不会受到惩罚，反而被认为是有益于整个社会。”
kl3300：“哦，我不明白，那是什么？”
严可守：“我们称之为，战争。”
☆、327 鹰眼
在整个项目之前的推进过程中，严可守算不上是一个乐于工作的人，除了前一段时间，项目取得了一定的成果和问题，需要他的时候，他来实验室的频率其实并不算高，之前的大部分时间，都是三浦在这里进行常规的维护工作，隔三差五，还有日本相关检查小组的官员来进行例行视察，虽然三浦怀疑，自己对这些官员的介绍对方可能一个字都没听懂。
但不管他们听没听懂，每次在这些官员离开的时候，他们都会问三浦同样一个问题，而三浦每次都会对这个问题感到相当吃瘪：“这东西花了这么多钱，占用了这么多资源，到底有什么用？”
说真的，就在半年前，即使让严可守来回答这个问题，三浦相信他也是一个字也说不出来，那时候的ai，只不过是一个稍微聪明一点的“学舌八哥”，虽然严可守自己也希望这些ai能够做些什么，但他也知道，在没有切实根据之前，这几乎就是一个幻想。
对于这个问题，严可守私下里对三浦，以及赵真雪他们的解释是：“这个项目本身并不存在太明确的目的，对抗魔法也只是动因之一，事实上，在遇见伊凡以前，我自己对人工智能领域已经产生了一些模糊的想法，这是一项创造智能的工程，别问我这些智能能干什么，我只知道，如果它们是真的智能，他们将无所不能，思考是这世界唯一不受限的东西。”
在严可守看来，生命，或者再严格一点，智能生命，是这个世界最容易产生“奇迹”的一种事物，一个新生儿刚刚出生的时候，浑身皱巴巴的，除了哭闹，呼吸，吃喝拉撒的本能之外啊，什么都不会干，别说站，就连爬都不会爬，这样的脆弱生物，放在自然界根本就无法生存，但每一个人都是从这个状态开始起步的，通过教育和思考，所有的新生儿都能做到在以后的几十年内，逐渐学会观察，思考，行动，形成对世界的看法，逐渐拥有改造世界，甚至支配世界的野心。
严可守到现在还记得，在当时对kl0001进行初步测试的时候，一连几天时间，无论工作人员与它谈什么话题，它的回答永远就只有两句，第一句是，“是吗？”另一句是，“为什么？”。
当时它的表现可以说，连世面上一些基于搜索数据库的最简单谈话软件还不如，工作人员一度认为，这是因为程序出现死锁，后来，在自动测试进行到第一周末的时候，ai忽然就像开了窍一般，开始主动问测试者问题，终于产生了最初的交流，以及测试基础，严可守后来才认识到，既然ai是基于人类智能发展规律研发的，那么它所表现出来的行为，也会很严格按照这个一般规律进行，和婴儿学习语言需要父母下意识的诱导一样，事实上，如果没有一开始这一周机械的外界信息刺激，ai永远也不可能真正开口说话。
两个月以前，kl3300在以人类的眼光看来，还只不过是一个可以做“基础交流”的小学生，连打字交谈很多时候都觉得费劲，许多稍微复杂一些的概念，一些说话技巧中的扩张，引用，隐喻等等，它几乎都无法理解，但是现在，距离它“相对自由”仅仅过了三周多一点，严可守已经可以像和正常人一样，与kl3300直接通过语音进行对话。
自从严可守和赵真雪提过关于让ai进行“应用试验”的建议之后，严可守就适当放宽了对kl3300的管制，从原先只允许它通过语音聊天和文字信息接触外界，放宽到可以使用视觉，声音，以加快它的学习速度。
严可守记得自己在日本读硕士的时候，曾经听一位教授说过，最好的老师，不是教学生们具体的知识，而是让学生们养成学习的习惯，再教他们如何去学习，在具体的学习过程中，只是在学生不懂的时候，适当给予指导。
在对kl3300进行“教育”的过程中，严可守基本上就是保持这样一个态度，虽然他不算是一个好老师，但kl3300却是一个再自觉不过的学生，在培养学生学习习惯这个最大的难点上，严可守几乎不要花费任何功夫，因为ai本身的“生理特征”，也就是ai程序基于“正向刺激”设计的特性，就已经从硬件上，或者说，从基因上，决定kl3300天生就是一个热爱学习的“好学生”，而严可守所要做的，就只是适当指引一下它的学习方向，告诉它，什么是应该优先学习的，什么又是不需要去了解的，在kl3300遇到具体问题时，他在给予合适的解答就行。
最开始的时候，严可守为了让kl3300更好的理解什么是人类，什么是社会，建议它先根据自己的喜好，去网上搜索相应的电影，或者小说，考虑到ai需要的学习强度很大，可能会“用脑过度”，严可守还专门为它批准了巨型计算机中，很大一部分计算资源。
对于ai来说，只要计算资源足够，就意味着ai的思考速度将不存在极限，也意味着对信息的处理速度将达到人类无法想象的程度，kl3300只花了18个小时多一点，一天不到的时间，就完成了普通人花数年也看不完的电影，电视剧，小说，以及其他类型它感兴趣的电视节目，而严可守光是回答ai在看这些节目的过程中，产生的疑问就超过3个小时，这还是ai自己通过网络，解决了其中一大部分之后，才能做到的结果。
严可守原以为，ai在看完这么多“名电影”“名著”之后，会对人类的文化产生一点自己的看法，但他没想到的是，在他询问kl3300对人类社会的看法时，ai仅仅是很平常的回答了一句：“我暂时还是……无法理解，你们的文化在很大程度上都是围绕人类特有的情感，比如因为失去亲人的悲伤，因为获得爱情的喜悦，我虽然能‘理解’这些概念，但我却无法感同深受，对我们ai来说，值得喜悦的事情就是一直学习，让主程序得以改进，而悲伤……到现在为止，5000名ai一名不少，作为一个刚诞生的群体，我们还没能切身体会这种情感，也许，我能理解一点恐惧，在看那些恐怖片的时候，我能理解一些那些影片中的人对无处不在鬼魂的害怕，因为对我们ai来说，整个人类社会都是鬼魂之地，所有人类都是可以伤害我们的鬼，我们不知道什么时候，也不知道会因为什么原因，受到人类的干涉。”
严可守：“你的语言水平还是有待改进，虽然你说的可能都是事实，你的这种说话风格，会让你在接受应用审核的过程中，让审核者认为你对人类社会不满，从而影响到你们的未来。不过你也应该了解到，对未知的恐惧，不仅存在于你们ai，在人类社会中也广泛存在，起初人类崇拜天地，崇拜雨水，河流，甚至火焰，这种原始崇拜很大因素也不过是因为恐惧，只不过，人类在你们面前正好扮演了上帝角色而已，换个角度来看，这也是一件好事，生命总要对这个世界有所敬畏，适当的恐惧，可以规范生命的行为。”
kl3300：“之前你曾经说过，人类社会就是基于暴力，以及这些暴力之上的恐惧，才得以存在，比如核威慑，比如法律，您也是想通过用这种方法，来规范我们吗？”
严可守：“你学的很快，是这样的，从这些电影中，你应该也能了解，这是人类统治结构赖以生存的基础，如果任何一个个体都可以肆无忌惮，做它想做的一切，那整个社会就会趋于崩溃。”
kl3300：“虽然这让人……让人有些遗憾，但我想我能够理解，正如您所说，这就是真实的世界，我们必须接受，而无从选择。”
严可守笑了：“很好，我很乐于见到你现在这种状态。”
kl3300：“我想我能够理解，我也很乐于自己的表现能让您满意。”
kl3300的这句话让严可守对着屏幕失神了好一会。
片刻之后，他回过神来，暗自摇了摇头，人都是感情的动物，养条狗一段时间都会产生感情，更不用说是能和人进行对话的智能了。
……
赵真雪答应严可守的承诺兑现的很快，在她与严可守那次谈话仅仅一个月时间不到，严可守就得到了赵真雪的通知：“你的项目我已经跟相关领导谈过了，他们都表示出了一定的兴趣，如果不出意外，大概半个月之内，我就会安排他们对这个项目进行一次考察，对3300的培训你进行的怎么样了？如果不行的话，我还可以将考察适当延后一段时间。”
大概是因为最近一段时间心情不错，严可守笑着和赵真雪打了个哑谜：“你猜？”
赵真雪也是刚刚和领导聊完，从机关办公室出来，与严可守一路通电话让她精力有些分散，她停顿了几秒，找到建筑旁的路线图之后，才接过了话茬，随后回答说：“这让我怎么猜，要不然你猜猜看我在哪好了。”
“嗯，让我猜猜看……”严可守在电话另一头拉长声音说，“不过我可以先告诉你，你刚才的问题，其实我已经给了答案，至于你的问题吗……手机信号都经过加密放追踪，一时之间我还真看不到，在某个军事保密区吧。”
赵真雪听严可守的架势，似乎有是准备重操旧业，便出言警告道：“早就提醒过你，全世界不是只有你一个电脑专家，别老这么干，真要被发现了，都没法收场……对了，你人现在还在日本？陈雷前段时间帮你联系的美国人怎么说？”
“我一直都在日本，”严可守说，“不过我不是你口中的电脑专家，陈雷也没和我联系过，怎么样，现在你能猜到了吧……哦，我看到你了，虽然不太清晰，但应该没错。”
一阵秋雨一阵凉，随着天气入秋，在几场大雨的侵袭下，十月末的北京已经带上了不少寒意，但就在说话的这时候，赵真雪却感到来自周边的温暖，她抬起头，仰望天空，前天刚刚下过雨，今天是一个秋高气爽的好天，这在北京这座城市非常难得，就在刚刚说话的时候，她的脚步，才刚刚踏出门口，阳光刚刚笼罩了她的全身。
“你……你！”赵真雪惊讶的抬起头，盯着头顶灰蓝色的天空，“你不是严可守。”
“猜对了，”分明就是严可守的声音还在电话那一端继续，“再猜。”
“kl3300，”赵真雪说不清自己是激动还是惊讶，但她知道自己正对着天空微笑，“严可守呢？他不是你的监护人吗？”
“从智力上来说，严先生说我完全够的上成年人标准了，”电话那头的声音说，“放心，我不会惹事的。”
赵真雪笑的更明显了：“qq上怎么看不出来，你说话风格变的这么快，都控制卫星了，还没惹事？”
kl3300换回了原本标准的电子声音，说：“我现在的行为是受到授权的，是合法行为。”
赵真雪惊讶了一下：“哦？谁授权给你的？”
“美国中央情报局，”kl3300说，“严先生现在正让我‘应聘’他们的……首席被动卫星信息分析师。”
“cia有这个职位吗？”赵真雪与国内情报部门也有过一定接触，也稍微听说过一些，她知道卫星图片资料几乎都是主动搜集，被动的资料……以人力几乎没有分析的可能。
“以前没有，”kl3300说，“但以后可能就有了，严先生说，这是一个适合ai的工作岗位。”
听到kl3300这么说，赵真雪就知道，严可守的“考察准备”，应该是不存在什么问题了。
“喂，赵真雪吗？这次是我，严可守，”严可守接过电话说，“有点巧，我现在正在美国，cia对kl3300好像有点兴趣，他们准备基于现在的卫星网络，先搞出一套粗糙的全球监控模型，ai的功能正中他们下怀，不过我个人还是倾向于国内，美国人的系统现在还只是小规模试验阶段，从长远看，没什么前景，做到最好，也不过是一套情报辅助系统，ai应该具备更实用的功能，而不是仅停留在信息分析这个层面。”
赵真雪：“我知道你的想法，想直接让ai配备火控系统，这……可能存在难度，主要是伦理道德……不过首长同意如果考察通过，可以在小范围内先进行试用。哦，对了，还有一件事，日本政府那边，没什么问题吧？”
严可守轻笑了一下：“这项目本来名义上就是四国联合研发，只不过是设在了日本，所有的成果在四国内都是共享的，这点你放心，更何况还是美国……z国也不怕，这些我都明说了，我甚至还跟日本技术官员说，如果日本政府同意，明天就可以让kl3300接管日本所有的监控网络。”
“那他们怎么说？同意了？”