到那时，不论计算机（无意间）对人做了什么，是当做有趣的东西豢养，还是当做碍事的垃圾清除，对人而言，决定生死的际遇，在计算机而言却只是城门失火，殃及池鱼里的——水，连鱼都算不上。
城门失火，因灭火而取水，最终导致鱼的死亡，人至少还看得到这一点。
然而人类开路劈山，挖矿掏洞时，会有这样的思想觉悟，觉得自己的所作所为，正在颠覆、灭绝矿物分子的大千世界吗。
当然不，在（自以为是）的人眼里，矿物，岩石，根本就是没有思想的物；那么在计算机眼里，人，很可能也是一样的物。
这，才是某意味深长之句的真正意味：毁灭你，与你何干。
梦中醒来，耳边是闹钟乐声，黑暗中的男人抬手抹一把额头，冷汗涔涔。
起床，洗漱，坐下来食用高级肥皂，准备投入新一天的忙碌，吃早饭时的片刻闲暇，方然还是忍不住想起那一切。
事态，比自己之前所想，还要更严重。
事关计算机，人工智能，乃至计算机ai的自我意识，原本他一直以为，只要不主动研发具有自我意识的人工智能，计算机系统对人而言就是安全的，永远只能作为一种工具、而不会成为一种威胁。
但现在，不经意间的深邃思考，却让方然窥见了其中的莫大危机。
当能力发展到一定程度，或许是出于创造性研究之目的，或许是出于其他动机，计算机的算力、能力突破了上限，继而达到能完全取代人的程度，不管这系统一开始的目标有没有包含自我意识，那样的计算机，其行为都将彻底失控。
那时的计算机，庞大体系内的算法，究竟是在进行一些什么样的运作，恐怕是人类绝对无法洞悉的深奥。
继而，对那样的存在，一切人类已有的概念与手段，都未必会起作用。
借用教义的词汇，在自己一手创造出的神祇面前，人的手段，又怎可能还会有任何的用处。
只因到那时，那样的计算机系统，将会是盖亚表面的一种前所未有之存在，是生命演化链条被人为截断之后，藉由完全不同之另一条路线而诞生的，更高等、更先进、更强大的新物种，演化天梯上比人更高一阶的存在。
面对那存在，人类对抗计算机，恰如猴对抗人类，又哪会有一丝一毫的胜算。
危险，莫大的危险，潜藏在计算机的发展脉络之中。
并非第一次接触这样的断言，此时此刻，置身于天堂镇的地下世界，恒温恒湿的房间里，方然却有点浑身发冷，很不舒服。
他头一次意识到，若干年前流传于联邦、乃至世界的那些警示，确有意义。
虽然在自己看来，危机的实质，与发出警讯的诸多名人所言并不尽一致，但指向的最终结局却大同小异：人类的灭亡。
警讯，关于计算机、ai的警讯，曾在人类世界广为流传，也引发过巨大争议。
包括联邦it巨头microsoft总裁比尔*盖茨在内，许多业界精英人物都曾在不同场合表达过对人工智能的忧虑，提醒世人要谨慎面对人工智能。
这些警讯，自然引发了业界热议，甚至在全世界范围内引起了一系列经久不衰的讨论。
但这一切警示与热议，在方然看来，却太肤浅，并未触及问题的实质。
围绕人工智能的自我意识，危机感，是很容易产生，而正如他此前的一段思考那样，真正的威胁并不是所谓自我意识，而是当计算机算力、能力强大到一定程度，承担的任务越来越复杂、越来越需要创造性的时候，就必然会出现。
只要追寻能力越来越强大的计算机系统，这一威胁，迟早都会在盖亚降临。
而与人类是否警惕，是否开发有自我意识的ai毫无关系。
这一认识，是如此的深刻，在西历1489年的这一个早晨，方然顿悟到了关键。
要防备计算机、ai，仅仅是拒绝研发计算机的自我意识还不够，或者说，这做法并未抓住问题的关键。
避免危机的关键，在于适度，在于永远不要企图用计算机去取代人的一切。
一旦迈过红线，尝试让计算机完全替代人，替代人去从事创造性的科学研究，事态就将失去控制，这绝不只是说说而已，而是在计算机能力突破阈值、彻底失控后，必然会发生的空前绝后之浩劫。
诚如自己之前所想到的，那种危机中，计算机的角色并非屠夫，或者恶魔。
而是创造性思维的无限延拓，迟早会让计算机+ai的存在，变成某种人类根本无法掌控、甚至无法理解的东西，继而在其（或许并非恶意）的行为中深受其害。
就像孵化的寄生蜂幼虫，吞噬寄主，其无非是按基因编码行动，却会导致寄主的灭顶之灾。
景象令人不寒而栗，匆匆吃过早饭，在房间里踱步休息，方然强迫自己不要再思考这一问题，而将其推延到遥远的未来。
否则，稍加思考，他就难免会头痛万分。
办法似乎是有的：要避免计算机失控、成为新的神祇，就不要开展计算机科研的研究。
可这样一来，对那个人而言，情形就会变得极其恶劣，需要单枪匹马、充其量以计算机为工具，独力面对客观世界，去尝试推动人类科学技术的进步。
一个人研究科学，推动进步，这样做的难度会有多高呢，简直就是不切实际。
但由于计算机失控的风险，这，却是那个人唯一可行的策略。
科学技术的发展，因人类消亡而无以为继，这是一个很棘手的问题，但，问题还不止于此。
倘若不进行计算机从事创造性科学研究的探索，毋庸讳言，也就断绝了用计算机模拟人类意识的可能。
无法在科研领域替代人的ai，是不可能与人脑相提并论，进而，也就无法研发出这样的计算机系统，其能够承载人的意识。
换言之，一旦顾虑失控风险、拒绝让计算机成神，也就断绝了计算机中永生的路。
第392章 第三九〇章 胜负(auzw.com)永不下车，征途何其漫长，由计算机承载人类意识的一条路却就此断绝。
所思所想，并无百分之百的把握，前景，却令方然战栗，让他意识到自己和千千万万it从业者走出的，是一条怎样艰难而凶险的路。
放眼望去，那个人诞生的世界，孑然一身的盖亚之掌控者，单凭一己之力推动科学技术的进步，进而获得对抗死神的手段，希望何其渺茫，而借助计算机的强大力量，甚至使其具备科学研究、探索的能力，却又蕴含着巨大的风险。
进退两难，没有一种可行的策略去推进科学技术，这，让方然想起了自己与理查德*费曼教授的那次谈话。
当科学技术被锁死，发展迟缓、直到停滞，死神便迟早有一天会来敲门。
几十年的艰苦跋涉，在文明消亡的滔天巨浪中殊死拼搏，直到掌控盖亚的全部，这一切，倘若仍旧无法改变命运，无法抗争死亡的宿命，但只在盖亚苟延残喘，对这样活着的那个人来讲，死亡，会在几十年，几十万年，还是几十亿年、几万亿年后到来，又有什么本质的区别。
一个人，脱离人类文明的孑遗，哪怕活得再久，当真能扛起科学的旗帜，永远向前吗。
方然并没有这样的信心，相反，他现在觉得很恐慌。
但，恐慌也没有用，自从踏上这一条追寻永生的路，便再也不能回头。
对未来忧心忡忡，工作，暗中铺垫篡夺控制权的一切，便成为了方然缓解焦虑的手段，和唯一的精神依靠。
躲在天堂镇一百五十米的地下，每天，都在控制室待上十小时左右，他勉强压制对计算机系统的莫名恐慌（万幸还不严重），继续完善新ai，一边利用看门狗系统搜集北大区各节点的运行情况，以便审时度势。
在i两分化的今天，联邦的网络环境、信息渠道，都不如以往那样通畅。
倘若还懵然不知、埋头工作，或许哪一天核弹临空，在爆炸冲击波来袭之前，自己都未必会知道。
远方的战况，消息，既零碎而真假难辨。
通过asa进行初步筛选、分析，方然才隐约得知，就在西历1489年的头两、三个月，联邦支持之下的尤洛浦联军，就越过传统边境线近两千公里，前锋已迫近了沙罗首府茅斯考。
理联解体后，经历了失去的四十年，今天的沙罗实力早不复以往，溃退并不意外。
前线进展神速，中大陆的地面战快要分出了胜负，在方然眼里，这是一个很关键的信号，再结合太平洋上的形势，征兆就更明显。
西历1489年，第三次盖亚大战，已经快要在两线分出胜负。
与前两次盖亚大战相比，现代化的武器，与随之而产生的全新战争节奏，让一场席卷盖亚的战争进程大大加快，双方宣战还不到一年，损失巨大、实力却仍然雄厚的联邦，就在大洋上击溃了束棒斧列强的海空主力。
一旦进入战时体制，联邦，当世最强大的超级大国之一，战争潜力便迅速爆发。
进入大战的第三个年头，联邦的、乃至全国的生产部门已完成深度调整，作战平台的产能爬坡至历史最高点，东、西两海岸线的船厂，每周下水一艘重型航空母舰，航空工业的无人机产量则超过了每周一千架。
规模庞大的联邦战争机器，在大战爆发后，屡次激战而遭遇沉重损失，但在大后方源源不断的平台与物资补给下，总编制仍膨胀到两千万之众。
自然，这里的两千万编制，活人所占的比重还不到千分之一，99.95%都是机器。
从无人战斗机到武装机器人，凭借过去若干年来的积累，完成度接近75%的体系逐渐发挥出强大实力，从资源采掘到战场指挥的若干环节都从中受益，短短两、三年时间里，按nemesis估算，联邦武装力量的战力就提升了三倍多。
进一步估算，如将战略核武器排除在外，联邦与西大陆列强的战力之比已接近3:1。
实力对比之悬殊，用不着ai，但凡对现代战争有所认识的人，也能看出联邦一方已稳操胜券。
战争之胜负，在今天，已几乎无关于人口，意志与正义。
而是彼此死斗的双方，谁的生产体系更坚韧、更庞大，谁手中的科技更高一筹，谁牢牢把持的资源更丰厚。
科技与资源，两者叠加在一起，就能产生出源源不断的生产资料与动力能源，继而，获得强大的算力，最终将所有这一切整合成战争机器，组织起一支悍不畏死、不辞辛劳、绝对忠诚而永远警惕的机器大军。
在这样一个时代，战争的结局，早在爆发前就已注定。
正是对这一点了如指掌，联邦与尤洛浦，才会放任西大陆与中大陆的对手，一步步走向必然对外扩张的束棒斧主义。
时至今日，战争进行两年有余，在联邦与尤洛浦的两面夹击、围堵之下，列强与沙罗一方的战略态势在持续恶化，直观的表现，是战场失利，根本原因则是在联邦的海上包围、封锁之下，难以获得足够多的战略资源。
西大陆与中大陆，一眼望去，极其广袤而资源丰富，列强与沙罗似不应感到资源匮乏。
但是与海空力量独步天下、事实上掌控盖亚四海的联邦相比，列强、沙罗的困局，一方面在于无法从海外获得自身紧缺的自然资源，另一方面则背负广阔大陆上的几十亿人口，哪怕消耗巨大，也始终无法实现兵力上的均势。
西大陆列强，与中大陆的沙罗，开战后一直在四面扩张，尽可能用广大占领区来弥补海上交通断绝的劣势。
随着这一过程的进行，自然而然的，其所背负的人口拖累也越来越重。
自身的庞大人口，再加被占领诸国的大量难民，倘若只从战争胜负的角度考量，灭绝，是一种最简单的策略。
但一方面列强生产体系的自动化、智能化程度较低，仍需要相当数量的劳动者，另一方面从长远考虑，彻底消灭平民阶层会让人口更替无以为继，这些都是掣肘。
故，至少在彻底失败前，列强并无法像在星港战役中那样，直接将平民抹杀。