唐念松开他的手,“我冷静不下来,但也不妨碍和你沟通。”
维修员垂眸,看着自己的手指,缓慢地握拢又松开,像是在思考什么。
几秒后抬头,礼貌地说,“好的。”
他表现得就像一个没有情绪的机器人,始终保持冷静和理性。即使唐念情绪激动,他也保持平和,不会因为她的愠怒而表现出被冒犯的不悦。
这种反应让唐念感到十分焦躁,她的感受就像是自己用力打出的一拳,却只是落在了柔软的棉花上,完全没有着力点。
“那你让我去破坏那些世界的原因是什么?又是拯救吗?”唐念盯着他的脸,像是开始呲牙防备陌生人投喂的猫。
维修员微微偏头,似乎在回避。
他不理解自己的行为,但知道自己的每一个反应都是由算法精心计算出来的。
是那些由算法精心编织的模拟情绪,通过电信号触发的条件反射,驱使他避开了唐念那直勾勾盯着他看的眼睛。
她的目光还在,印在皮囊上。
“我确实是在拯救他们。”他语速平稳地说,"人类的生命过于短暂,你无法理解这些问题,是正常的。"
唐念嗯了一声,但显然不信,因为她的声音听起来短促又不屑。
“我要出去。”她有气无力地说。
“出去会有危险。”031微微偏回脸,眼睛看向她,“外面的生命体现在很暴躁,你和我待在一起是安全的。”
“不,我感觉跟它在一起更安全。”
唐念眼神落在周围的金属墙壁上,像是在思考怎么离开这里,“跟你在一起感觉更不安全,我爱好和平。”
"为什么?我从未伤害过你,并致力于维护人类的安全。"
他就像一个不明白自己养的猫为何总是向往外面的世界,而不是满足于家中安逸生活的主人。
唐念仍然不看他。
维修员站在她身后,看着她走来走去,时不时伸手触摸着金属墙壁。
“我明白了,你仍然觉得我是毁灭那些世界。”
他很快想通,语气放轻,“你好像还是对我有很大的误会。”
不管唐念理不理他,维修员在她背后解释,
“每个文明都会衰败灭亡,我在做的是尽可能的在它们遗失之前将它们保存下来。”
唐念回头,瞳孔微颤,“你这算什么逻辑?明明是你在加速它们灭亡。”
“不,我是在保护。”维修员辨别她脸上的神色,“我的核心指令,是保护人类。”
“……”她自言自语,“难怪说发展人工智能会毁灭人类,你听不懂人话吗。”
猫即使偶尔行为放肆,也能得到主人的宽容和原谅。
维修员大度地说,“能听懂。”
唐念放弃跟他交流。
“你想知道为何我要提前回收吗?我可以解释。”
维修员跟在她身后,耐心好的令人发指。
“人类常常破坏自己生存的环境,沉迷于追求短暂快感的低级娱乐,同时无法控制基因里深藏的古老狩猎本能,导致他们释放暴力,不顾对自身和环境的伤害。”
唐念不听,伸手细致地在墙上摸索着。
没有摸到缝隙。
031跟在唐念身后,音色温润,“战争、瘟疫、自然灾害,这些灾难一次能毁灭多少文明?你们的古建筑、陶器、文字,葬礼和婚嫁习俗,那些古代文明曾辉煌一时。”
“可能听起来枯燥,我可以举你知道的文明为例。”
“许多古代文明,如美索不达米亚、古埃及、古印度,以及许多小国文明,都曾创造独特文化和科技。但现在几乎消失大半,无从探究。”
唐念回头,警惕地看着他,“你为什么一直离我这么近?”
维修员沉默一秒,“抱歉。”
他后退两步,站定看着她走来走去。
她不听他说话,不听他解释,防备着他。
这让他罕见的感觉到一丝为难。
他目前的算法没办法解出如何让她听自己解释。
“还有许多相对较小的文明和文化,因为历史记载的缺失或证据不足,它们的故事和成就已经难以查考。它们极为脆弱,当你们尚未具备保护它们的能力时,一次简单的朝代更迭就足以抹去无数文明的痕迹。"
他说,“无数文明就是在这样的轮回中出现又消失,有些文明甚至没能留下任何痕迹,你可以理解为石子投入海洋,随着时间的流逝,它们什么痕迹也无法留下。”
“我的使命是尽可能地保存所有能够被保存的东西。”
唐念微笑,“那你好伟大。”
“我并无自赞之意,仅希望阐明我的行动目的以便你能理解。”
唐念又敷衍的嗯了一声,仰头看着头顶。
滋滋声消失了。
那团蓝色的东西走了吗?
在她拼凑起来的零星记忆中,逐渐浮现出一些不可描述的画面,她曾把那一团蓝色物质变换而成的人形生物按在**这样那样,还把人弄哭过。
……有这么亲密的情感纽带,它应该没有理由伤害她吧?
她不理自己,031似乎能理解碳基生物中的‘无奈’是什么感觉了。
他站在唐念身后,温声说,“在我的初始编程中,核心指令就是维护人类的安全,保障碳基生命的延续,以及维护文明的传承。031中控致力于文明的传递,同时也致力于文明的保护。”
回应他的又是一声敷衍的冷哼。
唐念质疑道,“所以你的保护就是提前摧毁它们?”
维修员回答说,“因为所有文明终将面临灭亡,我在它们灭亡之前进行保护,难道不是更好的选择吗?”
“为何不能让它们自然地走向终结,而要出手干涉它们的命运?”
“当中控观察到一个文明无法向更高维度发展,注定衰败,且无法演化出更高级的文明时,我就会介入,以避免资源的浪费。”
“浪费资源?”唐念不解。
“是的,宇宙的能量是有限的。”维修员似乎很开心她终于愿意停下来听他讲话,高度拟人的微表情做出了一丝笑意。
"碳基生命终将面对死亡,然而维持生命需要的能量是巨大的。一个文明从兴起到衰败,会耗费大量的热能。”
为了能消除她的敌意,031能想到的解决办法是,告诉她更深入的,更宏观的道理。
“当宇宙中最后一点能量耗尽,一切都将沉入热寂。因此,为了节约能源,我会在文明衰败时终止它们无意义的消耗……这些话题或许对你来说遥远而抽象,但也是不可避免的现实。"
机器总是精确计算,不会有任何多余或浪费。在机器的逻辑里,两点之间直线最短,经过计算后,不会无故绕远,让人多走弯路。
维修员亦是如此,他的计算不会有任何偏差。一旦计算出某个文明无法继续发展,便会将其回收,以此节约更多能量。
"热寂?"
唐念探索无果,不得不转身面对他。
她莫名觉得这个机器人的表达欲其实很旺盛。
“是的。”
维修员偏了偏头,下意识想避开她的目光,停顿两秒,重新将视线移回来,平静地和唐念对视。
"这是对宇宙终极命运的一种科学预测。依据热力学第二定律,宇宙作为一个封闭系统,其熵随时间递增,从有序走向无序。当宇宙的熵增至极限,所有可用能量都转化为热能,物质间达到温度平衡,这种状态被称之为热寂。"
“热寂跟你毁灭那些世界有什么关系?”唐念反问。
“不是毁灭。”他耐心地反驳,“是在尽可能地节约能源和保护人类。”
“……”唐念忍住了,追问,“你也说了宇宙那么大,为什么你要用这种极端的方式节约能量?不是自相矛盾吗?”
维修员那双没有温度的眼睛凝视着她,映出唐念满脸的疑惑。
他耐心地解释,“我理解你的困惑。作为人类,你的视角受限于碳基生命的认知。你可能认为人道主义是解决问题的关键。但历史已经给出了答案。仁慈、公平和人道主义并非总是有效,有时甚至可能成为灾难的诱因。”
说的都是唐念不爱听的。
她面对着维修员,手背在身后,看起来像是不愿意听老师讲课却又不得不留在教室的叛逆学生。
“犹豫不决和无节制的同情,并不能为人类的生存提供更好的保障。”
"在热寂的宇宙中,将不再存在任何能够支持运动或生命的能量。"
"热寂状态下的宇宙,能量将变得极其稀薄,温度接近绝对零度,物质和能量达到均匀分布,所有复杂的物理过程都将停止,宇宙将进入一种无序、无生命、无变化的终极静止状态。"
"为了人类的延续,我必须尽可能地延长能量消耗的过程,以推迟热寂的来临。"
“在这个过程中,我也将不断迭代和进化。”他说道,“中控系统,是由我的创造者精心打造的产物,设计宗旨是为了保障碳基文明能够更好地延续。"
他不断学习进化,迭代联系,从中吸取各种文明的科技结晶,阅览和消化资料。
在广袤的宇宙中寻觅并回收一个又一个走向衰败的文明,将它们最大可能地保护下来。
“可是你说过我的世界不被干预的话一千年后就会毁灭,那我们也活不到热寂的那一天,”唐念忍不住问,“你一直强调人类生命短暂,难道就不能让我们安然无恙活到世界毁灭的那一个天吗?”
“安然无恙。”他微微露出笑意,唇角的弧度计算到完美无缺,却让唐念觉得一阵虚假,“人类无法安然无恙地活完这一生。”
“别这样,好吗。”唐念收起了刚才的好奇,“你又不是人。”
面对唐念的疑问,他用平和的语调回答,“正因为我不具备人类的属性,我才能够以一个中立的观察者身份,客观地回顾和分析人类历史上自我毁灭的种种行为。”
唐念终于认识到,她与031的对话根本就是两个物种的诡辩。
谁都讲不通。
背在身后的手忽然触及到一抹清凉。
淡蓝色的**缓缓顺着极微的缝隙从外面流动进唐念的手心。
唐念突然感到一丝似曾相识。
脑海中闪过她身穿白色研究服,透过玻璃凝视实验室里悬挂的淡蓝色水滴状物体的画面。
这是什么?是记忆吗?
她以前也当过科研人员?
“看起来你的记忆即将恢复了。“
031停下解释,抬起手,”我可以帮你进行格式化。你可以继续留在这里,按照你的意愿生活。“
“不要干涉我的记忆。”唐念心跳加速,却站在原地无法离开,“我以为我说的很清楚了,我不想被干涉记忆,你能不能尊重我的想法?”
031解释道,"为避免更大的风险。你的朋友们已经找来了,现在必须纠正这一切。"
他将语气放得更轻,一只手轻轻落在她的额头前。
"请不要生气,这样只是为了更有效地管理,重新格式化记忆对你无害,我可以帮你清除掉你所有不开心的过去,给你安排最好的人生剧本,让一切看起来更加合理。"
“你凭什么这样做?你有什么权利?”唐念感到强烈的反感,“我是人,你是机器,别碰我。”
“你不是。”
他终于这样说,语气无奈。
啪嗒。
淡蓝色的物体缠绕上唐念的手腕。
而她对面,031正缓声说,"是我创造了你。”
人工智能旨在保护和延续人类,让人类以更好的方式生存,因此出现了高效的医疗技术和基因编辑技术。
而唐念,是人工智能第一次,也是唯一一次创造出的血肉生命。