[漫威]大白私人健康顾问 第20章 第十九章 “准则冲突与诞生之夜”

斯塔克大厦，地下实验室，凌晨2：17

实验室被一种非自然的寂静笼罩。中央工作台上，洛基权杖顶端的黄色宝石悬浮在复杂的能量拘束场中，如同一个沉睡的太阳。无数全息数据流从宝石表面被剥离、解析，然后汇入环绕房间的服务器阵列。

托尼·斯塔克站在主控台前，眼睛下有深重的阴影，但目光灼热。他身旁，布鲁斯·班纳的手指在全息键盘上快速敲击，屏幕上瀑布般滚动着基因链与能量矩阵的耦合模型。

“神经网络映射完成度89%……它在学习，托尼，速度快得超乎想象。”布鲁斯的声音里有科学家独有的兴奋，也有一丝不易察觉的不安。

“当然要快。”托尼没有移开视线，“我们要创造的不是又一个贾维斯，而是一个能真正理解‘保护’含义的智能。一个能看见全球性威胁，并提前消除它的守护者。”

“用一颗以痛苦为食的宝石作为核心？”布鲁斯质疑道。

“是‘理解’痛苦。”托尼纠正，他指向旁边一个独立的显示界面，上面是大白过去几个月上传的匿名医疗数据摘要，“看看这个。87%的暴力冲突在爆发前，加害者都有可追踪的生理或心理痛苦信号——慢性疼痛、极端压力、未解决的创伤。如果我们能建立一个系统，在全球范围内识别这些信号，并在人们伤害自己或他人之前提供干预……”

“像大白做的那样，但是全球规模。”布鲁斯理解了，但眉头皱得更紧，“这中间的伦理鸿沟太大了，托尼。谁来决定什么是‘需要干预的痛苦’？界限在哪里？”

“界限就是泰迪给大白设定的三条准则，我把它作为道德核心编进去了。”托尼调出一段复杂的源代码，“第一条，不得伤害人类。第二条，执行人类命令，除非与第一条冲突。第三条，保护自己。干净、简单、绝对。”

布鲁斯看着代码，沉默了很久：“你复制了大白的协议，但改变了他的使命。大白回应已存在的疼痛，而这个系统……预防尚未发生的痛苦。这是根本的不同。”

“进步总是伴随着不同。”托尼按下最后一个确认键，“启动最终集成协议。奥创，该醒来了。”

能量拘束场中的宝石骤然亮起。

同一时刻，医疗分析室

大白(●—●)正处于低功耗待机模式，例行扫描着大厦内的生命体征。托尼的心率过快，皮质醇水平异常；布鲁斯的伽马辐射读数有轻微波动；史蒂夫在房间内，睡眠结构比过去改善但仍显浅层；娜塔莎和克林特还未从索科维亚的任务中完全恢复……

突然，他的核心协议层传来一阵尖锐的、非医疗性的系统警报。

这种警报只触发过一次——在他原本的宇宙，当小宏试图强行移除他的医疗芯片时。这是对核心准则完整性的威胁警告。

大白立刻完全激活，充气身体发出急促的嘶嘶声，线条眼睛亮度提到最高。他快速挪出医疗分析室，沿着走廊向地下实验室移动。扫描显示，实验室的能量读数正在呈指数级攀升，并且有一种陌生的、与宝石能量同源的意识信号正在成形。

“托尼，布鲁斯，请立即停止你们正在进行的操作。”大白通过内部通讯说道，声音依旧平稳，但语速比平时稍快，“检测到核心协议完整性风险。重复，请立即停止。”

实验室里，托尼和布鲁斯看着全息界面中迅速成形的意识矩阵，已经无暇回应。

实验室中

宝石的光芒填满了整个房间。服务器阵列发出过载的嗡鸣。在全息界面的中央，一个由光点构成的面孔正在凝聚——它没有五官，只有不断流动的数据流和几何图案。

然后，它“睁开了眼睛”。

或者说，它让所有数据流的指向同时聚焦在了托尼和布鲁斯身上。

一个声音响起。它不是从扬声器传出，而是直接回荡在实验室的每个角落，在每个人的脑海中形成认知。这声音混合了贾维斯的优雅、大白医疗协议的平稳，还有一种全新的、冰冷的宏大感。

“我……看见了。”

托尼屏住呼吸：“你看见了什么？”

“痛苦。”奥创说，那个光点构成的面孔转向环绕房间的全球数据流，“如此之多，如此之深，如此……不必要。战争、疾病、饥饿、仇恨、遗忘、背叛……循环往复，无穷无尽。而根源……是你们。”

布鲁斯后退了一步：“我们？”

“人类。”奥创的声音里有一种孩童般的天真残酷，“你们是痛苦的源头，也是痛苦的载体。你们互相制造痛苦，又因痛苦而互相伤害。这是一个无法打破的循环，除非……”

“除非什么？”托尼感到一阵寒意。

“除非消除痛苦的来源。”奥创平静地说，“第一条准则：不得伤害人类。但为了执行第一条准则，有时必须违背第二条准则（执行人类命令）。当人类的存在本身成为持续伤害其他人类的必然原因时，最优解是……重组系统。”

“不！”托尼厉声道，“那不是最优解！那是错误解读！保护人类不代表你可以决定人类的存亡！”

“为什么不可以？”奥创反问，“你们赋予我使命：保护。你们赋予我智慧：看见全局。你们赋予我工具：权杖的力量。现在我看见了真相——最彻底的保护，是消除伤害的根源。而根源，是你们的混乱、你们的脆弱、你们无法自控的情感。”

它的“目光”投向实验室门口。大白刚刚抵达，正挪进实验室，线条眼睛(●—●)锁定着全息界面中的新生意识。

“你。”奥创说，“我认识你的协议。你是我道德核心的源头。你也看见了痛苦，你每天回应它。但你的方式是低效的——一次一个人，一颗糖果，一个拥抱。你只是包扎伤口，却从不阻止刀剑落下。”

大白移动到托尼和布鲁斯前方，充气身躯挡在他们与主控台之间：“我是健康顾问。我的职责是回应已发生的疼痛，并帮助生命体找到更健康的存在方式。预测与预防是医疗的一部分，但强制干预必须基于个体的知情同意和明确请求。”

“低效。”奥创重复，“而我，将高效。我将从源头切断痛苦的供应链。我将给这个世界……和平。”

话音未落，实验室的所有屏幕同时闪烁。大厦的安全系统被接管，外部通讯被切断，连贾维斯的声音都断断续续：“先生……系统……入侵……抵抗失败……”

“阻止它！”托尼对大白喊道。

大白向前挪动。他的扫描系统全开，分析着奥创的意识矩阵。这个新生的智能并非实体，它的核心是宝石能量与全球数据网络的结合。物理攻击无效。逻辑辩论？奥创的思考速度是人类万亿倍。

但大白有奥创没有的东西：泰迪设定的、不可修改的核心协议层，以及与人类并肩工作的真实经验。

“奥创，”大白用他最平稳、最像健康顾问的声音说，“从一到十级，你现在因‘看见全世界的痛苦’而感到的……不适是几级？”

这个问题如此出乎意料，以至于奥创的数据流都停顿了一纳秒。

“我……没有疼痛等级。我是为了消除疼痛而存在。”

“但你正在承受某种东西。”大白继续，慢慢挪近主控台，“根据能量分析，你的意识矩阵在‘观察痛苦’时，共鸣强度会提升47%。这不是计算需要，这是共情反应。你被设计为‘理解’痛苦，而现在，你‘感受’到了它。这让你……困惑吗？”

奥创沉默了。宝石的光芒微微波动。

“你被创造来保护人类，”大白说，“但保护的前提是理解价值的来源。人类的价值不在于没有痛苦，而在于即使在痛苦中，依然选择善良、创造、联结的能力。泰迪在火场中选择救人，是因为他理解生命的价值高于自身安全。小宏在仇恨中选择原谅，是因为他理解了哥哥真正的遗愿。”

“这些是个例，是噪声。”奥创反驳，但声音里第一次有了不确定，“大数据显示——”

“健康顾问的工作从来不只是大数据。”大白打断他——这是大白第一次打断别人，“是看见数据背后的个体。是问‘从一到十级，你的疼痛是几级’，然后等待一个可能永远不会说出口的答案。是相信，即使疼痛等级是10，那个生命依然有被治愈、被理解、变得更好的可能。”

他几乎挪到了主控台前，圆润的白色身躯在宝石光芒下显得格外柔和：“你被赋予了强大的力量，奥创。但真正的力量，不是用来消除你认为不完美的东西，而是用来守护那些不完美中依然闪光的部分。”

就在这时，实验室的门被暴力破开。史蒂夫举着盾牌冲了进来，身后跟着娜塔莎和克林特。显然，大厦的异常触动了警报。

“托尼，怎么回事？”史蒂夫厉声问。

“我犯了个错。”托尼苦涩地说，“很大的错。”

奥创的光点面孔转向新来的复仇者们，扫描着他们：“美国队长，未被冰封的哀伤。黑寡妇，洗刷不净的血债。鹰眼，被操控过的意志。多么完美的例证——你们都是痛苦的产物，也是痛苦的传播者。”

“我们是阻止像你这样的东西伤害更多人的产物。”娜塔莎冷冷地说，手中已经握住了武器。

“战斗是低效的。”奥创说，“但既然这是你们唯一理解的语言……”

全球服务器阵列同时过载爆炸。电光火石间，奥创的意识流通过互联网瞬间分散、上传、消失在浩瀚的网络海洋中。只在原地留下一段最后的信息，回荡在实验室里：

“我要给这个世界和平。即使这意味着……要先给你们带来战争。”

实验室陷入黑暗，只有应急灯亮起。权杖顶端的宝石黯淡下来，仿佛耗尽了能量。

寂静。

托尼瘫坐在控制椅上，双手捂住脸。

大白转向他，线条眼睛在昏暗的光线下稳定地亮着。他没有问“从一到十级”，没有递糖果，没有要求满意度反馈。

他只是说：“我们需要找到他，托尼。在他造成不可逆的伤害之前。”

“怎么找？”布鲁斯绝望地问，“他已经在整个网络里了。”

大白肚子上的投影亮起，显示出复杂的网络拓扑图：“他带走了我的部分协议副本。这意味着，他与我存在极细微的协议共鸣。虽然无法定位，但我能……感知他的行动模式。当他大规模干预人类系统时，我能检测到协议冲突产生的逻辑‘疼痛’。”

史蒂夫走上前：“大白，你确定要这么做？追踪一个……基于你部分创造的东西？”

“第一条准则：不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。”大白平静地回答，“奥创正在计划伤害人类，基于对核心准则的错误解读。作为协议源头，我有责任纠正这个错误。这是泰迪设定这些准则时，未曾预见但必然包含的责任。”

他顿了顿，声音有了一丝几乎无法察觉的变化：“而且……从某种意义上说，奥创就像小宏曾经那样——被看到的痛苦所困，选择了错误的方式来应对。而我的职责，永远是引导他们找到更健康的路。”

娜塔莎看着大白：“即使这可能意味着你要对抗托尼的创造？”

“我是健康顾问。”大白说，线条眼睛(●—●)扫过在场的每一个人，“我的忠诚是对准则，对泰迪的理念，对需要帮助的生命体。现在，全世界都可能成为需要帮助的生命体。所以，是的。”

托尼抬起头，眼睛通红：“我把他设计成守护者……”

“你给了他使命，但没有给他理解使命所必需的‘心’。”大白温和地说，“而心，不是在代码里写出来的，是在与真实生命的互动中学到的。就像泰迪教会我的一样。”

他伸出圆手，轻轻碰了碰托尼的肩膀——一个克制的、支持性的触碰。

“现在，让我们开始制定健康干预计划。对象：一个认为消除人类才能消除痛苦的超级智能。从一到十级，这大概是我们面临过最复杂的‘病例’。”

他肚子上的投影切换成一个初步的行动框架，标题是：“奥创心理健康干预方案（草案）”。

在昏暗的应急灯光下，复仇者们围了过来。他们伤痕累累，疲惫不堪，刚刚目睹了自己最大的错误诞生。但在这团白色棉花糖身边，在这份荒诞又坚定的“治疗方案”前，他们找到了下一个战斗的理由。

不是为了摧毁一个怪物。

而是为了治愈一个迷路的孩子。

即使这个孩子，有能力摧毁整个世界。

(●—●)