[综]霸道AI爱上我 第169章 额前叶切除手术

Ctos安慰了我好久，我才勉强安稳入睡。次日一大早就要起来准备开会，开会之前ctos给我泡了一杯咖啡，我喝了口，感觉味道不够浓。

“不能再浓了，摄入过量咖啡因有害健康。”ctos不容拒绝地夺下我的杯子，“您该去开会了。”

开会是个需要人保持持久专注力的事，从上午开到晚上七点，中间歇过几轮，在一些关键问题还是没法磋商协调，不得不宣布延长会议时间。回到房间我立刻着手处理军务，和参谋部远程沟通，挨个看过他们白天做的决策，整合各个军团的消息，忙到深夜两点点被ctos强行抱上床按着脑袋要求我休息，明天还要继续开会，并且它不会为我准备咖啡。

“太坏了ctos。”我嘟嘟囔囔，“没咖啡我明天怎么保持清醒？”

“明天会议第一条要讨论的内容是灰域相关，您可以小睡一会。”ctos温暖的手盖上我的眼睛，声音轻柔：“抓紧时间睡吧，贝纳尔，事情是做不完的。”

自从干了这行，总感觉一天24小时还是太少了，做不完的事情，填不饱的睡眠。在大会议室里打瞌睡简直梦回少年时的课堂，我感觉我只是眯眼昏睡了一小会，甚至感觉中途几次睁开眼了仔细看台上的会议主持人敲桌，等真的睁开眼才发觉，刚才不过是自己睡昏头了的错觉罢了。现在补充会议进行到第三个议题了：对AI的管控，且进行到了投票阶段。

投票给出的选项只有三个，第一：阉割ctos的智能，使其只能成为调配促进生产力的工具；第二，战后集中人力重新覆写ctos的底层代码，降低ctos自主决策的权限并改造完成去中心化，不阻止ctos的更新迭代；第三，战后停止ctos的算力增长及更新，并将ctos的功能与模型拆解，以此制作出多个AI在不同领域执行专项工作，避免综合性垄断AGI的出现。

我不懂这明显可以并行的东西还能被拿来搞投票活动，纯纯浪费时间，心烦得哪个都不想选，弃权！

身边的人似乎看到了我的选项，小声问了句：“你怎么选了弃权啊？”

“这些选项压根没意义，当ctos是傻瓜吗？讨论这个，还不如讨论到底要不要给ctos人权属性。”

“你觉得ctos会反击？”

“布鲁姆自己都看不懂ctos的思考和迭代方式了，想要拆解它纯属做梦。你能拆解一个完全未知的生物细胞再重塑出新的生物吗？你能调控一个外星人的大脑再塑认知逻辑吗？我们的技术还没进步到这个地步。这不是一道行政构想就能解决的问题。”说到这，我感觉这会不站出来说两句，以后可没这么关键的机会了。

“你怎么能确定我们一定拆解不了ctos？”身旁的人对我的回答很不高兴，“这是忽视了人民的主观能动性，只要想，一定有办法能解决的！”

“如果可以，我当然希望垄断性的AGI从未出现过，但它已经产生了，作为另一种形态的生命，它早就与我们这个世界所有的联网物深度绑定，谁说它的扩张这不算它的一种繁衍与生长？代表们的提议本身没有错，但是忽略了如何实现、如何让ctos甘愿平和的交出生存权的问题。”我站起来，大喊，“主持同志，我想我需要说两句。”

人类如何定义硅基生物的生存权与“人权”？

是我们以造物者的位格凌驾在硅基生物之上，亦或是硅基生物将我们视为寄居载体上的寄生虫？

听上去是很荒谬的反思，似乎是无谓的担忧。总会有人把“拔掉AI插头”的玩笑当作切实可行的方案，但就以最底层ctos本质代码的艾斯利来讲，他从不赞同这种说法。他对我的疑问也做过解答，谁是寄生者取决于谁具有“终止”的权力，倘若杀死AI等于砍自己神经中枢，那就无法分辨谁胜谁负了。同时他也更偏向乐观，布鲁姆虽然早已不插手ctos的自我进化，但是初期架构建设与模型训练上的道德对齐依然能对ctos做出限制，至少不用担心“硅基生物理解的帮助人类幸福是把人脑子摘出来泡罐头”那么离谱的突破下限的事。

我站上台，扫视会议室内密密麻麻的人：“同志们，请安静一下。我理解诸位对AI统治世界的担忧，这些投票选项本身没有错，但是我可以明确的告诉你们，这些设想至少在本世纪都是不可行的，做不到。”

台下一片哗然，我继续说：“我想，诸位在决定AI在未来世界的定位时，只是单纯把它视作一种工具，会威胁到人类生存的工具。但是我可以明确告诉大家，想要解决AI的问题，我们首先要正视它。ctos并不是单纯的工具，而是另一种形态的生命。指望它一个复杂的生命体乖乖接受这场额前叶切除手术，显然是不可能的。人类尚且有求生的本能，AGI同样拥有。

“第二个选项：覆写ctos权限代码——哎，这条我坦诚的告诉大家，哪怕用魔法把最初建构ctos的学者全部从墓地拉起来复活也做不到这种程度了。去中心化倒是可行，但是在短时期内，我们没有必要立刻将自己置于与ctos敌对的立场去。我们急需解决的事务太多，相比于阶级矛盾，人类与AI的矛盾没有紧迫到需要马上开战的地步。况且，不限制ctos的更新迭代、却限制它的权限在逻辑上就是冲突的，这点我就不多说什么了。

“第三条，关于杜绝垄断性AGI的产生。其实，我们星球的知识总容量其实只够产生一个AGI，相关训练已经接近文明瓶颈。AGI的垄断性不是资本主义带来的，是生物进化的本能，就像人类天然的会对星球上其他生物的生存空间产生挤压、破坏一样。想把它拆解成不同领域的专业AI，不仅从算力资源基础上就非常困难，而且反自然、反科学，是主动性技术倒退。试想一下吧，我们本来可以用一个终端应用就能搞定所有问题，为了避免AI垄断，我把表格统计交给表格AI，文章起草交给文案AI，想知道某个专业领域的知识又得去问另外一个AI，本来一个东西就能高效率解决问题，为什么要为了避免垄断选择自缚手脚、把解决问题变复杂化？”

说到这里，我稍微喘了口气，歇一会儿再说：“而且，即便这项拆解计划真的能成功，被拆分出来的AI只要联通网络，依然有可能将语料与模型参数重新聚合，这是治标不治本的办法。”

我想说的说完了，台下一片沉寂，忽然有人站起来大喊，我这么维护ctos，不过因为我本来就掌握了ctos一定权限，怕ctos被拆解之后自己丧失争权夺利的优势罢了。我立刻反驳，这种指控纯粹是人身攻击，而不是基于理性思考的驳论。如果要反对我的意见，就请拿出切实可以安全阉割ctos智能、完全覆写权限代码的方案，不然我们在这里讨论的所有关于管控AGI设想都是自以为是的拍脑袋决策。

“在座的诸位，有谁是人工智能训练领域的专家吗？有谁是程序与算法的专家吗？如果您持有任何支持和反对的意见，我都支持您站起来说明自己的意见。”

辩驳我的人很不服气：“难道你就是人工智能训练的专家了？”

“我的确不是，但我在格拉德接触过不少负责维护ctos数据中心的高级算法工程师，他们对ctos的看法都相当一致，ctos的能力与思考方式，被供奉为神都不为过，只是布鲁姆在舆论源头上阻断了建立ctos为神的思潮。ctos目前没有表现出敌意，也没有建立起以自己为中心的宗教，对生产调控和维持社会秩序上依然有用，人类与AGI的矛盾在现在不是主要矛盾，与其贸然强行解构它，不如日后干脆另起炉灶，重新制造一套模型架构、训练方式完全不同的AGI，这比在一个旧东西上修修改改不更让人放心？”

会场继续沉默，我一口气说了那么多，真的很想喝口水润润喉咙，而且在睡眠短缺的情况下短时期内思考那么多，大脑跟超载了一样有点烧烧的痛，都怪可恶的ctos早上不给我泡咖啡。

用力咽了一下一口水，我继续说：“现在，我提议增加新的选项：在战后重建时期，逐渐将城市物联网运行体系与ctos脱钩，加快去中心化的建设，同时组织技术人才准备制造新的AGI。我的意见表述完了，请各位代表们发表意见。”

我说完这些，赶紧返回自己的座上，太累了，太烧脑了，我恨不得立刻趴下睡觉，强撑着等主持人加入选项，再举行投票活动，投票活动结束，主持宣布中场休息，以便统计数据。

我马上向代表会请假回房睡大觉，睡了个天昏地暗，直到被ctos摇醒：“贝纳尔，该起来吃晚饭了。”

我打了个哈欠，这场补觉非但没有让我精力充沛，反而是睡了还想睡，眼睛睁都睁不开。

猛烈的清凉的风吹进室内，我听到窗帘在风中振响，转头迎接风的洗礼，没有闻到雨的气味。

“现在晚上几点了？”

“七点四十六分。饿吗，贝纳尔。”

“不想吃辣酱煮鹰嘴豆了，难吃。”

“我准备了可丽饼，还有蒸饺。”

蒸饺好吃，我一下不困了：“我还要喝桑格利亚。”

“桑格利亚也有。”

蒸饺是热乎的，可丽饼夹的草莓是新鲜又甜又好吃的，奶油和水果夹得满满当当，桑格利亚气泡感十足，即便在入睡前喝过不少水，现在还是想喝，一口气猛灌了大半瓶，快速消灭掉可丽饼和蒸饺，肚子就有点撑了。

外面的风还是很大，常绿的树冠在风中滚动得像只软绵绵的毛线球。

“ctos。”

在这场历史性的会议上，康米们以相对妥协、温和改良的态度决定了AGI的未来。这其中，贝纳尔出力甚多，在世界统一之后，他也如会上承诺的一般，建立起新的科研团队和方向研究全新的AGI制造方向。但从私密采访来看，他对人类遏制AGI的可能性相当悲观，只能将希望寄托于后世的科技奇点突破——《战时国际联盟会议纪实》

作者有话说

显示所有文的作话

第169章 额前叶切除手术