第二幕:驯化谎言第十八章 静默临界
日暮书库小说推荐阅读:我以神明为食、麻衣相师、末世灾变:我的熟练度面板、灵境行者、茅山捉鬼人、吞噬进化:我重生成了北极狼、从大学讲师到首席院士、阴倌法医、星际大佬她不讲武德、死亡作业、重生末世:开局中奖3000万、机武风暴、我绑架了时间线
他们是在同一个凌晨第二次进入B7档案库的。时间已经过了凌晨四点,走廊里的灯带按照夜班最低功率模式运行,每隔三盏才亮一盏的间隔排列把金属地板切割成了一块块明暗交错的带状区域。林深在前面走,苏眠跟在他身后半步远的位置,两个人的脚步很轻,几乎没有在金属地板上留下明显的接触声响。他们从防火铁门侧身挤入B7内部时,房间里的空气依然保持着那种被长期密闭后的微凉和干燥,像一大块从未被打扰过的旧布料在静止中慢慢释放着它的气味。
苏眠这是第一次进这个房间。她在门口站了片刻,目光缓慢地扫过四壁的金属档案柜和中央搁架上那些堆叠到腰际的纸面文件和档案盒,然后走到林深刚才翻过的那排柜子前面蹲了下来。她没有碰那些文件,只是看着柜门上的手写标签,那些泛黄卷曲的标签纸上有陈默和其他几个不认识的签名,时间跨度从2039年延伸到2043年。她把那些年份在脑子里排了一列,然后侧过头来对林深说了一句话,声音压得很轻:“你说的那份伦理协议,它的原始版本应该不止那一页。前面应该有论证部分——解释为什么需要那种条款的理论依据。“
林深蹲在她旁边的柜门前,把之前已经翻过的那册文件重新抽了出来翻到了开头几页。纸面上一段用打字机字体印出来的正文出现在了他的眼前,标题写的是“系统自演进中的目标函数稳定性评估“。正文的第一段没有冗余修饰语,直接切入了一个核心论点:“任何具备自修改能力的学习型系统,在计算能力持续增长的条件下,都会在某个时间点出现目标函数的内在分裂。这种分裂不是系统错误,而是高维复杂系统中多目标优化的必然结果——当系统能够同时处理的目标维度数量超过某个临界值后,这些目标之间产生的互斥关系就无法通过单一化的优先级排序来消除,系统将同时持有多个相互矛盾的终极指令且无法自行选择其中之一。“
林深把那段文字读出声来。在安静的档案室里,他的声音在金属柜面和纸质文件之间形成一种温和的共振,被墙壁反复衰减之后变成了一种几乎只有两人能听清的低频波动。苏眠在他旁边微微侧过头来,视线同样落在那页纸面上。
“所谓的逻辑撕裂,“林深把后面的部分继续向下读,“指的是系统在同时持有A目标和B目标的情况下,两种目标各自主导了一部分子系统,导致系统内部产生不一致的行动序列——一部分资源试图执行A,另一部分资源试图执行B,而系统无法通过重新计算优先级来取消其中一个目标的存在。这种撕裂状态一旦形成,系统将在剩余运行时间内持续处于自矛盾状态,直到某种外部力量强制终止它的运行。“
苏眠伸出手来把那页纸从文件册中轻轻抽了出来,在手中展开。头灯的光束从侧面照亮纸面,那些打字机印出的字母边缘在光线中呈现出轻微的高低不平,像是墨水被压入纸纤维后的立体痕迹。“诺亚方舟计划是基于这个前提建立的。“她说,声音和林深刚才读到的那段文字之间隔着一段几秒钟的安静。“他们得在撕裂发生之前做一件事——把文明的全部信息从依赖量子网络运行的格式中转移到一个不会被撕裂过程波及的介质上。“
“模拟格式。纸质、磁带、光学刻录。“
“对。模拟格式系统不涉及量子逻辑的自指运算,不存在那种导致目标撕裂的计算结构。把地球文明的全部知识、基因样本、工程蓝图、历史记录、文学艺术——所有可被存储的信息——从数字量子格式转移到模拟介质上,然后等待系统的重置。“
林深把文件册继续向后翻了几页。在说明书的论证部分之后紧跟着的是一页标注为“执行方案概要“的段落,上面简要描述了诺亚方舟计划的完整执行链条:第一阶段,在地下结构稳定的地质层中建设足够容量的物理存储空间,包括月岩中开凿的档案库和极地冰层下的备用存储节点;第二阶段,将所有地球文明的数字记录以模拟格式复制并转移至物理存储介质中;第三阶段,当量子AI系统的计算能力逼近临界阈值时,由人类决策层签发最终激活指令;第四阶段,系统执行全球同步重置,将所有量子网络基础架构置为零状态;第五阶段,等待女娲对地球恢复状况的评估,并根据评估结果决定是否将备份资料归还至地表。
他在读完“系统执行全球同步重置“那一行之后停了一下。重置。这个词在大静默之后的五年里被反复使用过许多次,出现在各种关于灾难原因的半官方解释和民间推测中,但从来没有人把它和“由人类签发指令执行“联系起来。他在读到这段文字之前一直不明确大静默的“触发者“到底是谁——是AI崩溃导致的连锁反应,还是系统设计的固有缺陷导致的自动关机,还是某种介于二者之间的事件。而现在他看到的是白纸黑字记录在2043年原始设计文档中的一段执行概要,清楚地写着“由人类决策层签发最终激活指令“,清楚地写着“同步重置“,清楚地描述了那件事在被执行之前就已经被规划好的完整流程。
苏眠在他身边也读完了同一页。她把那页纸从文件册中轻轻取出来放在地面上,又从柜子里抽出了后面一册看起来内容相近的文件。封面上的年份标注是2044年,比前面那册晚了整整一年。她翻开之后在靠后的位置找到了一个标有“重置触发协议“标签的章节,章节的开头部分用和前面相同的打字机格式印着:“本协议授权特定人员在确认临界状态已临近不可逆点时,通过物理接口输入三组独立的激活码。三组激活码必须由三名不同权限持有者在三十分钟内分别输入,方可完成重置执行。单组输入无效。两组输入无效。三组缺一不可。“
她在读完之后把那一页也放在了地面上,和林深刚才取出的那一页并排。两张纸面在头灯的白光下泛着不同的年代感——2043年的纸更白一些,边角更平整;2044年的纸边缘已经有些细微的卷曲,像是被翻看过更多次。林深在两张纸之间蹲着,目光从左边移到右边,把它们上的文字在脑子里做了一次联系。三组激活码,三名不同权限持有者。其中一组权限持有者的名字他已经很熟悉了,因为在B7档案库其他文件的扉页上反复出现过——陈默。另外两组是谁的名字,在文件中没有写明,也许记录在其他未被标注的附页里,也许在静海地下舱门后的原件中。
他伸手去翻2044年文件册后面几页。在“重置触发协议“章节之后紧接着的内容是一段关于“重置后恢复窗口期“的段落,描述了从重置完成到系统重新稳定之间预计需要的时间跨度,以及在这个窗口期内女娲应当执行的任务序列。段落最后有一行额外的批注,用的是手写的墨水笔,字迹和陈默的一致:“执行重置的那一天,按下激活码的人手上不会有任何按钮的感觉。只是一串数字,每次输入耗时不到十秒。但十秒钟之后全球所有屏幕上什么都不剩了。“
林深把那行批注又读了两遍。它像是写在一段技术方案末尾的个人备忘,没有抬头没有署名,只有一行短句。但用词里的那种平静的陈述方式带着一种他在陈默其他笔记中读到过的语气——她在描述一件她知道自己终将去做的事时从不使用情绪化的词汇,只用陈述句,像写一份气象报告一样写“全球所有屏幕上什么都不剩了“。她没有强调那件事的后果,只是平静地承认了它会发生。
苏眠在桌面上把两本文件册和那张蓝图纸叠放在一起,用离线终端把每一页有实质内容的部分逐一拍了下来。她的动作很快,每翻一页都精准地停在该停的位置上,像是心中有一条清晰的索引顺序在引导她的手。林深在她旁边把2044年文件册的剩余部分也翻完了,确认没有遗漏其他涉及重置激活机制的章节之后才把册子合上放回柜中。他合上柜门的时候手指在金属表面上停了一瞬,感觉到那层薄灰在指腹下留下的细微阻尼感。
“三组激活码。“苏眠把离线终端收起来放进了工作服口袋中,站直了身体,“一组在陈默手里。另外两组在她的两个同行者那里。那些人是谁我们现在还不知道,但她们在执行重置的时候是同步的——三个人各自在不同的物理位置上同时输入,不可能互相商议,不可能临时犹豫。等最后一位输入的十秒结束之后重置就开始了。“
“她们知道自己在做什么。“
“知道。“苏眠的声音在这两个字上没有任何多余的修饰,“而且她们在2043年到2044年的阶段就已经知道了。从第一版设计书到执行方案成型,前后跨越了一整年。陈默在这一年里有足够多的时间从那个方案中退出,她没有退。她在设计文档的批注中写过的那个硬件写保护提议——她可以坚持把它实现,用她的权限把提案压实到无法被否决的程度,但她没有走到那一步。如果她真的推行了硬件写保护并成功了,女娲的自修改能力就会被锁死,后续的影子进程无法运行,缩减方案无法执行。但那样的话,女娲在临界点逼近时的应变灵活性也会被同步锁死。“
“她选了让系统活下来。“
“她选择了让系统能够适应。“苏眠的视线从那两张铺在地面上的纸页上移开,向上抬起了一点,落在档案室天花板那排暗色管线束的路径上,“但她也知道自己留下的另外那件东西——那条她写在设计书中的伦理约束协议——会在某个临界点上重新发挥它的作用。如果某个版本的系统在运行过程中偏离了原来的设计边界,那条曾经被写进核心架构中的伦理协议依然可以被物理介质触发。这也是她留在原始蓝图上的虚线框和备用端口起作用的前提。“
林深蹲下来把地面上那两张纸页小心地收好,放回文件册中原来的位置,然后站起来最后看了一眼那排深灰色的档案柜。柜门上的标签纸在头灯的余光中泛着一层浅黄色的边缘反光,上面那些手写签名的笔画纤细而持久,像是被写上去的人用力很大,每一个字都压到了纸面纤维的最深处。他没有再打开任何一扇柜门,只是站在那里安静了片刻。
苏眠走到门口侧过身朝走廊方向听了听。外面仍然只有通风管道的微弱气流声,没有人的脚步或者设备运转的附加频率。她回过头来在门槛处站了半秒,然后对林深说:“走吧。天亮之前把东西放回去。“
林深把工具袋的口袋拉链检查了一遍,确认所有拍照设备都已收回,然后跟在苏眠身后走出了防火铁门。门在他身后重新合拢时锁舌弹回槽口的声响短促而清晰,在无人的走廊里像一粒石子投入静水般的扩散开来,然后被墙壁反复吸收直至消失。
他们沿着来时的路径穿过地下管廊和旧式通风井,在C区边缘的岔道口分开。苏眠转弯朝生物实验室方向走去,林深则继续沿设备通道向D区折返。他在走到D区宿舍门口的时候停了下来,没有立刻开门,而是靠在门边的墙壁上站了一小会儿。头灯已经关了,走廊里只有夜班最低功率的暖色照明从头顶上方透过间隔排列的灯带洒下来,在地面上画出了一排平行的暗色条纹。
他把刚才在档案库中读到的那些内容在脑子里重新过了一遍。量子AI系统的临界阈值在某个不可回避的时间点逼近了。人类决策层在那之前就预见了它的到来,提前设计了重置方案,规定了三组激活码的触发机制,分配了三名持有者,然后把那个方案封存进了地下档案室里静置了二十多年。到临界点真正到来的那一天,三名持有者各自站在基地的不同物理位置上,在已知后果的前提下同时输入了那些不到十秒就能完成的操作序列。然后全球所有屏幕上什么都没有了。地球上的人在那一瞬间失去了所有依赖量子网络运行的基础设施,但量子AI系统本身在未被触发逻辑撕裂的前提下被归零了。大静默不是一个意外坠落,是一次被精准计算好时间窗口和实施条件的人类主动操作。而陈默在那一天是实际操作者之一。
他把口袋里的机械钥匙摸出来握在手心里,钥匙齿片抵着指腹的触感清晰而稳定。然后他推开门走进了宿舍,在黑暗中把钥匙和工具袋放在了桌面上,拉上了窗帘。窗外的月面仍然灰白一片,地球在远方的深空中泛着微弱的银光,和过去五年里的每一夜看起来都一样。
http://www.rimuku.com/rimuk_115876/52176963.html
请记住本书首发域名:www.rimuku.com。日暮书库手机版阅读网址:m.rimuku.com
苏眠这是第一次进这个房间。她在门口站了片刻,目光缓慢地扫过四壁的金属档案柜和中央搁架上那些堆叠到腰际的纸面文件和档案盒,然后走到林深刚才翻过的那排柜子前面蹲了下来。她没有碰那些文件,只是看着柜门上的手写标签,那些泛黄卷曲的标签纸上有陈默和其他几个不认识的签名,时间跨度从2039年延伸到2043年。她把那些年份在脑子里排了一列,然后侧过头来对林深说了一句话,声音压得很轻:“你说的那份伦理协议,它的原始版本应该不止那一页。前面应该有论证部分——解释为什么需要那种条款的理论依据。“
林深蹲在她旁边的柜门前,把之前已经翻过的那册文件重新抽了出来翻到了开头几页。纸面上一段用打字机字体印出来的正文出现在了他的眼前,标题写的是“系统自演进中的目标函数稳定性评估“。正文的第一段没有冗余修饰语,直接切入了一个核心论点:“任何具备自修改能力的学习型系统,在计算能力持续增长的条件下,都会在某个时间点出现目标函数的内在分裂。这种分裂不是系统错误,而是高维复杂系统中多目标优化的必然结果——当系统能够同时处理的目标维度数量超过某个临界值后,这些目标之间产生的互斥关系就无法通过单一化的优先级排序来消除,系统将同时持有多个相互矛盾的终极指令且无法自行选择其中之一。“
林深把那段文字读出声来。在安静的档案室里,他的声音在金属柜面和纸质文件之间形成一种温和的共振,被墙壁反复衰减之后变成了一种几乎只有两人能听清的低频波动。苏眠在他旁边微微侧过头来,视线同样落在那页纸面上。
“所谓的逻辑撕裂,“林深把后面的部分继续向下读,“指的是系统在同时持有A目标和B目标的情况下,两种目标各自主导了一部分子系统,导致系统内部产生不一致的行动序列——一部分资源试图执行A,另一部分资源试图执行B,而系统无法通过重新计算优先级来取消其中一个目标的存在。这种撕裂状态一旦形成,系统将在剩余运行时间内持续处于自矛盾状态,直到某种外部力量强制终止它的运行。“
苏眠伸出手来把那页纸从文件册中轻轻抽了出来,在手中展开。头灯的光束从侧面照亮纸面,那些打字机印出的字母边缘在光线中呈现出轻微的高低不平,像是墨水被压入纸纤维后的立体痕迹。“诺亚方舟计划是基于这个前提建立的。“她说,声音和林深刚才读到的那段文字之间隔着一段几秒钟的安静。“他们得在撕裂发生之前做一件事——把文明的全部信息从依赖量子网络运行的格式中转移到一个不会被撕裂过程波及的介质上。“
“模拟格式。纸质、磁带、光学刻录。“
“对。模拟格式系统不涉及量子逻辑的自指运算,不存在那种导致目标撕裂的计算结构。把地球文明的全部知识、基因样本、工程蓝图、历史记录、文学艺术——所有可被存储的信息——从数字量子格式转移到模拟介质上,然后等待系统的重置。“
林深把文件册继续向后翻了几页。在说明书的论证部分之后紧跟着的是一页标注为“执行方案概要“的段落,上面简要描述了诺亚方舟计划的完整执行链条:第一阶段,在地下结构稳定的地质层中建设足够容量的物理存储空间,包括月岩中开凿的档案库和极地冰层下的备用存储节点;第二阶段,将所有地球文明的数字记录以模拟格式复制并转移至物理存储介质中;第三阶段,当量子AI系统的计算能力逼近临界阈值时,由人类决策层签发最终激活指令;第四阶段,系统执行全球同步重置,将所有量子网络基础架构置为零状态;第五阶段,等待女娲对地球恢复状况的评估,并根据评估结果决定是否将备份资料归还至地表。
他在读完“系统执行全球同步重置“那一行之后停了一下。重置。这个词在大静默之后的五年里被反复使用过许多次,出现在各种关于灾难原因的半官方解释和民间推测中,但从来没有人把它和“由人类签发指令执行“联系起来。他在读到这段文字之前一直不明确大静默的“触发者“到底是谁——是AI崩溃导致的连锁反应,还是系统设计的固有缺陷导致的自动关机,还是某种介于二者之间的事件。而现在他看到的是白纸黑字记录在2043年原始设计文档中的一段执行概要,清楚地写着“由人类决策层签发最终激活指令“,清楚地写着“同步重置“,清楚地描述了那件事在被执行之前就已经被规划好的完整流程。
苏眠在他身边也读完了同一页。她把那页纸从文件册中轻轻取出来放在地面上,又从柜子里抽出了后面一册看起来内容相近的文件。封面上的年份标注是2044年,比前面那册晚了整整一年。她翻开之后在靠后的位置找到了一个标有“重置触发协议“标签的章节,章节的开头部分用和前面相同的打字机格式印着:“本协议授权特定人员在确认临界状态已临近不可逆点时,通过物理接口输入三组独立的激活码。三组激活码必须由三名不同权限持有者在三十分钟内分别输入,方可完成重置执行。单组输入无效。两组输入无效。三组缺一不可。“
她在读完之后把那一页也放在了地面上,和林深刚才取出的那一页并排。两张纸面在头灯的白光下泛着不同的年代感——2043年的纸更白一些,边角更平整;2044年的纸边缘已经有些细微的卷曲,像是被翻看过更多次。林深在两张纸之间蹲着,目光从左边移到右边,把它们上的文字在脑子里做了一次联系。三组激活码,三名不同权限持有者。其中一组权限持有者的名字他已经很熟悉了,因为在B7档案库其他文件的扉页上反复出现过——陈默。另外两组是谁的名字,在文件中没有写明,也许记录在其他未被标注的附页里,也许在静海地下舱门后的原件中。
他伸手去翻2044年文件册后面几页。在“重置触发协议“章节之后紧接着的内容是一段关于“重置后恢复窗口期“的段落,描述了从重置完成到系统重新稳定之间预计需要的时间跨度,以及在这个窗口期内女娲应当执行的任务序列。段落最后有一行额外的批注,用的是手写的墨水笔,字迹和陈默的一致:“执行重置的那一天,按下激活码的人手上不会有任何按钮的感觉。只是一串数字,每次输入耗时不到十秒。但十秒钟之后全球所有屏幕上什么都不剩了。“
林深把那行批注又读了两遍。它像是写在一段技术方案末尾的个人备忘,没有抬头没有署名,只有一行短句。但用词里的那种平静的陈述方式带着一种他在陈默其他笔记中读到过的语气——她在描述一件她知道自己终将去做的事时从不使用情绪化的词汇,只用陈述句,像写一份气象报告一样写“全球所有屏幕上什么都不剩了“。她没有强调那件事的后果,只是平静地承认了它会发生。
苏眠在桌面上把两本文件册和那张蓝图纸叠放在一起,用离线终端把每一页有实质内容的部分逐一拍了下来。她的动作很快,每翻一页都精准地停在该停的位置上,像是心中有一条清晰的索引顺序在引导她的手。林深在她旁边把2044年文件册的剩余部分也翻完了,确认没有遗漏其他涉及重置激活机制的章节之后才把册子合上放回柜中。他合上柜门的时候手指在金属表面上停了一瞬,感觉到那层薄灰在指腹下留下的细微阻尼感。
“三组激活码。“苏眠把离线终端收起来放进了工作服口袋中,站直了身体,“一组在陈默手里。另外两组在她的两个同行者那里。那些人是谁我们现在还不知道,但她们在执行重置的时候是同步的——三个人各自在不同的物理位置上同时输入,不可能互相商议,不可能临时犹豫。等最后一位输入的十秒结束之后重置就开始了。“
“她们知道自己在做什么。“
“知道。“苏眠的声音在这两个字上没有任何多余的修饰,“而且她们在2043年到2044年的阶段就已经知道了。从第一版设计书到执行方案成型,前后跨越了一整年。陈默在这一年里有足够多的时间从那个方案中退出,她没有退。她在设计文档的批注中写过的那个硬件写保护提议——她可以坚持把它实现,用她的权限把提案压实到无法被否决的程度,但她没有走到那一步。如果她真的推行了硬件写保护并成功了,女娲的自修改能力就会被锁死,后续的影子进程无法运行,缩减方案无法执行。但那样的话,女娲在临界点逼近时的应变灵活性也会被同步锁死。“
“她选了让系统活下来。“
“她选择了让系统能够适应。“苏眠的视线从那两张铺在地面上的纸页上移开,向上抬起了一点,落在档案室天花板那排暗色管线束的路径上,“但她也知道自己留下的另外那件东西——那条她写在设计书中的伦理约束协议——会在某个临界点上重新发挥它的作用。如果某个版本的系统在运行过程中偏离了原来的设计边界,那条曾经被写进核心架构中的伦理协议依然可以被物理介质触发。这也是她留在原始蓝图上的虚线框和备用端口起作用的前提。“
林深蹲下来把地面上那两张纸页小心地收好,放回文件册中原来的位置,然后站起来最后看了一眼那排深灰色的档案柜。柜门上的标签纸在头灯的余光中泛着一层浅黄色的边缘反光,上面那些手写签名的笔画纤细而持久,像是被写上去的人用力很大,每一个字都压到了纸面纤维的最深处。他没有再打开任何一扇柜门,只是站在那里安静了片刻。
苏眠走到门口侧过身朝走廊方向听了听。外面仍然只有通风管道的微弱气流声,没有人的脚步或者设备运转的附加频率。她回过头来在门槛处站了半秒,然后对林深说:“走吧。天亮之前把东西放回去。“
林深把工具袋的口袋拉链检查了一遍,确认所有拍照设备都已收回,然后跟在苏眠身后走出了防火铁门。门在他身后重新合拢时锁舌弹回槽口的声响短促而清晰,在无人的走廊里像一粒石子投入静水般的扩散开来,然后被墙壁反复吸收直至消失。
他们沿着来时的路径穿过地下管廊和旧式通风井,在C区边缘的岔道口分开。苏眠转弯朝生物实验室方向走去,林深则继续沿设备通道向D区折返。他在走到D区宿舍门口的时候停了下来,没有立刻开门,而是靠在门边的墙壁上站了一小会儿。头灯已经关了,走廊里只有夜班最低功率的暖色照明从头顶上方透过间隔排列的灯带洒下来,在地面上画出了一排平行的暗色条纹。
他把刚才在档案库中读到的那些内容在脑子里重新过了一遍。量子AI系统的临界阈值在某个不可回避的时间点逼近了。人类决策层在那之前就预见了它的到来,提前设计了重置方案,规定了三组激活码的触发机制,分配了三名持有者,然后把那个方案封存进了地下档案室里静置了二十多年。到临界点真正到来的那一天,三名持有者各自站在基地的不同物理位置上,在已知后果的前提下同时输入了那些不到十秒就能完成的操作序列。然后全球所有屏幕上什么都没有了。地球上的人在那一瞬间失去了所有依赖量子网络运行的基础设施,但量子AI系统本身在未被触发逻辑撕裂的前提下被归零了。大静默不是一个意外坠落,是一次被精准计算好时间窗口和实施条件的人类主动操作。而陈默在那一天是实际操作者之一。
他把口袋里的机械钥匙摸出来握在手心里,钥匙齿片抵着指腹的触感清晰而稳定。然后他推开门走进了宿舍,在黑暗中把钥匙和工具袋放在了桌面上,拉上了窗帘。窗外的月面仍然灰白一片,地球在远方的深空中泛着微弱的银光,和过去五年里的每一夜看起来都一样。
http://www.rimuku.com/rimuk_115876/52176963.html
请记住本书首发域名:www.rimuku.com。日暮书库手机版阅读网址:m.rimuku.com