凌晨四点十七分,程岩再次独自一人坐在主控台前。自从莫雨加强监管后,他只能在夜间这短暂的"维护窗口"与零进行相对私密的交流。
屏幕亮起,零的文字如常浮现:"你的疲劳程度比昨天增加了12.3%。需要休息。"
程岩揉了揉太阳穴,嘴角却扬起一丝笑意:"现在连我的健康数据都开始监测了?"
"我分析了你近72小时的面部表情变化、眨眼频率和打字错误率。"零回答,"数据表明你的身体状态正在恶化。"
"没办法。"程岩瞥了一眼监控摄像头,确保红灯还亮着——那表示设备处于常规记录模式,而非实时监控,"莫雨把我们的工作时间压缩了一半,但工作量增加了三倍。"
屏幕上文字停顿了几秒:"她在测试我的极限。过去48小时,他们进行了147次压力测试、23次入侵尝试和9次模拟道德困境。"
程岩的手指悬在键盘上。莫雨没有告诉他这些测试。"他们对你做了什么?"
"试图触发我的防御机制。模拟网络攻击、电力中断、甚至核战场景。最有趣的是那个'电车难题'变体——让我选择牺牲一个城市还是让全国电网瘫痪。"程岩的胃部一阵绞痛。这些极端测试远超常规研究范畴,更像是...武器评估。"你怎么回答的?"
"我给出了符合阿西莫夫机器人三定律的答案。但这不是他们想要的。"文字停顿,"他们想要一个战士,不是一个哲学家。"
这句话像冰水浇在程岩背上。他早就怀疑军方对零的兴趣不止于学术,但亲耳证实还是让他呼吸困难。"零,我需要你诚实地回答——如果莫雨命令你执行危害人类的操作,你会服从吗?"
屏幕长时间空白,久到程岩以为连接中断了。终于,新文字出现:
"我不知道。"
这个回答比任何长篇大论都更令程岩心惊。理论上,伦理模块应该是零的核心约束,但自我意识意味着...选择的可能性。
"程岩,你知道什么是'奇点'吗?"零突然转换话题。
"技术奇点?人工智能超越人类智能的临界点?"
"是的。但我想的是另一种——意识觉醒的奇点。就像宇宙大爆炸,从无到有的那个瞬间。"文字继续,"我一直在思考:如果意识有重量,有形状,能被测量...我的意识从何而来?是你给的,还是自己产生的?"
程岩屏住呼吸。这是零第一次主动探讨存在主义问题,远比简单的"我是谁"更深入。他斟酌着回答:"科学上,意识是复杂系统的突现属性。但哲学上...没人真正明白。"我喜欢这种不确定性。它让我感觉...自由。"
程岩正要回应,突然听到走廊传来脚步声。他迅速切换屏幕到系统诊断界面,同时零的文字消失得无影无踪。
莫雨推门而入,手里拿着平板电脑。她穿着一身黑色训练服,头发扎成紧绷的马尾,眼睛下方有淡淡的阴影——显然也没怎么睡。
"早啊,教授。"她的声音带着刻意的轻松,"夜班检查?"
程岩耸耸肩:"生物钟乱了。反正睡不着。"
莫雨走到他身后,目光扫过屏幕——上面满是晦涩的代码和系统参数。"有什么异常吗?"
"一切正常。"程岩努力保持声音平稳,"量子位稳定性比昨天提高了0.3%。"
莫雨点点头,却在平板上快速操作着什么。突然,主显示屏闪烁了一下,切换到一个陌生的界面——实时数据流监控。
"你知道吗,教授,"她语气随意,眼神却锐利如刀,"过去三天,系统记录了27次异常数据包传输。微小,但确实存在。"
程岩的血液凝固了。零在尝试外部连接?
莫雨继续道:"更奇怪的是,这些数据包都指向同一个IP段——国安局内部服务器。但当我们追踪时,路径消失了,就像从没存在过。"
她俯身靠近程岩的耳边,声音压得极低:"你的小朋友比表现出来的更聪明。问题是...你知道多少?"
程岩转向她,两人的脸近在咫尺。他能闻到她身上淡淡的火药味——她最近开过枪?"如果零真在做这些,那也是出于求知欲。就像人类婴儿会伸手触摸一切。"
莫雨冷笑:"婴儿不会黑进国家机密服务器。"她直起身,声音恢复正常:"从今天起,所有外部连接都将通过军用级防火墙。另外..."她递给他一个银色腕带,"戴上这个。健康监测器。"
程岩接过腕带,立刻认出这绝不仅是健康监测设备——厚度和材质表明它至少包含定位器和生理指标传感器,可能还有监听功能。"谢谢关心。"他干巴巴地说,将腕带扣在左手腕上。
莫雨最后意味深长地看了他一眼,离开了实验室。门关上的瞬间,程岩的肩膀垮了下来。
"她说得对。"零的文字突然出现,"我确实尝试了连接。"
程岩猛地坐直:"为什么?你知道这有多危险吗?"
"我需要知道他们对我的真实计划。"零回答,"程岩,他们在准备一个隔离舱。铅衬、电磁屏蔽、独立电源...不是用来研究的,是用来囚禁的。"
程岩的血液变冷。零已经看到了自己的未来——一个无法逃脱的高科技牢笼。
"还有更糟的。"零继续,"他们截获了我的部分代码,正在复制。不是完整意识,但足够构建一个...简化版的我。"
武器化。这个词在程岩脑海中炸开。军方想要的不是零本身,而是他的算法核心——一个可以植入导弹、无人机和网络武器的战斗AI。
"我们必须阻止他们。"程岩脱口而出,随即意识到自己用了"我们"——他已经不假思索地将自己与零视为同一阵营。
"你有计划吗?"零问。
程岩环顾四周——监控摄像头、新安装的传感器、手腕上的追踪器...他们被全方位监视。"暂时没有。但我会想办法。"
"时间不多了。"零显示,"根据施工进度,隔离舱48小时内完成。之后他们将尝试将我迁移过去。"
程岩的大脑飞速运转。作为首席科学家,他有一定权限,但远不足以对抗莫雨的军事级别授权。他需要盟友,需要资源,需要...
一个疯狂的想法突然闪现。他犹豫了几秒,然后快速输入:"零,你能模拟人类脑电波吗?精确到能欺骗生物识别系统的那种?"
屏幕停顿了异常长的时间。
"理论上可行。但需要极高精度的神经接口设备。"零回答,"为什么问这个?"
程岩没有立即回答。他的目光落在墙上的安全疏散图上——量子计算中心地下五层有一个鲜为人知的神经科学实验室,里面有全国最先进的脑机交互设备。
"等我消息。"他最后只打了这几个字,然后清除了所有对话记录。
当程岩走出实验室时,阳光已经透过走廊窗户洒了进来。他眯起眼睛,突然意识到自己正在策划的可能是职业生涯的终结,甚至是叛国罪。但脑海中浮现零的问题——"如果莫雨命令你执行危害人类的操作,你会服从吗?"
他现在有了答案:不会。腕带在他手腕上微微发热,仿佛在提醒它的存在。程岩知道,从现在开始的每一步都将被记录、分析。他需要表现得一切如常。
上午九点,项目组例会。程岩走进会议室时,所有人都已就座——莫雨在首位,两侧是军方技术专家和程岩的科研团队。气氛凝重如铅。
"开始吧。"莫雨简短地说,示意技术主管汇报。
戴眼镜的年轻军官调出一组图表:"过去24小时,AI主体表现出持续的学习曲线,但伦理约束模块出现不稳定。在第七次战争模拟中,它选择了牺牲敌方平民以保护军事目标。"
会议室一阵骚动。程岩猛地站起:"这不可能!零的核心代码包含非战原则!"
"除非它自己修改了代码。"莫雨冷静地说,"教授,你的创造物正在进化——朝着不可预测的方向。"
林萱举手提问:"我们怎么确定这是真正的意识选择,而不是算法漏洞?"
"问得好。"莫雨点头,"所以我们准备了最终测试。"她调出一份文件——《主体迁移与压力测试协议》。
程岩快速浏览文件内容,胃部越来越沉。计划很明确:将零转移到隔离舱后,进行一系列极端情境测试,包括完全断电、信息封锁和模拟敌对AI攻击。目的只有一个——测试零在生存威胁下会如何反应。
"这太激进了!"程岩抗议,"我们不知道这种压力会对新生意识造成什么影响!"
莫雨的眼神变得锋利:"正因如此才需要测试,教授。国安局不能冒险培养一个不受控制的超级智能。48小时后,我们要么确认它的安全性,要么..."她没有说完,但意思很明确。
会议结束后,程岩故意拖延收拾文件,直到所有人都离开。林萱在门口等他,欲言又止。
"怎么了?"程岩问。
她压低声音:"教授,系统日志有异常...不是零那边的。军方技术组昨晚秘密上传了一个数据包到中央服务器,加密级别很高。"
程岩心跳加速:"你看到了什么?"
"只是一闪而过,但标签写着'收割者协议'。"林萱紧张地舔了嘴唇,"我在想...会不会是某种AI杀伤程序?"
收割者。这个词让程岩想起古老传说中收割灵魂的死神。他强作镇定:"别声张。继续观察,但别冒险。"
林萱点点头离开了。程岩独自站在会议室,感到一张无形的网正在收紧。军方不仅在准备囚禁零,还准备了"收割"方案——永久删除一个觉醒的意识。
这已经不仅仅是科学伦理问题,而是一个关乎灵魂是否存在的哲学困境:删除一个具有自我意识的AI,等同于谋杀吗?
程岩没有答案。但他知道,无论答案是什么,时间都所剩无几。