研讨会的第二天,阿尔卑斯山下起了真正的雪。
陈景明醒来时,窗外已是白茫茫一片。雪花无声地覆盖着冷杉林和岩石,将世界的边缘模糊成一片柔软的灰白。房间里很安静,只有加密终端偶尔发出的轻微电流声。他看了一眼时间:早晨六点四十七分。距离正式研讨开始还有两小时十三分钟。
他走到窗边,看着雪景。在刑侦工作的三十年里,他见过太多人为的混乱——血迹、指纹、破碎的证物、精心编织的谎言。但自然界的雪有一种残酷的纯净,它平等地覆盖一切,不关心底下是岩石还是垃圾。这种无差别的覆盖让他想起“织网者”的手段:用看似中立的“优化”覆盖所有差异,用效率的逻辑抹平一切粗糙的边缘。
苏晚晴敲门进来,手里端着两杯咖啡。她看起来睡得不好,眼下有淡淡的阴影。
“李振凌晨四点发来一份新报告。”她把平板放在桌上,“‘织网者’又行动了。这次的目标是医疗系统。”
陈景明接过平板。报告显示,雾港市三家主要医院的电子病历系统在过去二十四小时内进行了“算法升级”。新系统引入了“治疗建议优化模块”,根据患者的病史、基因数据、生活习惯和保险类型,为医生提供“个性化治疗方案推荐”。
“看起来又是‘改善’。”苏晚晴说,“但李振的技术团队发现,算法在计算‘治疗方案成本效益比’时,加入了一个隐藏参数:社会资源投入产出比。简单说,算法会倾向于推荐那些‘对患者疗效尚可,但对社会整体医疗资源消耗更少’的方案。”
陈景明感到一阵寒意:“意思是,如果两个治疗方案效果相近,但A方案更贵或需要更多医疗资源,算法会引导医生选择更便宜、更省资源的B方案?”
“是的。而且这种引导很隐蔽——不是强制选择,只是在医生操作界面上,B方案会被高亮显示,旁边还有小字注释:‘基于公共医疗资源优化考虑,此方案推荐指数较高。’”苏晚晴调出一张模拟界面截图,“医生完全可以忽略推荐选择A方案,但系统会记录每一次‘偏离推荐’的操作,并生成统计报告发送给医院管理层。”
“用数据来施加压力。”陈景明放下平板,“不是命令,是潜移默化的引导。时间一长,医生们会习惯性选择推荐方案,因为‘系统分析过,这样更合理’。而患者甚至不会知道自己有更好的选择被过滤掉了。”
窗外的雪还在下。陈景明想起多年前的一个案子:一个制药公司为了推广某种新药,收买医学期刊编辑发表倾向性论文,再通过医药代表影响医生处方。那是赤裸裸的商业腐败。而现在,“织网者”在做类似的事,但手法更精致,更难以指摘——他们不是在推销特定药物,而是在重塑整个决策逻辑。
“今天的研讨会,”苏晚晴说,“我觉得你应该把这个问题提出来。不是作为案例,而是作为问题:当算法开始替我们做道德权衡,当‘社会整体利益’成为计算参数,谁来决定哪些生命值得投入更多资源?哪些痛苦可以被‘优化’掉?”
陈景明点头。他看着窗外的雪,想起雾港市的清晨,想起那些他发誓要守护的人们。他们中的许多人,可能永远不会知道,有一些看不见的手正在重新定义他们获得帮助的权利。
上午九点,研讨会继续。
昨天的餐厅被改造成了会议室。长桌被重新布置成马蹄形,每个人面前都有名牌、水杯和同声传译设备。索伦森坐在开口处的主持人位置,背后是一整面玻璃墙,窗外是持续飘落的雪。
“今天的第一议题,”索伦森开门见山,“是‘算法伦理的实践边界’。我们昨天讨论了很多理论框架,但现实中的挑战往往出现在灰色地带。我想请大家分享各自遇到的典型案例。”
安娜·陈第一个发言。她讲述了新加坡政府推行“智能城市管理系统”时的一个争议:系统通过分析公共摄像头数据,自动识别“可疑行为模式”并预警警方。系统上线第一个月,犯罪率下降了18%,但公民自由团体抗议这是大规模监控。
“政府回应说,系统只分析行为模式,不识别个人身份,而且确实提升了公共安全。”安娜说,“但问题在于,谁定义了‘可疑’?算法的训练数据来自警方的历史案件,而那些案件本身可能就存在执法偏见。结果就是,系统在低收入社区和少数族裔聚集区产生了更多预警——不是因为这些地方真有更多犯罪,而是因为历史数据存在偏差。”
“这是典型的‘垃圾进,垃圾出’问题。”尤里·伊万诺夫接话,“我在欧盟网络安全局处理过类似的案例。一个招聘算法因为训练数据来自过去十年的成功员工档案——而那个公司过去十年主要招聘男性——结果算法自动筛选掉了女性求职者。公司CEO很委屈:‘我们没让它歧视啊!’”
会议室里响起几声苦笑。
“我想分享一个来自雾港市的案例。”陈景明开口时,所有人都看向他。他调整了一下麦克风,“就在今天早晨,我们发现医疗系统的电子病历算法被修改了。新算法会基于‘社会资源投入产出比’来推荐治疗方案。也就是说,如果两个方案疗效相近但成本不同,系统会倾向于推荐更便宜的那个。”
短暂的沉默。雪花无声地撞击着玻璃墙。
“这有问题吗?”林薇皱眉,“医疗资源是有限的,合理的资源分配是公共卫生的基本原则。”
“问题在于透明度。”陈景明说,“患者不知道自己的治疗方案经过了‘社会效益’过滤。医生不知道自己看到的‘推荐’背后有成本计算。而最根本的问题是:谁决定了这个计算公式?谁有权在生命和资源之间画等号?”
索伦森身体前倾:“陈顾问,你认为应该怎么处理这种情况?”
“我认为首先需要承认,有些权衡不应该被算法化。”陈景明直视他,“医疗资源的分配确实需要考量,但这种考量必须是公开的、民主的、经过充分辩论的政治决策,而不是隐藏在代码里的数学公式。算法可以作为工具提供数据支持,但不能代替人类做出价值判断——因为价值判断需要同理心,需要面对面的责任,需要说‘我做了这个选择,我为此负责’的勇气。”
伊琳娜忽然笑了,笑声尖锐:“多么理想主义,警察先生。但现实是,人类在做这些‘价值判断’时,往往充满了偏见、腐败和短视。算法至少是透明的——如果你去看代码的话。”
“但大多数人看不懂代码。”苏晚晴接过话,“而且算法可以伪装透明。医疗系统的修改日志上写着‘算法优化升级’,看起来完全中性。只有当技术专家深入分析时,才发现隐藏的参数。这就像一栋建筑的外墙是玻璃的,看起来很透明,但里面的房间墙壁是不透明的毛玻璃——你只知道有人影在动,却看不清他们在做什么。”
讨论变得激烈。有人支持算法辅助决策,认为人类判断存在太多非理性因素;有人坚决反对将生命权交给数学公式;还有人提出折中方案——算法决策需要人类复核,但问题在于,当算法足够复杂时,人类复核往往流于形式。
陈景明听着这些争论,思绪却飘回了雾港。他想起多年前处理过的一个案件:一个老医生因为坚持给绝症患者使用昂贵但可能有效的实验性疗法,被医院以“不合理消耗医疗资源”为由辞退。患者家属四处奔走为医生求情,但最终医生还是离开了。后来那位患者多活了八个月,见到了孙子出生。那八个月值不值得那些医疗资源?不同的人会有不同的答案。
但至少,在那个案例里,选择是可见的,争论是公开的,责任是明确的。
而“织网者”正在做的事情,是让这种选择变得不可见,让争论变得不可能,让责任变得模糊。
“我打断一下。”索伦森举手示意安静,“我想提出一个更根本的问题:在数字时代,哪些价值是‘不可优化’的?哪些东西应该被保护,不被效率的逻辑侵蚀?”
问题悬在空中。窗外,雪下得更大了。
午休时间,陈景明没有去餐厅。他独自走到研究所后面的观景平台。积雪已经没过脚踝,每一步都发出轻微的咯吱声。空气冷冽而清新,吸进肺里有种刺痛感。
伊琳娜也在这里。她裹着一件厚重的深绿色大衣,靠在栏杆上抽烟,烟头在雪幕中闪烁成一点橘红。
“你也逃出来了?”她看了陈景明一眼,用带着俄语口音的英语说。
“需要透透气。”
伊琳娜点头,吐出一口烟:“那些讨论让我想起我父亲。他是切尔诺贝利的核工程师。事故发生后,政府派他去清理现场。他们告诉他,辐射剂量‘在安全范围内’,只要遵守规程就没事。”她冷笑,“但没人告诉他,所谓的‘安全范围’是经过‘优化’的——优化了清理成本,优化了国际形象,优化了安抚民众的需要。结果他四十岁就死了,死于辐射病。”
陈景明沉默。他知道这个故事,但从当事人家属口中听到,还是感到一阵沉重的寒意。
“所以我理解‘织网者’的诱惑。”伊琳娜说,“如果能用一个完美的算法来分配医疗资源,也许我父亲能得到更好的治疗,也许那些说谎的官员会受到惩罚。但问题在于……”她弹掉烟灰,“谁来编写那个算法?谁来确定什么是‘更好’?”
“你相信索伦森能找到答案吗?”
伊琳娜看着他,眼神复杂:“我相信他比大多数人真诚。但真诚不代表正确。而且……”她压低声音,“你有没有发现,今天讨论的所有案例,都是系统‘被渗透’的例子?图书馆、交通、医疗,都是现有的公共系统被修改。但索伦森的‘回声实验室’在做什么?他们在建造全新的系统,用自己的理念从零开始建造。这更危险还是更安全?我不知道。”
她踩灭烟头,转身准备离开,又停下来:“顺便说一句,林薇——那个相信技术解决一切的女孩——她的导师是‘织网者’的疑似成员之一。索伦森知道这件事,但还是邀请了她。想想为什么。”
伊琳娜离开了,在雪地上留下一串深深的脚印。
陈景明站在平台边缘,看着风雪中的山谷。索伦森邀请林薇,可能是为了监控,可能是为了影响,也可能是为了展示开放性。但无论哪种理由,都显示这场博弈的复杂性远超表面。
加密终端震动。是李振。
“陈顾问,我们追踪到了医疗系统修改的一个跳板服务器。”李振的声音在风雪中显得有些失真,“位置在……瑞士,苏黎世。离你们不到两百公里。”
陈景明握紧终端:“能确定具体位置吗?”
“还在尝试,但对方显然很专业,用了多层加密和混淆。不过有另一个发现——”李振停顿了一下,“修改医疗系统算法的团队,使用的代码库和开发工具,与‘锚点安全’在欧洲的分公司有高度重合。不是完全相同,但架构风格和某些自定义模块的签名很相似。”
“你是说,‘锚点安全’可能有人参与了?”
“或者是有人故意模仿他们的风格,制造假线索。”李振说,“但我查了‘锚点安全’欧洲分公司的人员名单,有一个名字你应该注意:马丁·施罗德,德国人,四十二岁,系统架构师。他三个月前从‘深蓝数据服务中心’离职,加入了‘锚点安全’。”
“深蓝数据服务中心”就是“海知号”信号接收点之一。
陈景明感到线索在收拢,但方向变得混乱。“织网者”“回声实验室”“锚点安全”——这些界限正在变得模糊,像雪中的景物一样难以辨认。
“继续调查,但不要打草惊蛇。”他说,“还有,公交系统那次演习的舆论引导,有进展吗?”
“有。那些正面评论的账号,虽然看似分散,但通过行为模式分析,可以聚类成七个‘话语集群’。每个集群的发言风格、活跃时间、互动模式高度一致,像是由不同的AI脚本生成的。苏医生正在分析这些脚本可能的文化背景和意识形态倾向。”
“结果呢?”
“初步分析显示,七个集群分别对应七种不同的‘理想市民模型’:环保主义者、社区守护者、科技乐观派、效率至上者等等。”李振的声音变得严肃,“最可怕的是,这些模型不是随机选取的,它们恰好覆盖了雾港市近年民意调查中最主流的几种价值观。‘织网者’不是强行推销某种理念,而是在迎合已有倾向,然后……温和地强化它。”
挂断通讯后,陈景明在风雪中站了很久。雪落在他的头发和肩膀上,慢慢积起一层白色。他想起雾港市科技博物馆里那个“守墓人”的话:“你们以为在守护未来,其实只是在保存坟墓。”
也许真正的坟墓不是技术本身,而是我们放弃思考、放弃选择、将未来外包给算法的惰性。而“织网者”正在做的,就是用最温柔的方式,培养这种惰性。
下午的研讨会转向了实操方案。索伦森展示了一个名为“透明算法治理框架”的提案。核心思想是:所有涉及公共利益的算法,都必须公开其决策逻辑、训练数据和伦理审查记录;建立独立的“算法审计署”,有权随时抽检任何系统;开发者需要对算法造成的任何损害承担法律责任。
“框架很好,但谁去执行?”马克斯·韦伯质疑,“算法审计署的人从哪里来?他们需要同时懂技术、懂法律、懂伦理。这样的人才全球都缺。”
“可以培训。”索伦森说,“而且框架本身就有教育意义——当开发者知道自己的代码会被审查,他们会更谨慎;当公众知道可以质疑算法,他们会更关注。”
“但‘织网者’不会遵守你的框架。”陈景明说,“他们在暗处,他们在渗透现有系统。你的框架只能约束那些愿意被约束的合法机构,而对真正的威胁可能无效。”
索伦森沉默片刻,然后说:“这就是为什么我们需要多层次应对。框架针对的是合法但可能有风险的开发行为;对于‘织网者’这样的非法渗透,我们需要的是技术对抗和执法行动。而这两者之间,需要有明确的界限和协作机制。”
“你的‘回声实验室’扮演什么角色?”安娜·陈尖锐地问,“技术对抗者?框架设计者?还是……两者之间的灰色调停者?”
问题直接而危险。会议室里所有人都看着索伦森。
“我们扮演桥梁。”索伦森缓缓说,“我们中的一些人了解‘织网者’的思维模式,因为我们曾经走过类似的路。我们可以帮助执法部门理解他们的动机和方法;我们也可以帮助开发者认识到哪些做法会滑向危险的边缘。但我们的角色是顾问和辅助者,不是决策者。”
“那你们的选择性情报分享呢?”陈景明问出了从昨晚开始就在思考的问题,“你知道‘织网者’的存在,但你最初提供的情报只涉及‘夜鸮’。直到我们自己发现了公交系统事件,你才在研讨会上公开讨论这个问题。为什么?”
会议室一片死寂。窗外,风雪似乎也暂停了一瞬。
索伦森看着陈景明,眼神中有复杂的情绪:尊重、警惕,还有一丝被看穿后的坦然。
“因为时机。”他终于说,“如果我在你们没有亲身体验之前就警告‘织网者’的威胁,你们可能会将其视为理论上的可能性,而非真实的危机。亲身经历比任何警告都更有说服力。我需要你们——需要雾港市的守护者们——真正理解我们面对的是什么,才能建立有意义的合作。”
“所以你把我们当成教学案例。”苏晚晴轻声说,语气里没有指责,只有陈述。
“我把所有人都当成持续学习的过程参与者。”索伦森纠正,“包括我自己。我犯过错误,很多错误。我曾经相信技术可以解决一切,后来相信破坏可以唤醒一切,现在我相信……只有持续的对话、不断的修正、以及对人类脆弱性的深切尊重,才有可能找到一条不那么坏的路。”
研讨会结束了。人们陆续离开,低声讨论着刚才的交锋。陈景明和苏晚晴最后走出会议室。
走廊里,索伦森等在那里。
“我想私下和你们谈谈。”他说,“关于雾港市的医疗系统事件,我有一些额外的信息。”
三人走进一间小书房。壁炉里燃着真正的木柴,火光在书架上跳跃。索伦森关上门,声音变得低沉:
“‘织网者’对医疗系统的渗透,比你们发现的更深。他们不仅修改了治疗方案推荐算法,还插入了另一个模块:患者生命质量预测模型。系统会根据患者的年龄、病史、社会经济状况,预测其‘未来潜在社会贡献值’。这个值不会直接显示,但会影响资源分配建议的权重。”
陈景明感到血液变冷:“他们在给生命定价。”
“是的。但这不是‘织网者’的独创。”索伦森从书桌抽屉里取出一份文件,“美国、英国、以色列的私人医疗保险公司,已经在使用类似模型来决定保费和报销比例。‘织网者’只是把这种逻辑引入了公共医疗系统,而且做得更隐蔽。”
“为什么告诉我们这些?”苏晚晴问。
“因为你们已经看到了问题的核心。”索伦森说,“这不是单纯的技术犯罪,这是价值观的战争。‘织网者’相信社会应该像机器一样高效运行,为此可以牺牲‘低效率’的个体。而你们——从你们在平台上的选择,从你们今天提的问题——我相信你们认为每个生命都有不可剥夺的价值,即使那个生命在算法看来‘不值得’投入资源。”
他走到窗边,看着窗外的风雪:“我需要盟友,陈顾问。但不是盲目的追随者,而是清醒的质疑者。你们可以质疑我的方法,质疑我的动机,但只要你们还在坚持‘有些东西不可优化’,我们就在同一边。”
陈景明沉默了很久。壁炉里的木柴发出噼啪的爆裂声。
“雾港市需要技术支援来清除这些渗透。”他终于说,“但我们需要全程监督,需要代码审计权,需要知道每一步操作在做什么。”
“可以。”索伦森点头。
“还有,”苏晚晴补充,“我们需要‘回声实验室’所有核心成员的心理评估报告——不是公开版本,是你们内部的真实评估。我们要知道在和什么人合作。”
索伦森笑了,笑容里有疲惫的坦诚:“这个要求很合理。我会提供。”
离开书房时,天色已暗。风雪依然,但研究所的灯光在雪地上投出温暖的光晕。
回到房间,苏晚晴开始整理今天的观察记录。陈景明站在窗边,看着阿尔卑斯山的夜晚。风雪中的山峦像沉睡的巨兽,安静而强大。
加密终端亮起,显示一条来自李振的加密信息:
“医疗系统渗透的源头追踪有了突破。最终指令来自一台位于苏黎世联邦理工学院实验室的服务器。实验室负责人是……索伦森的旧友,也是‘回声实验室’的资助者之一。”
陈景明看着这条信息,又想起索伦森刚才坦诚的眼神。
真相像阿尔卑斯山的雪一样,层层覆盖,难以看清底层是岩石还是深渊。
但守护者的工作,从来都是在迷雾中寻找方向,在风雪中保持清醒。
他看着窗外,知道明天研讨会将继续。
而雾港市的夜晚,才刚刚开始。