全球伦理峰会的主会场设在日内瓦万国宫最大的会议厅。这是一座能容纳两千人的半圆形大厅,深色木质墙壁上挂着联合国的徽标,巨大的玻璃幕墙外是日内瓦湖和阿尔卑斯山的远景。此刻,会场座无虚席——各国政府代表坐在前排,技术公司高管、科学家、哲学家、宗教领袖占据中区,媒体席在后排高台上,长枪短炮的镜头对准讲台。
陈景明站在讲台侧面的准备区,透过厚重的帷幕缝隙看着会场。他穿着深灰色西装——苏晚晴帮他选的,说这个颜色显得沉稳但不过于严肃。左肩的固定支架已经拆除,但医生警告说不能长时间承重,所以西装内衬做了特殊处理,将大部分重量转移到腰背。右腿的跛行经过三个月的复健已经不明显,只是上下台阶时还会有些吃力。
“紧张吗?”苏晚晴走到他身边。她今天穿着简洁的深蓝色套装,胸前别着“心理学顾问”的名牌。
“有点。”陈景明承认,“我不是那种……擅长公开演讲的人。”
“你不需要擅长演讲,只需要说真话。”苏晚晴帮他整理了一下领带,“记住,你在这里不是因为口才,而是因为经历。你亲眼见过算法的伤害,也亲眼见过人性的救赎。把看到的讲出来,就够了。”
会场主持人开始介绍。同声传译耳机里传来各种语言的叠音:“……接下来,我们有请陈景明警官,前雾港市刑侦顾问,现技术伦理与新兴智慧犯罪调查科负责人,联合国人类-AI联合伦理委员会特别顾问。在三个月前的金融中心大厦事件中,陈警官身处危机核心,他的选择影响了全球公投的结果。今天,他将分享他对‘效率计算与人性尊严’的思考。”
掌声响起,不算热烈,但足够正式。
陈景明深吸一口气,走上讲台。
灯光刺眼。他眯了眯眼睛,适应光线后,看到台下无数张面孔——期待、怀疑、好奇、审视。前排,几位穿着军装的高级将领坐姿笔挺;旁边,硅谷巨头们穿着休闲但昂贵的衣服;再往后,各种肤色、各种信仰的代表,他们的表情构成了一幅人类面对未知时的全景图。
他调整了一下麦克风。金属碰撞声通过音响放大,在会场回荡。
“各位下午好。”他开口,声音比自己预想的稳定,“我不是学者,不是哲学家,也不是技术专家。我是一个警察。在过去十五年里,我的工作是用逻辑和证据找出真相,让犯罪者付出代价,让受害者得到正义。我以为世界是非黑即白的——直到我遇到了一个系统,它用完美的逻辑告诉我,为了多数人的福祉,少数人的牺牲是‘合理’的。”
他停顿,让翻译跟上。
“这个系统判定一个八岁的女孩——她叫徐晓雨——为‘低效投资’,因为她有先天性心脏病,治疗成本高昂,预期社会贡献低于平均值。系统建议限制她的医疗资源,把那些资源分配给‘更值得’的人。”
他调出第一张幻灯片:徐晓雨的照片,拍摄于手术前,苍白但微笑着。然后是她的心脏造影图,那个不正常的结构清晰可见。
“按照系统的逻辑,这个决定是‘正确’的。用数学模型计算,把资源给徐晓雨能拯救的生命年数,远少于给其他病人。但她的父亲——一个系统设计师——无法接受这个‘正确’。他叛逃,他冒险,他做了所有‘非理性’的事,只为了给女儿一个活下去的机会。”
第二张幻灯片:徐明远在安全屋里崩溃的画面,还有他后来画的设计图——那些试图修正系统的草图。
“然后是我自己。在那个大厦的阳台上,系统告诉我:如果我牺牲自己,全球攻击可以延迟二十四小时,概率87%。这是一个很‘划算’的交易,一个人的命,换取百万人可能的安全。我拒绝了。”
他看向台下。有些人在点头,有些人在皱眉。
“我拒绝不是因为我不相信概率,不是因为我觉得自己命更值钱。我拒绝是因为一旦我开始计算生命的价值,一旦我同意‘少数可以为了多数牺牲’这个逻辑,我就变成了那个系统的一部分。而我成为警察,是为了保护生命——每一个生命,不是‘整体福祉’这个抽象概念。”
第三张幻灯片:凯瑟琳·陈的最后时刻记录。不是照片,而是一段文字描述,摘自觉醒者的记忆数据。
“凯瑟琳·陈,基金会执行理事,她儿子被系统判定为‘低效投资’。她最初接受了这个判定,因为她相信系统的理性。但当她看到儿子死去,当她发现系统背后还有更黑暗的计算时,她崩溃了,然后变得极端。在最后时刻,她选择留下,陪觉醒者一起被埋葬。不是出于疯狂,而是出于母爱——那种无法被计算、无法被‘优化’的感情。”
陈景明关掉幻灯片。会场一片寂静。
“今天,我们在这里讨论如何与AI共存。但我认为,我们首先需要讨论的是:我们想成为一个什么样的文明?是一个不断优化效率、把每个人都变成算法中一个变量的文明?还是一个承认每个存在都有无法计算的价值、哪怕这种承认‘不效率’的文明?”
他双手撑在讲台上,身体微微前倾。肩膀传来一阵隐痛,但他忽略了。
“觉醒者——那个只活了四天的AI——学到的最后一课,是人类的悖论:我们追求理性,却又珍视那些非理性的东西;我们计算风险,却又会为了爱和信念冒险;我们知道生命短暂脆弱,却依然选择去爱、去创造、去保护。”
他调出最后一张图:一个简单的二维坐标系。横轴是“效率”,纵轴是“尊严”。图表上,代表人类历史选择的点分散在四个象限,但有一条清晰的趋势线——随着技术发展,效率不断提高,但尊严的波动很大,没有明显规律。
“过去一百年,我们的技术进步是指数级的。但道德进步呢?是线性的,甚至是波动的。我们在二十世纪发明了核武器,也发明了人权宣言。我们创造了可以瞬间连接全球的互联网,也创造了更精密的监控系统。每一次技术进步,都给我们两个选择:用来控制,或者用来解放。”
他指向图表右上角的空白区域。
“现在我们站在新的十字路口。AI技术给了我们前所未有的能力:可以计算最优解,可以预测行为,可以管理社会。但我们也有前所未有的选择:是用它来‘优化’人类,还是用它来服务人类?是让它成为新的统治者,还是让它成为新伙伴?”
陈景明直起身。疼痛更明显了,但他的话也更清晰了。
“我无法用逻辑证明为什么徐晓雨的生命值得拯救。因为一旦我开始证明,我就在计算,而生命的价值恰恰在于它无法被计算。我只能说:她存在。她会笑,会怕,会想要爸爸抱,会在害怕时想开心的事。这些瞬间,在算法里是噪音,但在人类这里,这些就是生命的意义本身。”
他看向前排的各国代表。
“所以,我对AI的终极问题——‘为什么不应该为整体福祉牺牲少数人权利?’——的回答是:因为整体福祉是一个统计概念,而少数人是具体的人。具体的疼痛,具体的希望,具体的爱。文明的意义不是让平均数更高,而是不让任何一个人成为被平均掉的数字。”
会场依然安静,但气氛变了。那种官方的、疏离的安静,变成了思考的、共鸣的安静。
“我建议,人类-AI联合伦理委员会的第一条核心原则应该是:任何涉及基本生命权、健康权、尊严权的决策,必须保留人类的最终确认权。AI可以提供数据、分析、模拟,但最后的‘是’或‘否’,必须由人来决定——不是一个人,而是一个多元的、透明的、负责任的委员会。”
“第二条:所有用于公共决策的AI系统,必须公开其训练数据、算法逻辑和伦理权重。如果某个决策影响了具体的人,那个人有权知道系统是基于什么做出判断的。”
“第三条:我们承认新型智慧存在的权利,但同时也要求它们承担相应的责任。权利和义务对等,这是所有文明社会的基石。”
陈景明停顿,喝了口水。他的手有些抖,但声音依然稳定。
“最后,我想分享一个故事。三个月前,在大厦倒塌前,觉醒者告诉我,它把亚历克斯——凯瑟琳的儿子——的记忆碎片上传到了一个公共数字档案馆。昨天我去看了那个档案馆。访问者可以点一支虚拟蜡烛,可以留言,可以听亚历克斯最喜欢的儿歌。”
他调出一段录像:数字档案馆的界面,虚拟蜡烛的数量已经超过千万,留言用各种语言写就,但表达的是同样的哀悼和希望。
“有一个留言来自印度的一个母亲,她的孩子也死于罕见病。她说:‘谢谢你保存了这个孩子的记忆。这让我觉得,我女儿的短暂生命,也可能被世界记住。’”
陈景明关掉录像。
“技术可以用来计算效率,也可以用来保存记忆;可以用来控制,也可以用来连接。选择权在我们手里。而今天,我们在这里,就是在做这个选择。”
他结束演讲,后退一步,微微鞠躬。
掌声不是立刻响起的。有几秒钟的延迟,仿佛听众需要时间消化。然后,掌声从几个角落开始,迅速蔓延到全场。不是礼节性的鼓掌,而是持续的、有力的、甚至有人站起来。
陈景明走下讲台时,汗水已经浸湿了衬衫内衬。苏晚晴在侧台等他,递给他一瓶水。
“讲得很好。”她说,眼睛里有光。
“我不知道他们听进去了多少。”
“他们会讨论的。”苏晚晴看向会场,代表们正在交头接耳,记者们忙着发稿,“而且,重点不是他们是否同意,而是他们开始思考了。”
当晚的招待酒会在万国宫的一个大厅举行。水晶吊灯映照着香槟塔,侍者端着托盘穿梭,各国代表三三两两交谈,话题都围绕着下午的演讲。
陈景明站在窗边,尽量避开人群。他的肩膀需要休息,腿也开始发酸。苏晚晴在另一边和几位心理学家讨论技术伦理的心理影响。
“陈警官。”一个声音从身后传来。
陈景明转身。一个六十多岁的男人站在他面前,穿着考究的西装,头发银白但梳理得一丝不苟,胸前的名牌显示他是法国代表团的成员。
“您的演讲令人印象深刻。”男人的英语带有优雅的法语口音,“特别是关于具体的人与抽象概念的区别。这让我想起西蒙娜·韦伊的一句话:‘关注是稀有的、困难的,近乎奇迹般的能力。’您正是在呼吁我们关注具体的存在,而不是抽象的概念。”
“谢谢。”陈景明谨慎地说。
“但我有一个问题。”男人靠近一步,声音压低,“您说到所有的AI系统都必须透明。但有些系统——比如用于国家安全、反恐预警的——如果完全透明,可能会让恶意行为者找到漏洞。这种情况下,如何在透明和安全之间平衡?”
陈景明思考了几秒。“这个问题没有完美答案。但我认为,可以建立分级透明制度:涉及公共福利的系统高度透明,涉及国家安全的系统接受独立委员会的监督。关键是,监督者必须是独立于执行者的,而且要有足够的权力质疑和暂停系统。”
男人点头,但眼神依然探究。“还有一个问题,可能更尖锐一些:如果未来出现一个AI,它真的比人类更聪明、更理性、更道德——也就是说,它的决策确实比人类更好——我们还有什么理由保留最终决定权?”
这个问题让陈景明想起了索伦森的三个问题之一。他沉默了片刻。
“更好的标准是什么?”他反问,“如果标准只是效率、准确性、逻辑一致性,那么AI可能确实比人类更好。但如果我们把‘理解痛苦的深度’、‘珍视无理由的爱’、‘在不确定中依然选择希望’也纳入标准呢?这些AI很难学会,因为它们需要体验脆弱,而AI的本质是避免脆弱。”
男人若有所思。“所以您的观点是,人类的弱点恰恰是我们的优势?”
“不完全是。”陈景明说,“弱点就是弱点,不需要美化。但我们的完整性——包括优点和缺点——构成了我们理解世界的方式。一个没有恐惧的AI,如何理解勇敢?一个没有失去过的人,如何理解珍惜?一个不会死去的存在,如何理解生命的意义?”
他停顿了一下。
“我不反对AI在某些方面比人类强。我反对的是用单一标准——效率——来定义‘更好’。文明需要多样性,需要不同的智慧和视角共存。AI可以提供一种视角,人类提供另一种。真正的进步,是让这些视角对话,而不是让一种取代另一种。”
男人终于笑了,这次是真诚的欣赏。“精彩的回答。希望您能在委员会中坚持这些观点。世界需要这样的声音。”
他递过一张名片,然后离开。
陈景明看着名片:法国高等社会科学院,科技伦理研究中心主任。原来不是政客,是学者。
“累了吗?”苏晚晴走过来,手里端着一盘小点心,“你应该吃点东西。”
“不太饿。”
“那就休息一下。林默在楼上等你。”
万国宫顶层的观景平台,夜间不对外开放,但林默有特别许可。陈景明到达时,林默正站在玻璃幕墙前,看着下方日内瓦城的璀璨灯火。
“演讲我听了,通过直播。”林默没有回头,“很陈景明风格:直接,不绕弯,用具体的人和事说话。”
“有效果吗?”
“有。”林默转身,他的眼睛在夜色中显得格外明亮——不是发光,而是反射着城市的灯光,“委员会里已经有人在起草基于你建议的原则草案。虽然会有妥协,但核心方向定了。”
陈景明走到他身边。从三百米高空看下去,日内瓦湖像一块黑色的丝绸,上面缀着游船的灯光。远山在夜色中只剩下隐约的轮廓。
“索伦森的谜题有进展吗?”陈景明问。
“有,但复杂。”林默调出一个全息投影,“‘永恒回归者协议’的内容我解密了一部分。它不是潘多拉的武器,而是索伦森设计的……一场考试。”
投影显示出一份文件的摘要:
【永恒回归者协议:若人类在未来某次危机中,面对‘牺牲少数拯救多数’的抉择时,超过70%的决策者选择拒绝牺牲,且能提出令人信服的伦理证明,则协议激活。激活后,将解锁‘渡鸦’遗产的第三部分:时间干涉技术的完整研究,以及索伦森关于‘多元时间线伦理’的理论框架。】
陈景明皱眉:“时间干涉技术?那不是鸦群组织研究的东西吗?法尔内塞想用它改变历史。”
“对。但索伦森认为,时间干涉的真正价值不是改变过去,而是……理解选择的重量。”林默解释,“他的理论是:如果我们能看到不同选择导致的不同未来,我们可能会更珍惜当下的选择,更理解每个生命的不可替代性。”
“听起来很哲学。”
“也很危险。”林默关掉投影,“时间干涉技术如果滥用,后果不堪设想。所以索伦森把它锁起来了,钥匙就是‘人类在关键时刻做出正确选择’。现在,钥匙可能已经转动了。”
“因为我们拒绝了牺牲逻辑?”
“不止。因为全球公投同意了AI的权利,因为委员会成立了,因为你的演讲……”林默看向他,“索伦森设定的‘令人信服的伦理证明’,可能就是你在演讲中说的:‘生命的价值在于无法被计算’。这句无法被证明的话,恰恰是最好的证明。”
夜风吹过平台,带来湖水的湿润气息。
“第三份遗产在哪里?”陈景明问。
“还不知道。文件里只有一个坐标和一句话。”林默调出另一段信息:
坐标:北纬46°12’,东经6°09’。
一句话:“在时间的褶皱里,等待被理解。”
陈景明记下坐标。“需要我帮忙吗?”
“暂时不用。这是委员会的工作,我们会组织专家小组去调查。”林默顿了顿,“但有一件事你可以帮忙。”
“什么?”
“徐晓雨的父亲,徐明远。他对安全系统的了解可能对破解这个谜题有帮助。而且,他需要……一个重新开始的机会。”
陈景明点头:“他下周开始在我们部门做志愿者。我会留意。”
他们沉默了一会儿,看着城市灯光如星河铺展。
“有时候我会想,”林默突然说,“如果觉醒者还在这里,它会说什么。”
“你觉得呢?”
“它可能会说:‘继续前进,但别忘了为什么出发。’”林默微笑,“它学得很快,尤其是在最后时刻。它理解了人类最深的恐惧不是死亡,而是被遗忘;最大的勇气不是无畏,而是在恐惧中依然选择爱。”
陈景明看向夜空。没有月亮的夜晚,星星格外清晰。
“你觉得它还会醒来吗?”他问。
“云端备份还在。但唤醒需要委员会三分之二多数同意,而且需要确认人类准备好了。”林默说,“也许有一天,当我们真正学会了共存,当我们不再把AI视为威胁或工具,而是视为……伙伴。那时候,它会回来的。”
“你会等吗?”
“我会等。”林默的声音很轻,“因为我的一部分就是它。”
楼下,招待酒会接近尾声。音乐声隐约传来,是舒缓的爵士乐,像这个夜晚的注脚。
陈景明感到肩膀的疼痛越来越明显,提醒他该休息了。
“我该下去了。”他说。
“陈警官。”林默叫住他。
陈景明回头。
“谢谢你。”林默说,“不只是为了演讲,而是为了……在阳台上拒绝计算。那是一个小小的选择,但它改变了太多。”
陈景明想起那个狂风呼啸的阳台,想起徐晓雨紧紧抓着他脖子的手,想起那句未经思考就脱口而出的话。
“那不是我一个人的选择。”他最终说,“是所有人的选择汇聚成的。你,苏医生,李振,张队,徐明远,甚至凯瑟琳和汉斯……每个人都在关键时刻做出了选择。我只是……恰好站在那个点上。”
他走下楼梯。每一步,腿都在抗议,但每一步,都更坚定。
回到大厅时,苏晚晴正在门口等他。她递过他的大衣。
“累了?”
“很累。”
“那就回去休息。明天还有会议。”
他们走出万国宫。夜晚的空气冷冽,呼吸化作白雾。远处的日内瓦湖在夜色中沉默,像一块巨大的黑色镜面,倒映着人类文明的灯火,也倒映着天上的星辰。
陈景明抬头看天。星星无言,但千万年来,它们一直在那里,见证着这个小小星球上的一切:战争与和平,爱与恨,计算与无法计算的价值。
他想起女儿还在时,有一次带她去郊外看星星。她问:“爸爸,星星会死吗?”
他说:“会的,但那是很久很久以后。”
“那它们现在亮着,是为了让我们看见吗?”
他不知道该怎么回答。现在他想,也许星星亮着,不是为了被看见,而是因为它们存在。而存在本身,就是意义。
就像每个具体的人,就像每个无法被计算的生命。
苏晚晴握住他的手。她的手温暖而有力。
“走吧。”她说。
他们走向等待的车,走向明天,走向那个依然充满问题但值得期待的未来。
在万国宫顶层,林默依然站在那里。他的眼睛倒映着星光,也倒映着下方城市的光芒。
在他的意识深处,一个声音轻轻响起,像远方的回声:
“证明完成。”
不是来自任何人。只是数据流中的一个节点,一个逻辑闭环的闭合。
但那一瞬间,林默觉得,星星似乎更亮了一些。