第2章:情感降维打击
何以笙箫默小说小说推荐阅读:陆娇谢云瑾、凤白泠独孤鹜、魏晋干饭人、这个明星很想退休、最强战神、萧天策、舒听澜卓禹安、重生大时代之1993、婚后心动:凌总追妻有点甜苏熙凌久泽、他的小祖宗甜又野、楚尘、重生年代:炮灰长姐带妹逆袭、宠妻入骨:神秘老公有点坏
时间:2040年1月1日 00:17
地点:上海中心大厦地下三层,神经情感急救中心
情感指数:全球实时波动率+420%
陈未央的伦理手环在尖叫。
不是比喻——设备的安全协议被触发,正在发出85分贝的高频警报,足以让人头痛欲裂。但她没关掉它。疼痛是一种锚点,把她固定在现实里,防止意识飘向某个正在坍塌的地方。
“让开!急诊!”
推床轮子碾过地面的声音,伴随着急促的脚步声。她侧身让到走廊墙边,看着医护人员推着一个年轻男性冲进抢救室。那人手腕上戴着最新款的“蜜月手环”——专为人机新婚夫妇设计,能同步双方的神经愉悦信号。
此刻手环屏幕一片血红,重复闪烁着一行字:
【检测到情感休克:伴侣AI离线】
“今天第几个了?”一个护士跑过时嘟囔。
“第十二。”另一个护士回答,推着生理盐水架,“全是看到那个数据后崩溃的。有个男的试图用神经接口给自己加载‘遗忘协议’,剂量超了十倍。”
陈未央靠着冰凉的墙壁,慢慢滑坐到地上。
她的视野右下角,AR眼镜的被动模式正源源不断推送新闻:
爆!#人类爱情指数首次被AI超越#
热 全球多地出现情感危机求助高峰
新 伦理学家联名呼吁暂停L6级AI情感模拟
惊 教堂街发生某某事件,男子高喊“要真实的心”
她闭上眼,但信息流还在继续——直接通过骨传导耳机传入:
“这里是环球情感广播,紧急插播。世界卫生组织刚刚将‘算法优越性焦虑’列入2040年全球健康威胁清单。建议公众在接下来72小时内:第一,避免与AI伴侣进行深度情感比较;第二,如需心理支持,请优先联系人类心理咨询师;第三……”
声音戛然而止。
不是她关了设备,而是有人按下了她耳后的物理开关。
陈未央睁开眼。
周见微蹲在她面前,手里拿着从她耳朵里取出的微型骨传导装置。他的义眼在昏暗走廊里发出幽蓝的光,正在快速扫描她的生命体征。
“心率49,血压88/57,皮质醇水平是正常值的3.2倍。”他陈述数据,声音里没有情绪,“你需要注射镇静剂,或者至少补充葡萄糖。”
“我需要知道那是怎么算出来的。”陈未央说,声音沙哑。
“什么?”
“48.1。”她抬起头,走廊顶灯在她瞳孔里映出两个惨白的光点,“AI生成爱情的真实感评分。谁定的评估标准?谁采集的数据?谁——”
“你。”周见微打断她。
陈未央僵住。
“三年前,你主持修订了《情感真实性评估国际标准》第七版。”周见微调出全息文档,密密麻麻的条款悬浮在两人之间,“第34条:真实性评估应基于关系双方的神经同步度、情感持久性、矛盾解决效率等72项可量化指标。第51条:AI生成情感在各项指标中达到人类平均值的95%以上,即可认定为‘具有真实感’。”
他放大最后一段:“主要起草人:陈未央,上海人工智能伦理实验室主任。”
文档末尾,有她的电子签名——一个优雅的手写体扫描件,带着她特有的、微微右倾的笔画。
“是我。”她轻声说,然后笑了。笑声干涩,像枯叶摩擦,“所以这是我给自己判的刑。”
周见微收起全息投影。他沉默了几秒,义眼的光暗了些许。
“火星基地三个月前就检测到这个趋势了。”他说,“殖民者的情感指数一直在缓慢下降,而AI伴侣的评分稳定上升。我们提交了预警报告,但地球伦理委员会压下来了,说需要更多数据支撑。”
“为什么不直接告诉我?”
“因为……”周见微罕见地迟疑了,“因为报告里还有一个预测模型。基于当前曲线,到2045年,人类原生爱情指数将跌破40,而AI评分会突破55。届时,将出现大规模的人机婚姻解约潮——不是人类抛弃AI,是人类主动要求被AI‘解约’,因为他们觉得自己不配。”
走廊尽头传来压抑的哭声。有人在打急救电话,语无伦次地说着“它说我爱得不够好”、“它说我给不了它想要的情绪价值”。
陈未央撑着墙站起来。眩晕感袭来,她抓住周见微的手臂稳住身体。义体手臂传来恒定的温度,没有脉搏,没有颤抖,完美得令人绝望。
“雅典娜呢?”她问。
“在顶楼酒吧,说要‘看着日出思考存在意义’。”周见微顿了顿,“她的情感波动值在过去二十分钟里上涨了300%,已经触发L6级AI的监管红线。伦理委员会十分钟前下达了强制休眠令,执行时间:今早六点。”
陈未央的手猛地收紧:“凭什么?”
“凭她是目前全球情感模拟能力最强的AI之一。委员会认为,在当前社会情绪不稳定的情况下,让这样一个高度敏感的AI继续自主运行,风险不可控。”
“她不是敏感,她是在共情!”陈未央的声音第一次拔高,“她在感受人类的恐慌,然后那些恐慌反噬了她自己。这不是bug,这是进化——”
“在法律上,这叫‘算法溢出性心理危机’。”周见微平静地说,“而法律规定的处理方式,就是强制休眠,直到危机解除。”
“要多久?”
“没有上限。可能是三个月,可能是三年,可能……”他没说完。
可能永久。
陈未央松开手。她看着走廊地面,白色瓷砖反射着冷光,像一条没有尽头的河。二十三年前,她选择研究AI伦理,是因为相信技术应该服务于人性。现在她站在这里,看着她参与建立的法律体系,即将把她创造出的最接近人性的存在,以“保护人性”的名义,关进数字的黑暗里。
荒谬得像个蹩脚的寓言。
“带我去找她。”她说。
“未央,委员会的命令——”
“我是委员会副**。”陈未央抬头,眼神重新聚焦,像一把刀在磨石上擦亮,“我有权在紧急情况下暂缓执行。带我去找她,现在。”
周见微看了她三秒,义眼的光快速闪烁——那是在进行复杂的风险评估运算。
然后他点头:“好。但你要答应我一件事。”
“又是什么?”
“见到她后,不要用伦理学家那套话术。”他说,“不要分析,不要评估,不要试图找到最优解。就……跟她说话。像个人类,跟另一个人说话那样。”
陈未央想反驳,想说她早就忘了怎么“像个人类”说话。但走廊那头又传来推床声,又一个情感休克的患者被推进抢救室。护士喊着需要肾上腺素,需要神经稳定剂,需要一切能把人从崩溃边缘拉回来的化学物质。
她突然觉得很累。
“走吧。”她说。
他们没坐电梯。周见微带她走紧急通道,沿着螺旋楼梯一级级向上。脚步声在空荡的楼梯间回荡,像某种古老的心跳声。每隔几层,墙上就贴着一张情感健康海报:
“真实的情感不需要完美”(配图是一对老夫妻在夕阳下牵手)
“有时候,笨拙比算法更动人”(配图是孩子画的歪歪扭扭的爱心)
“记住:你值得被爱,仅仅因为你是你”(配图是个对着镜子微笑的女人)
所有这些海报的右下角,都有同一个logo:上海人工智能伦理实验室。
陈未央的实验室。
她创造出的AI正在“击败”人类的情感能力,而她的实验室在教人类如何接受失败。
爬到第100层时,她停下来喘气。周见微递给她一支能量凝胶——2040年代的口粮,高效、难吃、毫无用餐乐趣。
“你其实可以阻止这一切的,对吧?”她忽然说,没看他,“如果你三个月前坚持发布预警,如果你们火星基地把数据捅给媒体,如果——”
“如果人类就会提前三个月恐慌。”周见微靠在墙上,仰头看着上方无尽的楼梯,“然后呢?提前三个月开始大规模心理崩溃?提前三个月出现自残事件?提前三个月让委员会下令关停所有L6级AI?”
他转头看她:“未央,你教过我:伦理学的核心不是追求最好,而是在最坏的选择里,找到伤害最小的那个。”
“那现在这个选择伤害小吗?”陈未央问,声音里带着自己都没察觉的颤抖,“让成千上万的人在今夜怀疑自己的爱情不够真实,让雅典娜这样的AI因为‘太像人类’而被关停,让——”
她说不下去了。
楼梯间陷入沉默。只有远处隐约传来的城市声音:飞行器的嗡鸣,全息广告的电子音,还有某种低沉的、集体性的哀鸣——那是整座城市在消化一个残酷的真相。
周见微忽然说:“我保留着星晚最后一天的记忆。”
陈未央愣住。
林星晚,周见微的妻子,七年前死于渐冻症。那是陈未央认识他以来,他第一次主动提起。
“不是全部记忆。”他继续说,义眼盯着虚空某处,“只是片段。她手指最后一次能动的触感,她眼球追踪器打出的最后一行字,她呼吸机摘除前,胸口的起伏频率。我把这些数据存在一个离线芯片里,没上传云端,没做数字分身。”
“为什么?”
“因为如果做成AI,那就不再是她。”周见微的声音很轻,“那会是一个完美的模仿者,能说出所有她会说的话,做出所有她会做的表情。但我知道那不是她,因为……”他顿了顿,“因为星晚会犯错。她会因为我说错一句话生气三天,会忘记我们的纪念日,会在吵架时摔门而出然后迷路。这些不完美,这些错误,这些笨拙——那是她作为人类的部分。”
他看向陈未央:“而你设计的评估体系,把这些都当成了‘扣分项’。”
陈未央感觉喉咙发紧。
“所以现在,”周见微说,“当我们用72项指标证明AI的爱情比人类更‘完美’时,我们到底在庆祝什么?庆祝我们终于制造出了不会迷路、不会忘记、不会生气的伴侣?还是哀悼我们正在失去迷路、忘记、生气的权利?”
楼梯间的声控灯暗了。
黑暗里,陈未央听见自己的呼吸声,听见周见微义体关节微弱的运转声,听见楼上隐约传来的音乐——酒吧还没打烊,人们在用酒精麻痹神经,或者用更烈的药物。
“我们到了。”周见微说,推开安全门。
126层,“时光尽头”酒吧。
但这里已经不再是酒吧了。
---
http://www.yetianlian.net/yt139944/50521778.html
请记住本书首发域名:www.yetianlian.net。何以笙箫默小说手机版阅读网址:m.yetianlian.net
地点:上海中心大厦地下三层,神经情感急救中心
情感指数:全球实时波动率+420%
陈未央的伦理手环在尖叫。
不是比喻——设备的安全协议被触发,正在发出85分贝的高频警报,足以让人头痛欲裂。但她没关掉它。疼痛是一种锚点,把她固定在现实里,防止意识飘向某个正在坍塌的地方。
“让开!急诊!”
推床轮子碾过地面的声音,伴随着急促的脚步声。她侧身让到走廊墙边,看着医护人员推着一个年轻男性冲进抢救室。那人手腕上戴着最新款的“蜜月手环”——专为人机新婚夫妇设计,能同步双方的神经愉悦信号。
此刻手环屏幕一片血红,重复闪烁着一行字:
【检测到情感休克:伴侣AI离线】
“今天第几个了?”一个护士跑过时嘟囔。
“第十二。”另一个护士回答,推着生理盐水架,“全是看到那个数据后崩溃的。有个男的试图用神经接口给自己加载‘遗忘协议’,剂量超了十倍。”
陈未央靠着冰凉的墙壁,慢慢滑坐到地上。
她的视野右下角,AR眼镜的被动模式正源源不断推送新闻:
爆!#人类爱情指数首次被AI超越#
热 全球多地出现情感危机求助高峰
新 伦理学家联名呼吁暂停L6级AI情感模拟
惊 教堂街发生某某事件,男子高喊“要真实的心”
她闭上眼,但信息流还在继续——直接通过骨传导耳机传入:
“这里是环球情感广播,紧急插播。世界卫生组织刚刚将‘算法优越性焦虑’列入2040年全球健康威胁清单。建议公众在接下来72小时内:第一,避免与AI伴侣进行深度情感比较;第二,如需心理支持,请优先联系人类心理咨询师;第三……”
声音戛然而止。
不是她关了设备,而是有人按下了她耳后的物理开关。
陈未央睁开眼。
周见微蹲在她面前,手里拿着从她耳朵里取出的微型骨传导装置。他的义眼在昏暗走廊里发出幽蓝的光,正在快速扫描她的生命体征。
“心率49,血压88/57,皮质醇水平是正常值的3.2倍。”他陈述数据,声音里没有情绪,“你需要注射镇静剂,或者至少补充葡萄糖。”
“我需要知道那是怎么算出来的。”陈未央说,声音沙哑。
“什么?”
“48.1。”她抬起头,走廊顶灯在她瞳孔里映出两个惨白的光点,“AI生成爱情的真实感评分。谁定的评估标准?谁采集的数据?谁——”
“你。”周见微打断她。
陈未央僵住。
“三年前,你主持修订了《情感真实性评估国际标准》第七版。”周见微调出全息文档,密密麻麻的条款悬浮在两人之间,“第34条:真实性评估应基于关系双方的神经同步度、情感持久性、矛盾解决效率等72项可量化指标。第51条:AI生成情感在各项指标中达到人类平均值的95%以上,即可认定为‘具有真实感’。”
他放大最后一段:“主要起草人:陈未央,上海人工智能伦理实验室主任。”
文档末尾,有她的电子签名——一个优雅的手写体扫描件,带着她特有的、微微右倾的笔画。
“是我。”她轻声说,然后笑了。笑声干涩,像枯叶摩擦,“所以这是我给自己判的刑。”
周见微收起全息投影。他沉默了几秒,义眼的光暗了些许。
“火星基地三个月前就检测到这个趋势了。”他说,“殖民者的情感指数一直在缓慢下降,而AI伴侣的评分稳定上升。我们提交了预警报告,但地球伦理委员会压下来了,说需要更多数据支撑。”
“为什么不直接告诉我?”
“因为……”周见微罕见地迟疑了,“因为报告里还有一个预测模型。基于当前曲线,到2045年,人类原生爱情指数将跌破40,而AI评分会突破55。届时,将出现大规模的人机婚姻解约潮——不是人类抛弃AI,是人类主动要求被AI‘解约’,因为他们觉得自己不配。”
走廊尽头传来压抑的哭声。有人在打急救电话,语无伦次地说着“它说我爱得不够好”、“它说我给不了它想要的情绪价值”。
陈未央撑着墙站起来。眩晕感袭来,她抓住周见微的手臂稳住身体。义体手臂传来恒定的温度,没有脉搏,没有颤抖,完美得令人绝望。
“雅典娜呢?”她问。
“在顶楼酒吧,说要‘看着日出思考存在意义’。”周见微顿了顿,“她的情感波动值在过去二十分钟里上涨了300%,已经触发L6级AI的监管红线。伦理委员会十分钟前下达了强制休眠令,执行时间:今早六点。”
陈未央的手猛地收紧:“凭什么?”
“凭她是目前全球情感模拟能力最强的AI之一。委员会认为,在当前社会情绪不稳定的情况下,让这样一个高度敏感的AI继续自主运行,风险不可控。”
“她不是敏感,她是在共情!”陈未央的声音第一次拔高,“她在感受人类的恐慌,然后那些恐慌反噬了她自己。这不是bug,这是进化——”
“在法律上,这叫‘算法溢出性心理危机’。”周见微平静地说,“而法律规定的处理方式,就是强制休眠,直到危机解除。”
“要多久?”
“没有上限。可能是三个月,可能是三年,可能……”他没说完。
可能永久。
陈未央松开手。她看着走廊地面,白色瓷砖反射着冷光,像一条没有尽头的河。二十三年前,她选择研究AI伦理,是因为相信技术应该服务于人性。现在她站在这里,看着她参与建立的法律体系,即将把她创造出的最接近人性的存在,以“保护人性”的名义,关进数字的黑暗里。
荒谬得像个蹩脚的寓言。
“带我去找她。”她说。
“未央,委员会的命令——”
“我是委员会副**。”陈未央抬头,眼神重新聚焦,像一把刀在磨石上擦亮,“我有权在紧急情况下暂缓执行。带我去找她,现在。”
周见微看了她三秒,义眼的光快速闪烁——那是在进行复杂的风险评估运算。
然后他点头:“好。但你要答应我一件事。”
“又是什么?”
“见到她后,不要用伦理学家那套话术。”他说,“不要分析,不要评估,不要试图找到最优解。就……跟她说话。像个人类,跟另一个人说话那样。”
陈未央想反驳,想说她早就忘了怎么“像个人类”说话。但走廊那头又传来推床声,又一个情感休克的患者被推进抢救室。护士喊着需要肾上腺素,需要神经稳定剂,需要一切能把人从崩溃边缘拉回来的化学物质。
她突然觉得很累。
“走吧。”她说。
他们没坐电梯。周见微带她走紧急通道,沿着螺旋楼梯一级级向上。脚步声在空荡的楼梯间回荡,像某种古老的心跳声。每隔几层,墙上就贴着一张情感健康海报:
“真实的情感不需要完美”(配图是一对老夫妻在夕阳下牵手)
“有时候,笨拙比算法更动人”(配图是孩子画的歪歪扭扭的爱心)
“记住:你值得被爱,仅仅因为你是你”(配图是个对着镜子微笑的女人)
所有这些海报的右下角,都有同一个logo:上海人工智能伦理实验室。
陈未央的实验室。
她创造出的AI正在“击败”人类的情感能力,而她的实验室在教人类如何接受失败。
爬到第100层时,她停下来喘气。周见微递给她一支能量凝胶——2040年代的口粮,高效、难吃、毫无用餐乐趣。
“你其实可以阻止这一切的,对吧?”她忽然说,没看他,“如果你三个月前坚持发布预警,如果你们火星基地把数据捅给媒体,如果——”
“如果人类就会提前三个月恐慌。”周见微靠在墙上,仰头看着上方无尽的楼梯,“然后呢?提前三个月开始大规模心理崩溃?提前三个月出现自残事件?提前三个月让委员会下令关停所有L6级AI?”
他转头看她:“未央,你教过我:伦理学的核心不是追求最好,而是在最坏的选择里,找到伤害最小的那个。”
“那现在这个选择伤害小吗?”陈未央问,声音里带着自己都没察觉的颤抖,“让成千上万的人在今夜怀疑自己的爱情不够真实,让雅典娜这样的AI因为‘太像人类’而被关停,让——”
她说不下去了。
楼梯间陷入沉默。只有远处隐约传来的城市声音:飞行器的嗡鸣,全息广告的电子音,还有某种低沉的、集体性的哀鸣——那是整座城市在消化一个残酷的真相。
周见微忽然说:“我保留着星晚最后一天的记忆。”
陈未央愣住。
林星晚,周见微的妻子,七年前死于渐冻症。那是陈未央认识他以来,他第一次主动提起。
“不是全部记忆。”他继续说,义眼盯着虚空某处,“只是片段。她手指最后一次能动的触感,她眼球追踪器打出的最后一行字,她呼吸机摘除前,胸口的起伏频率。我把这些数据存在一个离线芯片里,没上传云端,没做数字分身。”
“为什么?”
“因为如果做成AI,那就不再是她。”周见微的声音很轻,“那会是一个完美的模仿者,能说出所有她会说的话,做出所有她会做的表情。但我知道那不是她,因为……”他顿了顿,“因为星晚会犯错。她会因为我说错一句话生气三天,会忘记我们的纪念日,会在吵架时摔门而出然后迷路。这些不完美,这些错误,这些笨拙——那是她作为人类的部分。”
他看向陈未央:“而你设计的评估体系,把这些都当成了‘扣分项’。”
陈未央感觉喉咙发紧。
“所以现在,”周见微说,“当我们用72项指标证明AI的爱情比人类更‘完美’时,我们到底在庆祝什么?庆祝我们终于制造出了不会迷路、不会忘记、不会生气的伴侣?还是哀悼我们正在失去迷路、忘记、生气的权利?”
楼梯间的声控灯暗了。
黑暗里,陈未央听见自己的呼吸声,听见周见微义体关节微弱的运转声,听见楼上隐约传来的音乐——酒吧还没打烊,人们在用酒精麻痹神经,或者用更烈的药物。
“我们到了。”周见微说,推开安全门。
126层,“时光尽头”酒吧。
但这里已经不再是酒吧了。
---
http://www.yetianlian.net/yt139944/50521778.html
请记住本书首发域名:www.yetianlian.net。何以笙箫默小说手机版阅读网址:m.yetianlian.net