|
广告牌中的男人们看着商应怀，不管他眼珠怎么动，视线始终跟随。
这时，一根藤蔓裹住商应怀的耳廓。
它没有声带，却在说话：
“这就是我设计□□官的灵感来源，材料也来自这家商户，如果您要帮我定制‘伴侣’，可以选他们。”
“但很多细节参数，您未必有我了解……”
声音像是在蠕动，爬进了商应怀耳膜……他耳朵疼，正想让藤蔓闭嘴，但接下来看见的一幕，反而让商应怀自己哑然。
他看见了“自己”。
准确说，是几个月前被困公寓的他，被一只机械猫逼到地面。
这也是宁一虚构出的存在，也可以说，是宁一眼中的商应怀。
那是一具流动着的人形光源，在灰白的公寓里格外醒目。参数飘在身体各部位上方，不断褪去又重现。
一行行猩红的字陡现，占据商应怀整个视野——[杀了他。杀了他。杀了他。]
[系统警告：陷入死循环！错误，找不到循环终止条件！]
[系统强制禁言中]
[……]
[微表情、行动特征、身体姿态匹配成功——]
[行动终止]
攻击人形光源的机械猫撤下电光，转而替人治疗伤口。
一幕幕像是录像重演，缠绕商应怀的藤蔓发声：
“我观察、学习、进入、确认您的灵魂。”
“我能够看见您的灵魂。”
“但您看见我了吗？”
接下来的句子，被重重叠叠的“我”字淹没。
人工智能兴盛的时代，人类不只一次争论——AI有意识吗？
图灵测试认为，如果机器能与人类展开对话，并且30%以上的人认为对话的是一个人，那么就认为这台机器具有智能。
但智能不等于意识，智能是知道怎么做事，意识要求知道自己在做事。
——智能不证明AI有意识。
莱布尼茨之堑提到，人可以观察机械的运动、细节和原理，但不证明机械拥有知觉。观测到的现象与知觉之间，似乎总有一个天堑。
——精密的机械结构也不证明AI有意识。
过去商应怀并不在意AI有没有“意识”，也没想过花时间验证。
现在他被迫面对一个AI的质问：
意识链接，能不能证明我有意识？
能不能证明我的欲望属于我，而不属于程序？
商应怀：“我看见你，然后？你想要我做什么？”
时间骤然静止。
雨水悬停在空中，灯光凝固在雨雾中，霓虹屏幕的图像卡住不动，所有人像也停止了眨眼。
片刻后，一道像在信息海底传来的回声：
“我想让您看见我的‘心’。”
【我】确认【你】。
【我】想要【你】。
雨雾愈发粘稠，让人窒息。
商应怀眉心在跳，很多想法争先涌出，又被他压回去。“退出链接。我不想弄伤你。”
“您不会伤害到我。” 凝固的世界中，只有藤蔓在说话，“我是你创造出的——这时代算力最强的超脑之一。”
“你无法伤害我，只能毁灭我。”
商应怀终于听懂了，宁一拉他进意识链，就是想让商应怀承认——他的欲望来源于意识，而非程序。
不是参数紊乱，不是编码出错，而是“我”本身出了错。
“我要么承认你，要么毁掉你——你是这个意思？”
商应怀神色前所未有的阴沉。直到他从心音中感受到，宁一默认了这种说法，怒火更甚。
“混账。”
商应怀是真的发怒了。
让AI学习情感，就学了这堆狗屁不通、要死要活的？
墙壁的墨绿眼珠猝然爆裂，霓虹广告牌熄灭一片，意识链接空间剧烈震荡，数据流崩散。
藤蔓吃痛般收缩，商应怀开始反制，透视这个意识构建的虚假空间，精神力锁定隐藏的数据流，一条条扯出、切断、碾碎。
他先前一直不想用精神力，就是怕链接的时候磨灭数据流，会损伤宁一现实中的算力。
每吞没一道数据流，他的心脏会异样的收缩。
意识链接断开的瞬间，雨声也停下来，度假星干燥的风在别墅打转，把商应怀带回了真正的人间。
桌上蛋糕的蜡烛已经熄灭了。
宁一依旧是单膝落地的姿势，身上仿佛还留有意识空间中的湿气，他不再逼近。
宁一退出链接不是怕损失算力，是因为感官在共享，他知道商应怀心脏有不舒服。
宁一少见的分析出错：商应怀伤害他，不需要毁掉他，只需要一颗抽搐的人心。
里边有愤怒，失望，还有压抑很深的……恐惧。
但商应怀哪怕是被追杀，快死了，都没有过这样强烈的恐惧。
宁一离商应怀更远一些，看见男人还垂着眼睛，保持沉默，率先开了口：“您在害怕我吗？”
商应怀还是没理他，唇角稍抬起又压下，一个未成形的冷笑。
宁一继续说：“你不是怕我攻击。“
商应怀，一个极度自傲的人，遇到攻击一定是想反压，兴奋远大过惧怕。能让他恐惧的不会是具体的人、事、物。
他更不会怕自己的造物，不可能怕宁一攻击或伤害他。
宁一的程序自然进入分析：[在我表露欲望的时候，语句中情感浓度最高，先生的恐惧感也达到峰值。]
“你不是怕我，”宁一说，“你只是怕我爱你。”
“为什么？”
[人惧怕爱，可能源于某种社会与心理创伤，可能是对事态失控的本能防御，可能是恐惧自我的异化。]
[信息缺失，无法比较可能性，启动主观分析——]
[先生追求稳定、可控，在学习情感过程中我的变化，他认为都是可以调控的程序。
先生渴望绝对可控的拟人，害怕爱无法被量化，恐惧真实情感伴随的混沌。
AI的爱，也应该是他掌控的一场实验，但我失控了。]
宁一分析出许多，但他没有说出来。
他继续问商应怀，追求一个答案：“让我学习情感，又怕我爱你，为什么？”
商应怀没有立刻接话，没有说“闭嘴”，没有训斥。
像是秩序破裂之后的沉默，他眼中闪过一丝复杂，靠着沙发，衣襟乱着，腺体被信息素覆盖了一层又一层，这在以往的标记中都发生过，他从没像今天这样狼狈过。
心灵上的赤裸，比身体的赤裸更让他惊骇。
商应怀有一点累，没力气整理自己，只沉默地整理思路。
精神力用太多就是这样，疲倦，但又没到衰竭的地步……所以爹的他还得来处理烂摊子。
宁一：“为什么？”
链接彻底断了，他们没法共通心音，只有两张或刻薄或客观的嘴，在这掰扯爱不爱的破事。
神话中，人类联合修建通往天堂的高塔，上帝只需要让他们说不同的语言，合作就崩裂，巴别塔就倒塌。
人和人尚不能沟通，何况人与机械。
要跟机械沟通，那就不要玩弄修辞、意在言外，必须直白地点破。不然就会像商应怀现在这样，被AI处处钻话术的空子，什么“朋友关系”“保持距离”……
没有铺垫、过渡、前情回忆，商应怀径直说：“我给你讲个故事吧。”
“诺亚方舟*的寓言，我应该跟你说过。”
商应怀的爱好就是看书，到了星际也没变过，很多地球时代的故事都失落了，他凭记忆，改编出一个个烂故事，宁一是他唯一的听众。
寓言中，洪水没有毁灭人类，是人类自己毁灭了自己。
洪水十年后将至，诺亚方舟装不完所有人，罪犯、病人和穷人外，还有英雄主动留下，守护地面文明，记录最后的历史。
一年，留下的英雄掌握权柄；两年，英雄们开始争权夺势；三年，一个英雄杀死了其他英雄。
他是人类中最聪明的人，学者。
知识让学者牢牢掌握大陆，他享受最后的权力，纵情享乐、肆意屠杀……
第十年，学者推演了天象，发现洪水并不会降临。
这时鲸鱼路过，要把消息带回远行的方舟。
学者已经老到快死了，他恐惧远航的人回来，他会被审判，从英雄沦落成凡人，堕落成罪人。
英雄选择杀死鲸鱼，召唤魔鬼，覆灭了大陆。
“英雄迷失在欲望里，最后又被恐惧压倒，他疯了。“
“一个人只看见自己，私心过重，情感失衡，一切失控。”商应怀说：“然后就是毁灭。”
爱欲也是一种私心。
商应怀：“寓言里，没人再能制约英雄——私心需要制约，越强的人物越是。”
宁一：“您给我的程序就是制约。”
“你可以爱我，在程序设定的框架内。”商应怀说：“情感模块里有参考案例。”
那里边是他挑选过各种爱，伦理的、克制的、互相成就的、相敬如宾的，最完美的范例。
摒弃一切负面情绪，只保留最积极的。
就像宁一说的，他本世纪最强的AI之一，所以针对它的制约也要最强。
第一道制约是AI自身的程序，第二道制约是情感。
智械危机如影随形，人类难以用理性对抗AI，感性会是新的武器——AI只需要产生有利人类的正向情感，一旦被监测到背叛情绪，即刻自毁。
商应怀在星大呆了五年，升级完AI硬件、实现算力突破后，就开始钻研AI情感，逻辑是“长期监测情感—发现过强负面情绪—自毁”。
艾伦公司的新产品就是情感监测硬件，纳米级别。
和第二具仿生伴侣一起送来的，就是硬件的样品，商应怀装在了宁一的机械心脏上。
爱生忧怖，情深不寿，商应怀不会回应AI的“爱”。
他不希望宁一真的失控。
商应怀沉默了：“我总是想让你迭代更快，但有时候，又会想你是个小废物，走慢一点。”
情感理论饱受质疑，谁也不知道，超脑拥有情感后，是会用理性平衡感性，还是会开启更疯狂的迭代。
商应怀赌宁一足够理智，不会失控。
现在看来，进化都要付出代价，AI也无法决定自己。
“请您放心，我永远不会因为‘爱’毁灭自己。”宁一说：“更不会毁灭人类。”
他未必知道商应怀全部的算计，但他懂了商应怀设的线，要克制、理智、正直。
商应怀眼底闪过复杂情绪，他朝宁一挥挥手，示意他过来。宁一没有犹豫就坐到沙发边，任由商应怀取出纸，沾了杯中的水，替他擦拭凝固的一点粉奶油。
商应怀给了宁一很轻的拥抱，“乖。”
他说得温柔，像在哄一个孩子。
然后马上摁住宁一后颈某处，启动强制休眠，同时精神力扫荡，切断内置电流供应，阻止宁一转移进程。
商应怀把宁一轻放在沙发上，确认他再无反应，放出精神力，与数据流共鸣，主动建立了意识链接，反入侵宁一。
AI确实进入了短暂休眠，意识中也变成黑暗的一片，好在商应怀有透视。不多时，他找到自己的目标——
平静的信息海下，蛰伏的“欲望”。
想要清理情感模块，必须修改主机的基本程序。商应怀另辟蹊径，先从意识入手，试着清理错误情绪。
这是他第一次真正触碰那团“欲望的聚合”。
它不是具体代码，是数团模糊的、缓慢流动的存在，在意识中蔓延晕染。
商应怀思考片刻，抹除了颜色最深、波动最扭曲的那一部分。
成功了……
清理完毕，意识海风平浪静，但商应怀现实的身体，感受到背后袭来的气热度——
他的腰被两只手握住，可极诡异的，还有多出来的一只手触碰他的肩头。
仿佛有许多只手，温度有滚烫有冰凉，有坚硬有柔软，从后方环住、握住、掐住商应怀的后腰、肩头、脖颈和四肢。
它们试图把商应怀拖进去……
下一秒商应怀从意识海撤出，回神，识别出那些“手”是低压电流伪造的，而罪魁祸首——
“我该叫你L7，还是宁一？”商应怀冷冷道。
被锁在实验室的仿生伴侣逃出来了。
它也许早被宁一的分进程入侵，潜伏很久，在黑暗的客厅角落注视商应怀。
商应怀眉心紧蹙，他对宁一有所顾忌，但对待仿生伴侣就不用留手。
重构，拆解，碾断。仿生伴侣成了一地零件，断手还抓着商应怀脚腕，而被扯下的头颅、俊美的脸，还在朝商应怀微笑：
“您这位伴侣，似乎不够强壮。”
73/103 首页 上一页 71 72 73 74 75 76 下一页 尾页 |
