〖第六章黑匣剖析参道德〗

西门事务调查所位于郊外一片废弃的工厂厂房内，马明空在地图上看了后，突然醒悟何为「西门」，原来是指事务所在龙门区的最西边，再往西一点，就是临近的奇庐市。这事务所和滨江大学同在龙门区，相距倒是不太远，马明空在征得贺思孟同意后，先乘车前往滨江大学接到了兰灵，两人到达调查所时，已是凌晨一点甚是，贺思孟早等在门外，一见两人下车便上前埋怨道：「怎么这么久才来。」

周围的一切都变得安静下来。

马明空指着身后的兰灵含笑道：「市局科学顾问，兰灵兰教授。」

「兰教授，幸会幸会，快请进。」贺思孟上前伸手和兰灵握了握手，借着屋内*射出的昏暗灯光，贺思孟看到兰灵的脸，忍不住「啊」的大叫了一声，在这寂静的深夜里显得格外的刺耳。

兰灵快速抽回手，也未言语，马明空暗想兰教授着实年轻漂亮，可这大半夜的，也不至于叫成这样，当下拍拍贺思孟的肩上，含笑道：」把持，把持啊。」

贺思孟听了马明空的揶揄，也不生气，退了一步，侧脸望了望兰灵，这才轻摇了摇头，道：「失礼失礼，不好意思，兰教授，你和我认识的一名人真的犹如，我刚认错人了。」

‌‌

兰灵弯腰在那机器人面部和腹部显示屏上都点击了几下，毫无反应，和马明空一起将那机器人翻转过来，映入眼帘的背部印着一行钢印编号，正是小黑的编号「JAZR4405203904258229」，编号下面却是一名心形图案，里面又刻着一块说不出形状的事物，马明空点点头，起身说道：「你先说说你的手段吧。」

屋内宽广高大，屋顶还是厂房的构造，贺思孟领着二人往里来到一名小隔间，地上平躺着一名机器人，贺思孟洋洋得意，言道：「这就是柯先生家的机器人了。」

贺思孟倒退一步，道：「马科长，咱们话可说在前头，你可不能说我非法盗窃私人财产，我这么做，也是为了配合你们调查，警民合作嘛，你要是不同意，我现在就给它送回去。」

马明空皱了皱眉头，道：「亏你也做过警察，婆婆妈妈的，我应承你就是。」

「我不做警察，还不是......」贺思孟撇了一眼灯光下的兰灵，竟似出神般的怔了一怔，终于又用力摇摇头，回了回神，长叹了口气，面向马明空说道：「这机器人既然不在江帆大厦，十之八九便和它女主人楚女士在一起，我查到了她尚有一度假别墅，便扮成一个保洁工程师上门去给这机器人做清洁，探明它所在室内，又借聊天知道了她的作息。到了今晚上，待楚女士熟睡，我就潜入小黑的房间，它那时正在充电休眠，我就拔了电源，又按了断路器强制关机，随后就把它抱了赶了回来。」

「你按了断路器？」兰灵复蹲下身，伸手在小黑后背的侧角一掀，正如所料打开了维护口外盖，问：「你是怎么打开它的？」

‌‌

「硬件加密是不是？」贺思孟含笑道：「做我们这行的，最重要的就是认识人多，朋友多了，办法就多了。」

兰灵没再说话，她仔细望了望那盖子下面的装设，一名断路器，一名注射口，还有一名便是维护口，沉思了一会，拿出手提电话，对马明空言道：「现在我观察它的AI大脑，虽然也看不完整，可是，」她顿了顿，道：「你确定我们要这么做吗？」

阅读提示：请勿转载本站内容

马明空看了一眼贺思孟，对方是为了柯先生委托一事，按照惯例，柯先生当日当给了他一笔先期的活动经费，待他完成调查，再拿到全款，那定是一笔价值不菲的报酬。至于兰灵，她向来有技术上一探究竟的癖好，而自己是为了什么呢？直到现在，没有任何哪怕是间接的证据能表明柯先生坠楼有啥疑点，最多是柯氏家族一会想起诉楚蕙一会想立刻结案，不过那也能从经济上解释清楚，马明空心中踌躇了那么一两秒，继而便坚定的颔首，道：「继续。」

兰灵从口袋里拿出一根细细的线缆，一头接在手提电话上，一头插入小黑的维护口孔中，她盯着手提电话屏幕，不一会儿，拿着手提电话的手竟微微颤抖，马明空见她面色凝重，双唇紧闭，心下里也不由不安起来，小隔间里一时死一般的沉寂，只听得自己和贺思孟两人粗重的呼吸声，约莫过了半个小时，兰灵动了一下身子，起身道：「好了。」

她转了转脖子，活动了一下，又在手提电话屏幕上点击了两下，言道：「既已开头，便做到底，索性把它数据都拷出来。」对着贺思孟言道：「我们来之前，其实你早已拷贝了一份，是不是？」

谁也没有料到会是这样的结果。

‌‌

贺思孟打了个哈哈，含笑道：「闲着也是闲着。」

又过了十来分钟，兰灵拔下线缆收好，合上维护口外盖，对贺思孟言道：「待会记得重新加密封好，还有，断路器冲击较大，你想让它不能活动，按前面的安全锁即可。」

光影交错间，时间缓缓流动。

」马科长，这次我够意思吧。」贺思孟对马明空又打了个哈哈，含笑道：「别怪我反复啰嗦，咱们不管是谁，有啥发现，都不可藏着掖着。」

「这是自然，你辛苦了半日，一会还要自己把它送回去，我们怎么也不会瞒你的。」

两人向贺思孟道了别，上了车，马明空忽然想起兰灵刚才的表情，踌躇了一下，问道：「兰教授，你，畏惧这个机器人吗？」

‌‌

「害怕，」兰灵沉默了一会，才说道：「人类社会的发展史，是一部信息交流趋于对等的历史，哪怕是隔阂最大的统治者和被统治者之间也是如此，可机器人不是这样，人类和机器人的信息交流永远不会对称，机器人可以了解人类的想法，人类却不了解机器人的想法。」

「难道看AI大脑也看不出？」马明空奇道。

四周恢复了平静。

「我说过了，基于量子算法的AI大脑，是无法完整观察到所有信息的，过程和结果永远无法兼得。」兰灵的口气变得有些不满。

收藏本站追更方便

马明空也不着恼，又道：「这只是现在吧，会不会也随着发展而改善呢？或者，法律要求机器人的面部必须配合AI大脑的运算做出相应的表情。」

「很难，人类赋予机器人的思维方式，可能永远是一名黑洞，」兰灵的食指在眉间轻柔数下，低声道：「人类的所见所闻对大脑思维的形成至关重要，大脑还要选择性的接收想听想看的信息，可机器人不同，它们能看到的、能听到的都远超人类，它们能看到更广的电磁波波长、更深的色彩，它们能听到更宽的声波频率、更细的音准，AI大脑也不会屏蔽接收的信息。」

‌‌

她放慢语速，缓缓言道：「只能看到黑白两色的动物无法理解世界的真相，就像人类想象不出鸟类眼中的世界一样，人类可能永远也不能确切的了解机器人所认知的世界。」

这种沉默让人感到有些不自在。

马明空的心一沉，想起那日在楚蕙家中，楚蕙看着小黑时的表情和眼神，可小黑的整个面部只是一块闪着淡淡绿色的冷冰冰的显示屏，连摄像眼都隐藏在显示屏下，他甚至想，刚才在小隔间里，被关机的小黑到底停止了哪些部件的运行？在那显示屏后面，摄像眼会不会仍隔着一层玻璃在盯着他们？只待它苏醒后就能忆起刚刚发生的事情，不由得想到这，他忍不住在心里打了个寒颤，他望着窗外，小车飞驰在道路上，这里是郊外，路灯之外是一片黑茫茫，仿佛黑夜张开的一张巨嘴，将小车连同里面的乘客，顺着道路，吞噬而入。

此刻，西门事务调查所内，贺思孟将小黑全身认真抹去指纹，用一根专用的硬件加密杆将维护口外壳合上复位，他盯着空荡荡的房间，脑海中却又渐渐地的浮现出那张所有比例都适才好的美丽面庞，他叹了口气，心里突也变得空荡荡的，可一不由得想到柯锐木早已给了他20万元的活动经费，还有500万元的巨额谜底揭晓大奖等着他，勇气陡可生，一名人抱着小黑便向外走去，他没有注意到，屋顶上方的摄像头向来盯着他，在悄悄的转动。

————————————————

一连几天，兰灵都没有消息传来，马明空并不着急，事实上，他有点怕接到兰灵的电话，告诉他：「马科长，小黑着实有问题。」新型案件侦破科成立后，他向来在想，「新型」二字「新」在哪里？这三个月来，虽然没立过一起案件，他和艾新好等人也没有闲着，参加各种学习班培训班成了他们的日常工作，同时，艾新好作为资深网络及安全专家，义不容辞的在内部开展了技术摸底考试和扫盲学习，艾新好是个认真的人，所有的学习都要经过考试，更让大家叫苦不迭。至于他自己，还要出差到其他城市参加经验学习和交流讨论，在这个过程中，他逐渐明白一名道理，即便从没人讲过他们科负责的案件范围，但在可见的将来，「新型案件」恐怕主要集中在和AI人工智能相关的案件上。

‌‌

在上个月省局组织的研讨会上，有人讲述了不久前发生的一名案例，AI矿工机器人在井下作业时，挖穿了地下水，造成三名人类矿工受伤被困在坑道内，当时井下尚有一台完好无损的AI矿工，在地面的遥控指挥下，这台AI矿工先后救出了两名人类矿工，就在它返回井下准备实施最后一次救援时，次生灾难发生，矿井坍塌，留在井下的最后一名矿工不幸罹难，由此引发了一系列复杂的责任认定和诉讼关系。

首先，地下水挖穿是谁的责任？机器人制造商、煤炭公司还是设计方？当时有没有人类矿工在附近监督？其次，矿难发生后，怎么会不派更多的AI矿工下井，一次将人类矿工救出？再者，次生灾难又是如何引发的？是随着时间推移而必然发生的，还是的救援过程导致的？最后，也是最有争议的，是谁心中决定了这三名人类矿工被救出的先后顺序？地面指挥部矢口否认是他们的心中决定，按他们的说法，他们只要求那台AI矿工尽快救出所有人，这三名人类矿工并不是困在一处，AI矿工没有按他们离出口的远近距离实施救援，第一名被救出的反而是距离最远的那人，由于这台AI矿工最后也没有脱困被深埋于地底，早已没有直接数据来研究当时这台AI矿工作出如此决策的逻辑了。

事后，一个由数名专家组成的独立调查团给出了一个推测，这台AI矿工起初兴许作出了最优的决策，理论上，它一次可以救出两名矿工，兴许，它是想先找到最远那人，在返程时顺路再携带一人出井，但不知何故，AI矿工头一次只带出了最远那人，也许是AI矿工判断最远那人当时受伤严重急需出井救治，但这样东西推测很难解释AI矿工在第二次下井时，仍然先找到离出口第二远的人，并且再度只携带他一人出井。

此案在研讨会上引起了热烈的讨论，更有人提出了一个颇为震惊的假设，这台AI矿工的决策没有问题，但两次，都是被救的人类矿工要求自己尽快出井，不许它再花时间去找同伴。此话一出，会场上顿时鸦雀无声，连马明空都能感到，兴许才是最有可能的真相。

不管如何，这些研讨让他了然，AI案件是一样会死人的。多年前，他刚加入警队，那时他常常期盼着案件的降临，每侦破一个刑事案件，他的荣誉簿上就增加了浓重的一笔，嘉奖立功是彼时的他的人生目标，直到有一天，没人和他说，他自个突然不由得想到，每一名刑事案件背后，都至少有一个受害人的身影，他怎么能盼望着多一点案件分给他呢？因此，当新型案件侦破科三个月没开张，他内心深处，反而一片安详。

理所当然，事情早已发展到这样东西地步，马明空不可能全然保持住内心的平静，所以当周三快下班、兰灵打电话约他下来见面时，他是一路急走，奔至分局斜对面的小茶店，见到兰灵面带倦容、神色憔悴的坐在临街窗边的一张小桌前，不由吃了一惊，忙问她何事？兰灵没有回答，只勉强一笑，道：「这里怎的样？我记起你喜欢在茶社里谈秘密。」

好戏还在后头

‌‌

马明空虽喜饮茶，但此间却从未光顾过，他略略环视四周，是一间不起眼的小茶店，点点头道：「还行吧，」顿了一顿，忍不住问：「你还好吗？」

兰灵没有答话，侧眼向窗外看了好一会儿，才回转目光，说道：「我一直很疑惑，人类的记忆为何会出现偏差？这仿佛是人类这一物种特有的现象，有种解释说是在追溯记忆时，信息可能会被伪造、误导，重新写入时，记录的就是与事实不符的记忆了，可怎么会要伪造？是人类的自主意识有意为之吗？若是在原始狩猎采集阶段，原始人出现记忆偏差，是会导致灭顶之灾的，这种意识能力，怎的会会遗传下来？」

马明空听了，一句话也答不上来，只好默默的盯着对方，茶店甚小，老板就是店员，他要了一壶玫瑰花茶，给兰灵和自己斟上，呷了一口，等着兰灵继续。

命运的齿轮在此刻悄然转动。

晶莹剔透的玻璃杯中散发着香甜的玫瑰花香，兰灵却似乎没有品尝的意愿，依旧陷入自己的沉思之中，过了好半晌，才又道：「我叫你下来，是想告诉你，我尝试解读了小黑AI大脑的部分可见部分，对比了它在本体、边缘、云端的记忆数据，数据本身没有发现异常，没有不一致的地方，但我发现了一个问题，它的记忆，似乎被扰动过。」

「数据一致，但记忆被扰动过？」马明空一头雾水：「怎的个扰动法？」

‌‌

「我不知道。」兰灵的脸庞上显出愈发痛苦的表情，马明空想安慰她却又不知如何开口，兰灵看了他一眼，摇头道：「我没事，」隔了一会，又道：「我在楚蕙家里时，曾问过小黑，‘柯先生以往对楚女士家暴的时候，楚女士是常常反抗，偶尔反抗，还是不反抗？’它答复说，‘偶尔反抗’，我当时没有觉察出啥，可是，当我看了它在本体存储的记忆，也就是自去年11月22日重启换血后积累的数据，发现这期间柯先生有3次比较明显的家暴，但楚女士从来没有反抗过。」

「也许在11月22日前，楚女士反抗过，故而小黑才说‘偶尔反抗’。」

「不不，你没搞了然，机器人是怎的记忆的，小黑现在本体内的数据，包括了从去年11月22日至今的数据，以及它最后一次重启换血时，从边缘以及云端下载得到的脱敏数据，这些数据不会包含和家政服务无关的信息，即便真有和家暴相关信息，也只能是遇到此类情况触发报警这样的知识，小黑是断不会再有去年11月22之前，柯先生家暴的具体记忆的，除非它能联网到最原始的归档数据，可那在物理上是不可能的，归档数据是不会联网的。」

「你的意思，小黑撒谎？」马明空若有所思，他想起兰灵刚才的言语，接着道：「或者说，它的记忆，出现了偏差？」

仿佛是面前的玫瑰花茶散发的热气起了香薰的功效，兰灵的脸色渐渐恢复了正常，一抹红晕染上了脸腮，她言道：「姑且不论一个家政机器人不可能具有说谎的能力，就算它有，它是如何构造这个虚假记忆的？它不可能凭空说谎，非得要改造记忆，按人类的说法，就是先让自己信以为真，才能回答出想要的答案，可这虚构的记忆在哪里？我看过它在边缘的数据，也没有这样的记忆。」

「边缘的数据？」马明空奇道。

‌‌

「是的，我这几天又设法核实了小黑在边缘保存的数据。」

她终究端起茶杯喝了一口，继续说道：「而且，如果仅仅是这些，还不足以引起我的困惑，比如它的数据或大脑因为长期没有更新，垃圾太多，从而导致字节信息突变，甚或它在11月22之前的数据因为某种原因没被彻底清除，这在理论上都是有可能的，这也是怎的会法律要求商用机器人必须定期重启换血的原因。」

故事还在继续

她放回茶杯，双眉重又凝在一起，道：「我回忆了小黑当天的表现，发现小黑在回答我这个问题时，并不是脱口而出，中间停顿了足足有2.5秒那么长！」

「这有问题吗？」

「问题就在这个地方，哪怕小黑的记忆出现了偏差，机器人的所有问答都来自本体、边缘或云端的知识，它要么脱口而出，若是出现停顿，那么它的回答一定是‘我不知道’！」

「这就是你认为小黑的记忆被扰动的原因？」

‌‌

「我的导师在十几年前就预测过一种‘AI记忆扰动’现象，他担心，AI机器人发展到一定阶段，基于量子技术的AI大脑趋于开放，有可能会出现量子扰动，从而导致记忆、逻辑等能力出现扰动，兴许小黑当时就处在一种不确定的状态，才会导致停顿。」

「会不会是被黑客入侵吗？」