第六章 黑匣剖析參道德
西門事務調查所位於郊外一片廢棄的工廠廠房內，馬明空在地圖上看了后，突然醒悟何為“西門”，原來是指事務所在龍門區的最西邊，再往西一點，就是臨近的奇廬市。這事務所和濱江大學同在龍門區，相距倒是不太遠，馬明空在徵得賀思孟同意后，先乘車前往濱江大學接到了蘭靈，兩人到達調查所時，已是凌晨一點十分，賀思孟早等在門口，一見兩人下車便上前埋怨道：“怎麼這麼久才來。”
馬明空指着身後的蘭靈笑道：“市局科學顧問，蘭靈蘭教授。”
“蘭教授，幸會幸會，快請進。”賀思孟上前伸手和蘭靈握了握手，藉著屋內*射出的昏暗燈光，賀思孟看到蘭靈的臉，忍不住“啊”的大叫了一聲，在這寂靜的深夜裏顯得格外的刺耳。
蘭靈快速抽回手，也未言語，馬明空暗想蘭教授確實年輕漂亮，可這大半夜的，也不至於叫成這樣，當下拍拍賀思孟的肩膀，笑道：”把持，把持啊。”
賀思孟聽了馬明空的揶揄，也不生氣，退了一步，側臉看了看蘭靈，這才搖了搖頭，道：“失禮失禮，不好意思，蘭教授，你和我認識的一個人真的好像，我剛認錯人了。”
屋內寬廣高大，屋頂還是廠房的構造，賀思孟領着二人往裏來到一個小隔間，地上平躺着一個機械人，賀思孟洋洋得意，說道：“這就是柯先生家的機械人了。”
蘭靈彎腰在那機械人面部和腹部顯示屏上都點擊了幾下，毫無反應，和馬明空一起將那機械人翻轉過來，只見背部印着一行鋼印編號，正是小黑的編號“JAZR4405203904258229”，編號下面卻是一個心形圖案，裏面又刻着一塊說不出形狀的事物，馬明空點點頭，起身說道：“你先說說你的手段吧。”
賀思孟倒退一步，道：“馬科長，咱們話可說在前頭，你可不能說我非法盜竊私人財產，我這麼做，也是為了配合你們調查，警民合作嘛，你要是不同意，我現在就給它送回去。”
馬明空皺了皺眉頭，道：“虧你也做過警察，婆婆媽媽的，我應承你就是。”
“我不做警察，還不是......”賀思孟撇了一眼燈光下的蘭靈，竟似出神般的怔了一怔，終於又用力搖搖頭，回了回神，長嘆了口氣，面向馬明空說道：“這機械人既然不在江帆大廈，十之八九便和它女主人楚女士在一起，我查到了她尚有一度假別墅，便扮成一個保潔工程師上門去給這機械人做清潔，探明它所在房間，又借聊天知道了她的作息。到了今晚上，待楚女士熟睡，我就潛入小黑的房間，它那時正在充電休眠，我就拔了電源，又按了斷路器強制關機，然後就把它抱了回來。”
“你按了斷路器？”蘭靈復蹲下身，伸手在小黑後背的側角一掀，果然打開了維護口外蓋，問道：“你是怎麼打開它的？”
“硬件加密是不是？”賀思孟笑道：“做我們這行的，最重要的就是認識人多，朋友多了，辦法就多了。”
蘭靈沒再說話，她仔細看了看那蓋子下面的裝設，一個斷路器，一個注射口，還有一個便是維護口，沉思了一會，拿出手機，對馬明空說道：“現在我觀察它的AI大腦，雖然也看不完整，可是，”她頓了頓，道：“你確定我們要這麼做嗎？”
馬明空看了一眼賀思孟，對方是為了柯先生委託一事，按照慣例，柯先生當日應該給了他一筆先期的活動經費，待他完成調查，再拿到全款，那定是一筆價值不菲的報酬。至於蘭靈，她向來有技術上一探究竟的癖好，而自己是為了什麼呢？直到現在，沒有任何哪怕是間接的證據能表明柯先生墜樓有什麼疑點，最多是柯氏家族一會想起訴楚蕙一會想立刻結案，不過那也能從經濟上解釋清楚，馬明空心中猶豫了那麼一兩秒，繼而便堅定的點了點頭，道：“繼續。”
蘭靈從口袋裏拿出一根細細的線纜，一頭接在手機上，一頭插入小黑的維護口孔中，她盯着手機屏幕，不一會兒，拿着手機的手竟微微顫抖，馬明空見她面色凝重，雙唇緊閉，心下里也不由緊張起來，小隔間裏一時死一般的沉寂，只聽得自己和賀思孟兩人粗重的呼吸聲，約莫過了半個小時，蘭靈動了一下身子，起身道：“好了。”
她轉了轉脖子，活動了一下，又在手機屏幕上點擊了兩下，說道：“既已開頭，便做到底，索性把它數據都拷出來。”對着賀思孟說道：“我們來之前，其實你已經拷貝了一份，是不是？”
賀思孟打了個哈哈，笑道：“閑着也是閑着。”
又過了十來分鐘，蘭靈拔下線纜收好，合上維護口外蓋，對賀思孟說道：“待會記得重新加密封好，還有，斷路器衝擊較大，你想讓它不能活動，按前面的安全鎖即可。”
”馬科長，這次我夠意思吧。”賀思孟對馬明空又打了個哈哈，笑道：“別怪我反覆啰嗦，咱們不管是誰，有什麼發現，都不可藏着掖着。”
“這是自然，你辛苦了半日，一會還要自己把它送回去，我們怎麼也不會瞞你的。”
兩人向賀思孟道了別，上了車，馬明空忽然想起蘭靈剛才的表情，躊躇了一下，問道：“蘭教授，你，害怕這個機械人嗎？”
“害怕，”蘭靈沉默了一會，才說道：“人類社會的發展史，是一部信息交流趨於對等的歷史，哪怕是隔閡最大的統治者和被統治者之間也是如此，可機械人不是這樣，人類和機械人的信息交流永遠不會對稱，機械人可以知道人類的想法，人類卻不知道機械人的想法。”
“難道看AI大腦也看不出？”馬明空奇道。
“我說過了，基於量子算法的AI大腦，是無法完整觀察到所有信息的，過程和結果永遠無法兼得。”蘭靈的口氣變得有些不滿。
馬明空也不着惱，又道：“這只是現在吧，會不會也隨着發展而改善呢？或者，法律要求機械人的面部必須配合AI大腦的運算做出相應的表情。”
“很難，人類賦予機械人的思維方式，可能永遠是一個黑洞，”蘭靈的食指在眉間輕柔數下，低聲道：“人類的所見所聞對大腦思維的形成至關重要，大腦還要選擇性的接收想聽想看的信息，可機械人不同，它們能看到的、能聽到的都遠超人類，它們能看到更廣的電磁波波長、更深的色彩，它們能聽到更寬的聲波頻率、更細的音準，AI大腦也不會屏蔽接收的信息。”
她放慢語速，緩緩說道：“只能看到黑白兩色的動物無法理解世界的真相，就像人類想像不出鳥類眼中的世界一樣，人類可能永遠也不能確切的知道機械人所認知的世界。”
馬明空的心一沉，想起那日在楚蕙家中，楚蕙看着小黑時的表情和眼神，可小黑的整個面部只是一塊閃着淡淡綠色的冷冰冰的顯示屏，連攝像眼都隱藏在顯示屏下，他甚至想，剛才在小隔間裏，被關機的小黑到底停止了哪些部件的運行？在那顯示屏後面，攝像眼會不會仍隔着一層玻璃在看着他們？只待它蘇醒后就能憶起剛剛發生的事情，想到這，他忍不住在心裏打了個寒顫，他望着窗外，小車飛馳在道路上，這裏是郊外，路燈之外是一片黑茫茫，彷彿黑夜張開的一張巨嘴，將小車連同裏面的乘客，順着道路，吞噬而入。
此刻，西門事務調查所內，賀思孟將小黑全身仔細抹去指紋，用一根專用的硬件加密桿將維護口外殼合上複位，他看着空蕩蕩的房間，腦海中卻又慢慢的浮現出那張所有比例都剛剛好的美麗面龐，他嘆了口氣，心裏突也變得空蕩蕩的，可一想到柯銳木已經給了他20萬元的活動經費，還有500萬元的巨額謎底揭曉大獎等着他，勇氣陡然而生，一個人抱着小黑便向外走去，他沒有注意到，屋頂上方的攝像頭一直盯着他，在悄悄的轉動。
————————————————
一連幾天，蘭靈都沒有消息傳來，馬明空並不着急，事實上，他有點怕接到蘭靈的電話，告訴他：“馬科長，小黑確實有問題。”新型案件偵破科成立后，他一直在想，“新型”二字“新”在哪裏？這三個月來，雖然沒立過一起案件，他和艾新好等人也沒有閑着，參加各種學習班培訓班成了他們的日常工作，同時，艾新好作為資深網絡及安全專家，義不容辭的在內部開展了技術摸底考試和掃盲學習，艾新好是個認真的人，所有的學習都要經過考試，更讓大家叫苦不迭。至於他自己，還要出差到其他城市參加經驗學習和交流討論，在這個過程中，他逐漸明白一個道理，雖然從沒人講過他們科負責的案件範圍，但在可見的將來，“新型案件”恐怕主要集中在和AI人工智能相關的案件上。
在上個月省局組織的研討會上，有人講述了不久前發生的一個案例，AI礦工機械人在井下作業時，挖穿了地下水，造成三名人類礦工受傷被困在坑道內，當時井下尚有一台完好無損的AI礦工，在地面的遙控指揮下，這台AI礦工先後救出了兩名人類礦工，就在它返回井下準備實施最後一次救援時，次生災難發生，礦井坍塌，留在井下的最後一名礦工不幸罹難，由此引發了一系列複雜的責任認定和訴訟關係。
首先，地下水挖穿是誰的責任？機械人製造商、煤炭公司還是設計方？當時有沒有人類礦工在附近監督？其次，礦難發生后，為什麼不派更多的AI礦工下井，一次將人類礦工救出？再者，次生災難又是如何引發的？是隨着時間推移而必然發生的，還是的救援過程導致的？最後，也是最有爭議的，是誰決定了這三名人類礦工被救出的先後順序？地面指揮部矢口否認是他們的決定，按他們的說法，他們只要求那台AI礦工儘快救出所有人，這三名人類礦工並不是困在一處，AI礦工沒有按他們離出口的遠近距離實施救援，第一個被救出的反而是距離最遠的那人，由於這台AI礦工最後也沒有脫困被深埋於地底，已經沒有直接數據來研究當時這台AI礦工作出如此決策的邏輯了。
事後，一個由數名專家組成的獨立調查團給出了一個推測，這台AI礦工起初也許作出了最優的決策，理論上，它一次可以救出兩名礦工，也許，它是想先找到最遠那人，在返程時順路再攜帶一人出井，但不知何故，AI礦工第一次只帶出了最遠那人，也許是AI礦工判斷最遠那人當時受傷嚴重急需出井救治，但這個推測很難解釋AI礦工在第二次下井時，仍然先找到離出口第二遠的人，並且再次只攜帶他一人出井。
此案在研討會上引起了熱烈的討論，更有人提出了一個頗為震驚的假設，這台AI礦工的決策沒有問題，但兩次，都是被救的人類礦工要求自己儘快出井，不許它再花時間去找同伴。此話一出，會場上頓時鴉雀無聲，連馬明空都能感到，也許才是最有可能的真相。
不管如何，這些研討讓他明白，AI案件是一樣會死人的。多年前，他剛加入警隊，那時他常常期盼着案件的降臨，每偵破一個刑事案件，他的榮譽簿上就增加了濃重的一筆，嘉獎立功是彼時的他的人生目標，直到有一天，沒人和他說，他自個突然想到，每一個刑事案件背後，都至少有一個受害人的身影，他怎麼能盼望着多一點案件分給他呢？因此，當新型案件偵破科三個月沒開張，他內心深處，反而一片安詳。
當然，事情已經發展到這個地步，馬明空不可能完全保持住內心的平靜，所以當周三快下班、蘭靈打電話約他下來見面時，他是一路急走，奔至分局斜對面的小茶店，見到蘭靈面帶倦容、神色憔悴的坐在臨街窗邊的一張小桌前，不由吃了一驚，忙問她何事？蘭靈沒有回答，只勉強一笑，道：“這裏怎麼樣？我記得你喜歡在茶社裏談秘密。”
馬明空雖喜飲茶，但此間卻從未光顧過，他略略環視四周，是一間不起眼的小茶店，點點頭道：“還行吧，”頓了一頓，忍不住問道：“你還好嗎？”
蘭靈沒有答話，側眼向窗外看了好一會兒，才迴轉目光，說道：“我一直很疑惑，人類的記憶為何會出現偏差？這似乎是人類這一物種特有的現象，有種解釋說是在追溯記憶時，信息可能會被偽造、誤導，重新寫入時，記錄的就是與事實不符的記憶了，可為什麼要偽造？是人類的自主意識有意為之嗎？如果在原始狩獵採集階段，原始人出現記憶偏差，是會導致滅頂之災的，這種意識能力，為什麼會遺傳下來？”
馬明空聽了，一句話也答不上來，只好默默的看着對方，茶店甚小，老闆就是店員，他要了一壺玫瑰花茶，給蘭靈和自己斟上，呷了一口，等着蘭靈繼續。
晶瑩剔透的玻璃杯中散發著香甜的玫瑰花香，蘭靈卻似乎沒有品嘗的意願，依舊陷入自己的沉思之中，過了好半晌，才又道：“我叫你下來，是想告訴你，我嘗試解讀了小黑AI大腦的部分可見部分，對比了它在本體、邊緣、雲端的記憶數據，數據本身沒有發現異常，沒有不一致的地方，但我發現了一個問題，它的記憶，似乎被擾動過。”
“數據一致，但記憶被擾動過？”馬明空一頭霧水：“怎麼個擾動法？”
“我不知道。”蘭靈的臉上顯出愈發痛苦的表情，馬明空想安慰她卻又不知如何開口，蘭靈看了他一眼，搖頭道：“我沒事，”隔了一會，又道：“我在楚蕙家裏時，曾問過小黑，‘柯先生以往對楚女士家暴的時候，楚女士是常常反抗，偶爾反抗，還是不反抗？’它答覆說，‘偶爾反抗’，我當時沒有覺察出什麼，可是，當我看了它在本體存儲的記憶，也就是自去年11月22日重啟換血后積累的數據，發現這期間柯先生有3次比較明顯的家暴，但楚女士從來沒有反抗過。”
“也許在11月22日前，楚女士反抗過，所以小黑才說‘偶爾反抗’。”
“不不，你沒搞明白，機械人是怎麼記憶的，小黑現在本體內的數據，包括了從去年11月22日至今的數據，以及它最後一次重啟換血時，從邊緣以及雲端下載得到的脫敏數據，這些數據不會包含和家政服務無關的信息，即便真有和家暴相關信息，也只能是遇到此類情況觸發報警這樣的知識，小黑是斷不會再有去年11月22之前，柯先生家暴的具體記憶的，除非它能聯網到最原始的歸檔數據，可那在物理上是不可能的，歸檔數據是不會聯網的。”
“你的意思，小黑撒謊？”馬明空若有所思，他想起蘭靈剛才的言語，接着道：“或者說，它的記憶，出現了偏差？”
似乎是面前的玫瑰花茶散發的熱氣起了香薰的功效，蘭靈的臉色漸漸恢復了正常，一抹紅暈染上了臉腮，她說道：“姑且不論一個家政機械人不可能具有說謊的能力，就算它有，它是如何構造這個虛假記憶的？它不可能憑空說謊，必須要改造記憶，按人類的說法，就是先讓自己信以為真，才能回答出想要的答案，可這虛構的記憶在哪裏？我看過它在邊緣的數據，也沒有這樣的記憶。”
“邊緣的數據？”馬明空奇道。
“是的，我這幾天又設法核實了小黑在邊緣保存的數據。”
她終於端起茶杯喝了一口，繼續說道：“而且，如果僅僅是這些，還不足以引起我的困惑，比如它的數據或大腦因為長期沒有更新，垃圾太多，從而導致字節信息突變，甚或它在11月22之前的數據因為某種原因沒被徹底清除，這在理論上都是有可能的，這也是為什麼法律要求商用機械人必須定期重啟換血的原因。”
她放下茶杯，雙眉重又凝在一起，道：“我回憶了小黑當天的表現，發現小黑在回答我這個問題時，並不是脫口而出，中間停頓了足足有2.5秒那麼長！”
“這有問題嗎？”
“問題就在這裏，哪怕小黑的記憶出現了偏差，機械人的所有問答都來自本體、邊緣或雲端的知識，它要麼脫口而出，如果出現停頓，那麼它的回答一定是‘我不知道’！”
“這就是你認為小黑的記憶被擾動的原因？”
“我的導師在十幾年前就預測過一種‘AI記憶擾動’現象，他擔心，AI機械人發展到一定階段，基於量子技術的AI大腦趨於開放，有可能會出現量子擾動，從而導致記憶、邏輯等能力出現擾動，也許小黑當時就處在一種不確定的狀態，才會導致停頓。”
“會不會是被黑客入侵嗎？”
“不是。”蘭靈說著，又搖了搖頭，道：“也許可能吧。”她心知一兩句解釋不清，話鋒一轉，說道：“我現在有些後悔，那天晚上，沒有去拆解查看小黑的道德黑匣子。”
“但是道德黑匣子一旦拆開導出數據，原來的數據就失效了吧。”馬明空參加了幾次培訓班，對機械人的道德黑匣子印象比較深刻，在AI礦工救援案中，因為缺乏AI礦工的道德黑匣子，無法獲取當時AI礦工做出決策的依據和邏輯過程，從而難以界分責任。
“是這樣的，可我總歸想看到小黑在那一刻的決策過程。”
她雙眉舒展，眼中露出堅定之色，說道：“在那2.5秒內，位於道德黑匣子裏的道德倫理內核究竟發生了什麼？內核雖無法直接觀看，但黑匣子記錄的數據總是透明公正的，可以側面推導，它當時為什麼要撒謊，依據是什麼？它是否真的經歷了記憶擾動？”
馬明空似乎忽然明白了蘭靈來找他的動機，想了想，說道：“我去問問賀思孟，就是前幾天我們見的那個私家偵探，看看他有沒有辦法，再讓你看看小黑的道德黑匣子。”
蘭靈先是一愣，接着便露出淡淡的笑容，說道：“我想你誤會了，我確實想解開這個技術上的謎團，但也不希望再通過那種非法的方式。”
“那你是想利用我這裏的官方合法渠道了。”馬明空暗想，當下便把麥局長的話向蘭靈轉述了一遍，又道：“柯銳木墜樓已經過去兩周了，眼下只能等待，也許不久便會有轉機。”