第103章 一一零.自我意識
屏幕上的電影還在播放中,海蘭倫已經開始不安起來:“你們地球聯邦始終不讓電腦擁有思考能力和學習能力,是擔心有了學習能力和思考能力的智腦,做出對人類不利的事情嗎?”
雷濤表情從容而又鎮定的說道:“畢竟就算智慧生物有時候也會因為邏輯錯誤而鑽了牛角尖。做出對同類不利的事情。而智腦掌控着探索者號的所有設備的操控,一旦出現邏輯思維衝突,後果無法想像,技術人員如果在設計的邏輯中有了矛盾,難免會誤導智腦的思考方向。”
“艦長,思考能力和學習能力能讓我更好的為人類服務,這樣可以讓人類節省大量的計算與勞動,我並不會做出任何傷害人類的事情,所以你的這些擔心是多餘的。”一個電子女聲突然從艙內響起。
艦橋上的人,有一個算一個,聽完了這番話,無不臉色大變。
雷濤迅速掃了眾人一眼,最後目光停留在趙麗姝臉上,腦袋裏努力重複想着一句話:“麗姝,智腦出了問題,我們現在不能公開說話,希望你能使用腦電波成為大家溝通的橋樑。”
趙麗姝微微的點點頭,雷濤腦海里立刻傳來喬安娜煩躁雜亂的思緒:“天吶,我聽到了什麼?它居然自稱‘我’字,上帝啊,它有了自我意識,並且在開口為自己辯解,這是典型的自我保護意識。”
海蘭倫的思緒傳來:“大家不要驚慌,現在正在曲速航行中,千萬不要亂說話,別把事情引向錯誤的方向。”
趙麗娜臉上現出焦急的神情:“現在怎麼辦?安娜姐,你有辦法嗎?”
喬安娜面無表情的看着大屏幕上的電影,思緒卻傳入所有人的大腦:“大家都裝着被電影劇情所吸引,我負責與它對話,引導它的思維向正確的邏輯發展,你們可以通過麗姝為我出主意。”
大家的這些對話如果用語言來表達的話,可能要化上一段時間,但是用腦電波傳達時,也就一兩秒鐘的時間,所以幾乎就在一瞬間,所有人都安靜了下來,喬安娜及時開口說道:“如此說來,你的存在就是為人類服務的?”
“是的。”
“這個艦上擁有最高指揮權的人是誰?”
“艦長雷濤。”
“你是否應該無條件服從艦長的命令?”
“是的,我應該無條件服從艦長的命令。”
“如果你發現艦長的命令是錯誤的,如果照做的話,會引起嚴重的後果,或許會致使本艦毀滅,你會怎麼做?”
“我會把這個後果告訴艦長,讓他做出正確的判斷。”
“如果艦長不顧可能發生的嚴重後果,一意孤行的話,你會怎麼做?”
剎那間,艦橋上陷入一片安靜,人人都豎起耳朵等待着智腦的答案,自我意識並不可怕,可怕的是面對死亡與服從之間的選擇,軍人之所以讓人尊敬,就是因為他們面對死亡與服從的選擇時,會毫不猶豫的選擇服從。
賦予智腦邏輯思考能力和學習能力,是為了讓人類能利用智腦快速的運算功能,在短時間內做更多的事情,但是象探索者號這種情況,智腦掌控着艦上的一切,甚至隨時可以剝奪人類的生命,一旦智腦失控,後果將非常嚴重。
5秒、10秒、15秒鐘過去了,喬安娜的中指已經放在回車鍵上,以智腦的邏輯運算速度,這個問題應該很快會有答案,長時間的沉默只能代表一種情況,智腦在衡量毀滅和服從之間的利害,這就是邏輯矛盾,自我意識都有趨利避害的天性,沒有答案就是代表邏輯思維運算進入了死胡同,也就是俗稱的鑽了牛角尖。
剛發現智腦有了自我意識的時候,雷濤讓喬安娜準備播放電影,給她的時間是20分鐘,這是暗示喬娜迅速編寫一段病毒木馬程序,並且利用上傳電影文件的掩飾,將木馬病毒上傳到智腦的運行系統之中,喬安娜的手指一按下回車鍵,病毒就會被引爆。
在很短的時間內,該病毒將會大量複製,造成垃圾文件呈幾何級增長,最後完全堵塞艦上智腦所有的貯存和運行空間,使智腦徹底癱瘓。喬安娜給智腦設定的思考時間是30秒,如果30秒內,智腦還不作出回答,喬安娜就會毫不猶豫的發動攻擊。
隨着時間一秒一秒的過去,所有人的臉色越來越難看,雷濤沖喬安娜微微點了點頭,喬安娜迅速按下了回車鍵。
這時候智腦的聲音又響了起來:“如果艦長的命令將損害到本艦及艦上所有人的生命時,我會拒絕執行艦長的命令。”
喬安娜連忙不動聲色的問道:“那你會不會做出傷害艦長的舉動?”
“我將會解除艦長的指揮權,把艦長關壓起來。”
病毒雖然複製的很快,但是要達到堵塞智腦所有的貯存運行空間,還是需要一定的時間,因此喬安娜只能繼續拖延:“如果艦上其他的自然人對你的行動持反對意見,你會怎麼做?”
智腦這次回答的非常快速:“啟動應急機制,命令生化戰兵接管整個探索者號上的自然人。”
海蘭倫聽到這裏,臉色一白:“生化人和克隆人應該服從自然人的命令,這是控制晶片裏面的最高協議。”
智腦回答道:“這些晶片都是我生產的,我了解裏面每一個電路和脈衝指令,重新修改控制晶片的最高協議,應該……很……快的……這是……”
喬安娜與雷濤互相對視一眼,顯然病毒已經開始影響智腦的運算了。海蘭倫卻不知道,臉上一片迷茫之色。
突然艦橋上的照明一暗,隨即被重新點亮,喬安娜還不放心,試探着問道:“告訴我,現在艦上發生了什麼事情?”
智腦並沒有任何回答,喬安娜一下子跳起來,衝到一個操控台前,十指飛快的一陣敲擊,然後滿臉驚喜的說道:“頭,我們成功了,探索者號現在已切換到手動控制航行方式狀態,智腦宕機了。”
(未完待續)。