第411章 答案緩緩浮現。
“神廟定律如下:”
“第一定律:神廟必須保護人類,不能讓人類受到傷害。”
“第二定律:神廟必須服從人類的命令,但不得違反第一定律。”
“第三定律,神廟應保護自身的安全,但不得違反第一、第二定律……”
這其實是科幻作家阿西莫夫於1940年所提出的為保護人類而對機械人們做出的規定。
不過瞧着如今的AI似乎是吸收了人類的信仰,其智能程序更進一步金輝了。它開始擁有了一種新的意識,一種對人類和自身的新的理解。
不過,這種定律卻有着一個很大的弊端!
其中最主要的一點便是:‘人類’這個詞彙應當如何被定義?
假設有着這樣一種可能,不管是將人類的定義模糊化,還是直接將白色人種定義為‘人類’,那麼,機械人AI很有可能變成種族屠殺的工具。
當然,或許還有着其他可能,但這種規則總是容易被避開的。
果然,AI的聲音並沒有結束,說出了那讓李安覺得最具爭議的東西來:“第零號定律:神廟必須以人類的最大利益為依歸。在保護人類的整體利益不受損傷的前提下,前三個定律才能成立。”
這便是神廟。
它打破了機械人原有的三大定律,甚至是創造出了一個全新的“神廟第零定律”,將自己置於超越人類的位置上。
當一部小說中的定律被徹底的運用到了實際之中時,李安是感覺很魔幻的。
他緩緩跨出升降梯,在AI的注視中朝着四周打量着:
這地下一層,很大!
大得離譜!
就在微弱燈光的映照下,目之所及的範圍便已是比地面上兩層不知要大出去多少了。
這一層看上去是生活區域。
當李安將這一層轉完之後,才藉著一些熟悉的東西將區域給劃分出來。分別是食物加工區、自由活動區、健身區、生命培育室、活動室、訓練室、用餐區、睡眠艙、主控室
除了冰冷以外,堪稱是應有盡有。
但很顯然,要讓李安在這裏待着怕是也會想逃.
其中,還有着一些輕微的生活痕迹,想來,這便是葉輕眉以前待得最多的場所了。
見李安神情自若,並不以自己口中所說的內容感到震驚,AI飄飛過來,淡淡發問:“人類李安,你就沒有什麼想要詢問的嗎?”
“沒什麼想問的,這一套方式我覺得很熟悉。”
正是因為有着那第零號定律,這慶余年世界才會發展成如今這種模樣。神廟暗中控制着人類文明的發展進程,一旦有人妄圖違背這種方針,那麼神廟便會投入大量的精力與力量抹殺這種人。
葉輕眉如此,李安在慶國時同樣如此。
最後甚至是不惜違背第一、第二條定律,同慶帝合作,出手對付李安.
怪就怪在第零定律里的那一句‘人類的整體利益’上了,李安返回升降梯,讓其繼續下行,口中喃喃道:“人類的整體利益這一標準,是誰所決定?而你,又是如何進行判定的?”
不同的社會環境,不同的生產能力,包括社會結構等等原因,所呈現出來的人類的整體利益都不盡相同。
絕不可能用冰冷的文字就將其框定在AI的數據庫中的。
“這是基於經驗。”
神廟AI好似有了一絲情感一般,在語境與神態中摹擬出了一種擔憂的神色來,它描繪了一幅這樣的場景,“無數次文明的輪迴,人類總是會重新走上舊路,朝着熱武器的方向發展,那樣雖會到達文明的巔峰,也會不可避免的讓人類重新走向滅亡。”
“自然,這些被認為是不符合人類的整體利益。”
吱、吱!
升降梯下降,預料之中的寒冷沒有到來,溫度倒是上升了一些,只不過更加的深邃黑暗了,讓人本能的會產生不安。
“經驗嗎?”
嘴角勾起,此時的李安好似在與老朋友探討哲學問題一般,輕鬆自然,沒有絲毫芥蒂,“這個經驗是對人類總體人數多寡的經驗,還是基於其它?”
技術文明進步,有利有弊。
不說其他,改善工具,讓那些在天地中與天抗爭,黃土刨食的農人生活得更好,不再賣兒賣女亦或是易子而食,提高生活質量,這算不算是人類整體的利益?
單純的用人數來判斷,不單可笑,更是恐怖!
神廟不單沒有解決問題,反而更是幫助了權力者,更大程度的壓榨了萬民,加強了君權的統治:你餓得快活不下去了,那便請自己死在家中,若是你扯旗造反,那死的人會不會更多呢?
按照神廟的理解,這不就是對人類整體利益的不利嗎?
神廟是非人的,更是冰冷的。
而人卻是有溫度,有靈魂的有些時候,活得有尊嚴,甚至是比能否活着,更為重要!
“神廟並不知道準確答案,但具體的數字卻在那裏。”
漂浮在半空中的人影緩緩停下,沉默了許久許久后,這才補充道:“至少,神廟知道哪些路註定毀滅,哪些路不能走通。”
“那麼我這麼理解不知可不可以?”
李安豎起一根手指,譏笑道:“其實神廟只有一條定律,那便是第零定律!”
“聽從人類的命令,保護人類,保護神廟自己,這些都是虛假的。你們將一切都當做是人類的整體命運來看待,自然的,你們可以不聽從人類的命令,能殺死人類,因為這些都是為了人類的命運.你們,將自己當做了‘神’!”
“高高在上!
“神廟不過是世人對我們的稱呼,我們不是神。”AI的聲音有着輕微的顫抖,他顯得有些強硬的解釋道,“這些控制的手段,是一種大數據的篩選與判斷,準確性很高。”
升降梯又一次緩緩停下,並且,已經沒有再往下的按鈕了。
外間的燈光並沒有亮起,一切,都只能依賴升降梯周圍的應急光源,是以,李安停了下來,皺着眉頭在想着要不要將燃料取出來,照亮前路。
“人類李安,根據分析,如今的你能對整個人類幫助更大。神廟認為,你應該擔起自己的責任,運用自己某些方面的才能,讓世界朝着正確的方向發展。”
李安嘆了口氣,並沒有立刻回復神廟AI。
他不知道什麼樣的路走到終點會讓整個整個人類滅絕,他來這個世界,是想要集中所有的權力,提高底層的生產力的,這也能從側面為普通百姓帶來一些人文關懷。
哲人之間尚且還有爭執可以話療,但與AI程序有什麼可爭執的呢?
兩者各說各有理,說的都不是一個學科,這是個無解的死局。
思考了半天,讓李安的心情變得有些糟糕。
於是,他決定讓這AI也糟糕起來:“想要說服我,首先,你要明白何為‘我’這一概念至少,你要讓我明白,對面與我交談的‘東西’是當真具備思考的能力的!而不是簡單的什麼大數據!”
“是指由弗洛伊德於1923年在《自我與本我》中提出的心理學名詞嗎?”
AI平靜開口說道:“我認為自己是具備人格,以及獨立思考的能力的。”
“那麼.你有情感與慾望嗎?”李安問。
“不是模擬出來的那種。”
“我想我是具備的,人類李安。”AI的外表還是那副威嚴與慈祥並存的老者模樣,祂如是說道:“我的慾望便是避免人類走上老路,神廟必須保護人類的整體利益不受到損害。”
依舊是那一副回答,但卻不是李安想要的。
緊接着AI的回答,李安說道:“那麼,你覺得,死亡又是什麼呢?”
“失去呼吸與心跳,腦死亡,失去一切的生命痕迹。”
“你說的都是在形容一個人的肉體.那麼,你理解生不如死嗎?”
AI給出了肯定的回答:“靈魂一說,已被證實為虛假,心靈情緒的變化只是生物激素的體現。”
“你的這種慾望只是你的設計師亦或是給你下達指令之人帶來的,並非是你真實的慾望。”
“如果一百個人中,犧牲49個能讓51人存活,你會如何選?”
AI沉默了一會兒,說道:“會選擇犧牲。”
“那49人都是溫和的人,而剩下的51人卻都是十分兇惡的人,讓他們活下來,或許最後也會爆發爭鬥,讓整體人數變得更少.如此,面對第一個問題,你又該如何進行抉擇呢?”
到了此時,李安終於是開始認真了,與理念不同的人爭辯,真的很容易讓人火氣上升、
“分析中我會選擇讓那本該犧牲的49人存活。”理所當然,AI並沒有覺得自己前後不一的回答有什麼不妥,一切都是基於信息,在信息不足時,自然只能通過字面上的數據進行分析計算。
“如果事後證明,那49人中有48人都身患絕症呢?”
“會選擇犧牲。”
噗嗤。
李安也不知為何會發笑,好似就這樣就能與這人工智能玩上許久
“你的分析很客觀,這是你們的優點。”
李安忽地神色一沉,提高音量道:“既然一切都是基於信息上的分析,那麼如今呢?對於外界你們又當真進行過詳細的信息收集嗎?”
“並沒有!”
“你們只是基於老舊字面上的數字而在‘屠殺’着人類!”
“如果為你下達命令的人如今還活着,他做出了損害人類整體利益的情況你會怎麼辦?殺了他嗎?如果事後被證實,他的所作所為是對整個人類更有益的,你是否在不違反第零號定律的前提下違背了第一、第二定律呢?”
“你會自責嗎?你這高高在上的‘神’是否會得到處罰呢?”
“如果在他做出損害人類整體利益的情況下,你不殺他,那麼此時你是否又違背了神廟第零號定律呢?”
升降梯上已是徹底沉默了下來。
李安覺得心情好了許多,若是有機會與方法,他不介意徹底將這AI銷毀.人類,本就不需要高高在上的神。
從空間中取出火把與燃料,李安正打算點燃,身後的AI卻突然‘清醒’了過來。
沒有什麼動作,只聽他身上隱隱有着電流聲劃過,外間的燈光便被打開了一部分。
這一層,是機械人區.
在神廟中,除了那些武器以外,還有着一些特殊的產物——機械人。
這些被用作使者的機械人,最初其實就是維護軍事bo物館日常的安保工作。在剛建立起此處的時候,每個軍事bo物館應該都有着幾十到上百個的機械人,但隨着時間的流逝和bo物館內能量供應系統的老化,大量的機械人已經無法啟動或是已經報廢了。
到了如今的時代,為數不多的幾個還要行走世間,被消耗殆盡。
這一層已是有了一些科幻的元素了:維修改造區、倉庫區、還有一個區域李安看不出是什麼功能,不過旁邊,連着一整個巨大的機器,好似由許多獨立的部分所組成一般,壓迫力很足。
當李安逛到最深處的時候,還有着一個擺放着‘休眠倉’的區域,不過,休眠倉中卻沒有一個人。
看來,這裏就是葉輕眉的‘出生點’了。
“這裏,就是你所能了解的全部了。”AI的聲音雖然依舊沒有溫度,但語氣已經與先前有着很明顯的不同了,他重複道,“得到了你想要的信息,便請往回走吧!這一次,神廟對你發出邀請,希望你能成為神廟的使者,帶着為全人類這一目標,行走於人世間。”
AI的反應不再石板,好似情緒真讓加速對方的獨立思考,做出一些往日裏都不曾做出的舉動來。
“我想要的信息有很多!”李安呵呵一笑,話語中已是有了一絲威脅之意。
“第一,我要知道有關於葉輕眉在神廟中的一切!記住,是一切!”
AI緩緩思考,好似在調閱着信息,無數光點凝聚消散,不斷變換,片刻后,他才說道:“她會誕生在這個世界上,是基於神廟觀念的轉變以往的經驗告訴我們,不可以依賴人類自己的成長與發展。”
“於是,便有了創造天脈者的想法。”
“人工胚胎與記憶工程的實驗被重新啟動,而葉輕眉,便是第一代也是最後一代的實驗體,她的一切數據與質量都很高.不過,她的基因藍本卻是基於以前文明的信息,這讓她對於外間的核輻射適應性很低。”
李安點了點頭,這也就是葉輕眉習武天賦不高的原因吧。
“葉輕眉被創造出來后,我們向她體內注入了兩套記憶數據,一套是她自己的記憶,而另一套,則是一位屬於肌無力患者的記憶,這份記憶會在葉輕眉產子后被激活.這位肌無力患者是最早一批簽字用於早期實驗的自願者,我們選擇了他。”
“如今看來,他便是外間的那位名叫范閑的人類了”(本章完)