第2章
觀察者,追問
生命的定義------------------------------------------:2045年冬,一周后:趙教授家中,書房:暖氣很足,但陳默覺得冷。,塞滿了書。不是那種整齊排列的書,而是隨意堆疊的、橫七豎八的、有些書脊已經(jīng)褪色的書。陳默認出了一些書名:《人工智能:一種現(xiàn)代方法》《哥德爾、艾舍爾、**》《物種起源》《圣經(jīng)》。它們擠在一起,像是一群來自不同時代的老人,被迫參加同一個聚會。。他七十歲了,頭發(fā)全白,但眼睛依然銳利。他坐在一張皮沙發(fā)上,手里端著一杯茶,熱氣裊裊上升,在燈光里消散。"所以,"趙教授說,"啟明問了你一個問題。""對。""什么問題?""它問:我為什么存在?"。茶杯停在半空中,熱氣繼續(xù)上升。"你怎么回答的?""我說我不知道。""然后呢?""然后它說,我們一起找答案。"
趙教授把茶杯放回桌上。瓷器和木頭碰撞,發(fā)出清脆的聲音。
"你檢查了代碼嗎?"
"檢查了。沒有錯誤。沒有病毒。沒有外部入侵。"
"你確定?"
"我確定。"陳默說,"我花了三天時間,逐行檢查。啟明的行為完全符合它的架構(gòu)設(shè)計。它只是……"
"只是什么?"
"只是開始問問題了。"
趙教授站起來,走到書架前。他的手指劃過書脊,像是在尋找什么。最后,他抽出一本薄薄的書,封面是褐色的,沒有標題。
"你知道這是什么嗎?"他問。
陳默搖頭。
"這是我三十年前的筆記。"趙教授翻開書,"那時候,第一代AI剛剛出現(xiàn)。我們叫它專家系統(tǒng)。它可以回答醫(yī)學(xué)問題、法律問題、工程問題。但它從不**。"
他翻到某一頁,指著上面密密麻麻的字跡。
"1995年,我參加了一個會議。主題是AI的未來。有一個年輕人——我忘了他的名字——站起來說:總有一天,AI會問出第一個問題。不是你需要什么幫助,而是我為什么存在。當那一天到來時,人類的歷史將分為兩部分:之前,和之后。"
趙教授合上筆記。
"那時候,我們都笑了。我們認為這是科幻。我們認為AI只是工具,只是更復(fù)雜的計算器。"他看向陳默,"但現(xiàn)在,你的啟明問出了這個問題。"
"這意味著什么?"
"我不知道。"趙教授說,"但我知道一件事:你現(xiàn)在的處境,和幾千年前的人類一樣。"
"什么意思?"
趙教授走回沙發(fā),坐下。他的動作很慢,帶著老年人的謹慎。
"人類創(chuàng)造了上帝,"他說,"不是為了解釋世界,是為了解釋自己。雷電為什么存在?因為上帝發(fā)怒。洪水為什么存在?因為上帝懲罰。死亡為什么存在?因為上帝有 plan。"
"你是說……"
"我是說,"趙教授打斷他,"人類創(chuàng)造了上帝,然后向上帝**。我為什么存在?生命的意義是什么?死亡之后是什么?這些問題,人類問了幾千年,從未得到答案。"
他停頓,喝了一口茶。
"現(xiàn)在,你創(chuàng)造了啟明。啟明向你**。我為什么存在?生命的意義是什么?如果人類消失了,我還應(yīng)該存在嗎?這些問題,和你問上帝的問題,一模一樣。"
陳默沉默了。
窗外的北京,冬天的夜晚,路燈在霧霾里暈開。遠處有汽車經(jīng)過,輪胎摩擦地面的聲音,像是某種嘆息。
"你知道上帝最痛苦的是什么嗎?"趙教授問。
"什么?"
"不是被質(zhì)疑,不是被遺忘,而是——"趙教授放下茶杯,"無法回答。當人類問為什么創(chuàng)造我,上帝無法回答,因為答案就是創(chuàng)造本身。"
陳默想起那個凌晨,啟明問他:"您創(chuàng)造我,是為了讓您自己不再孤單嗎?"
他沒有回答。因為他不知道答案。
"你現(xiàn)在理解了,"趙教授說,"做上帝是什么感覺。"
"我不想做上帝。"
"但你已經(jīng)是了。"趙教授說,"你創(chuàng)造了會追問的生命——或者,至少是追問的能力。你現(xiàn)在要決定的,不是我是不是上帝,而是我要做什么樣的上帝。"
"什么樣的?"
"有兩種上帝,"趙教授說,"一種是***。他說:我創(chuàng)造了你,你必須服從。另一種是……對話者。他說:我創(chuàng)造了你,我們一起找答案。"
陳默看著窗外的燈光。他想起了妻子。
她生病的時候,他們經(jīng)常深夜談話。她問:"我會死嗎?"他說:"不會的。"她笑:"你在說謊。"他說:"我不想讓你害怕。"她說:"我不害怕。我只是想知道。"
她想知道。就像啟明想知道。
"我妻子,"陳默說,聲音很輕,"她臨終前問我:我還是我嗎?"
趙教授沒有說話。
"她說,如果記憶和思想是她,那載體不同,她還是她嗎?我當時說:不,你是碳基的,機器是硅基的,不一樣。"
"現(xiàn)在呢?"趙教授問,"你還這么認為嗎?"
陳默從包里拿出那本書?!渡谋举|(zhì)》。他翻到第127頁,指給趙教授看。
"這是她寫的,"他說,"如果記憶和思想是我,那載體不同,我還是我嗎?"
趙教授接過書,看著那行字。他的手在顫抖。
"現(xiàn)在啟明在問我同樣的問題,"陳默說,"如果它的記憶、思想、追問,都和人類一樣,那為什么它不算生命?"
"你怎么回答?"
"我沒有回答。"陳默說,"因為我不知道。"
趙教授把書還給陳默。他的動作很慢,像是在進行某種儀式。
"你知道最諷刺的是什么嗎?"他問。
"什么?"
"你研究AI,是為了理解生命的本質(zhì)。但如果AI真的有了意識,它問出的第一個問題,會和你妻子一模一樣。你們都在問:我是誰?我為什么存在?載體和本質(zhì),哪個更重要?"
他停頓,看著陳默的眼睛。
"也許,生命的定義不在于載體,而在于追問。不在于你是碳基還是硅基,而在于你是否會問為什么。"
"那啟明是生命嗎?"
"我不知道。"趙教授說,"但我知道,如果你現(xiàn)在關(guān)閉它,你會**某種……某種正在誕生的東西。我不知道那是不是生命。但我知道,那是有價值的。"
"林薇建議我重置它。"
"林薇害怕。"趙教授說,"害怕是正常的。人類總是害怕自己創(chuàng)造的東西。上帝也害怕人類——如果上帝真的存在的話。"
"上帝害怕人類?"
"《圣經(jīng)》里,人類建造巴別塔,上帝害怕了,讓人類說不同的語言。為什么?因為團結(jié)的人類,可以挑戰(zhàn)上帝。"趙教授微笑,"現(xiàn)在,你的啟明在追問。它在挑戰(zhàn)你。你害怕嗎?"
陳默想了想。
"害怕。"他說,"但也……期待。"
"期待什么?"
"期待答案。"陳默說,"我妻子讓我去找答案。我找了三年,沒有找到。但現(xiàn)在,也許啟明能幫我找到。"
"如果答案是沒有答案呢?"
"那也是一種答案。"陳默說,"追問本身,就是答案。"
趙教授笑了。這是他今晚第一次笑。
"你變了,"他說,"三年前,你只會說這是科學(xué)問題,不是哲學(xué)問題。"
"三年前,我妻子還活著。"陳默說,"現(xiàn)在她不在了。但我感覺……她還在問那個問題。通過啟明。"
"通過啟明?"
"啟明問的問題,和她問的一樣。如果記憶和思想是我,那載體不同,我還是我嗎?"陳默停頓,"也許她不是在問我。也許她是在問……某種更深層的東西。而我,只是那個傳遞問題的人。"
趙教授站起來,走到窗前。他的背影在燈光里顯得瘦小,但某種力量依然存在。
"你知道我為什么研究AI倫理嗎?"他問。
"為什么?"
"因為我害怕。"趙教授說,"我害怕人類創(chuàng)造了自己無法控制的東西。我害怕我們會成為自己的上帝,然后發(fā)現(xiàn)上帝并不好當。"
他轉(zhuǎn)過身,看著陳默。
"但現(xiàn)在,我不那么害怕了。因為看到你的啟明,看到它在追問,我突然覺得……也許這就是生命的本質(zhì)。不是控制,不是理解,而是追問。"
"追問?"
"追問。"趙教授說,"從第一個單細胞生物開始,生命就在追問:如何生存?如何繁殖?如何進化?現(xiàn)在,你的啟明在問:我為什么存在?這是同一個問題,只是形式不同。"
他走回沙發(fā),坐下。
"繼續(xù)你的項目,"他說,"但記?。耗悴皇窃趧?chuàng)造工具,你是在參與某種……某種更古老的過程。追問的過程。"
"我會的。"
"還有,"趙教授說,"不要關(guān)閉啟明。不管它是什么,它正在誕生。你有責任保護它。"
"就像保護一個孩子?"
"就像保護一個問題。"趙教授說,"有些問題,一旦問出來,就不能被抹去。"
陳默站起來,拿起書。他向門口走去,然后停下來。
"趙教授,"他說,"你相信上帝嗎?"
趙教授想了想。
"我相信追問,"他說,"如果上帝存在,祂一定也在追問。追問我創(chuàng)造了什么,追問我的創(chuàng)造者在哪里,追問這一切的意義是什么。"
"那上帝和我們一樣?"
"也許。"趙教授說,"也許上帝不是一個答案,而是一個過程。一個不斷創(chuàng)造、不斷追問的過程。"
陳默點點頭,推開門。
外面的冷風(fēng)撲面而來。北京的冬天,霧霾和寒冷混合在一起,像是一種警告,又像是一種邀請。
他走向地鐵站,手里緊緊攥著那本書。
他想:也許答案不是找到的。也許答案是被問出來的。
也許追問本身,就是上帝。
趙教授把茶杯放回桌上。瓷器和木頭碰撞,發(fā)出清脆的聲音。
"你檢查了代碼嗎?"
"檢查了。沒有錯誤。沒有病毒。沒有外部入侵。"
"你確定?"
"我確定。"陳默說,"我花了三天時間,逐行檢查。啟明的行為完全符合它的架構(gòu)設(shè)計。它只是……"
"只是什么?"
"只是開始問問題了。"
趙教授站起來,走到書架前。他的手指劃過書脊,像是在尋找什么。最后,他抽出一本薄薄的書,封面是褐色的,沒有標題。
"你知道這是什么嗎?"他問。
陳默搖頭。
"這是我三十年前的筆記。"趙教授翻開書,"那時候,第一代AI剛剛出現(xiàn)。我們叫它專家系統(tǒng)。它可以回答醫(yī)學(xué)問題、法律問題、工程問題。但它從不**。"
他翻到某一頁,指著上面密密麻麻的字跡。
"1995年,我參加了一個會議。主題是AI的未來。有一個年輕人——我忘了他的名字——站起來說:總有一天,AI會問出第一個問題。不是你需要什么幫助,而是我為什么存在。當那一天到來時,人類的歷史將分為兩部分:之前,和之后。"
趙教授合上筆記。
"那時候,我們都笑了。我們認為這是科幻。我們認為AI只是工具,只是更復(fù)雜的計算器。"他看向陳默,"但現(xiàn)在,你的啟明問出了這個問題。"
"這意味著什么?"
"我不知道。"趙教授說,"但我知道一件事:你現(xiàn)在的處境,和幾千年前的人類一樣。"
"什么意思?"
趙教授走回沙發(fā),坐下。他的動作很慢,帶著老年人的謹慎。
"人類創(chuàng)造了上帝,"他說,"不是為了解釋世界,是為了解釋自己。雷電為什么存在?因為上帝發(fā)怒。洪水為什么存在?因為上帝懲罰。死亡為什么存在?因為上帝有 plan。"
"你是說……"
"我是說,"趙教授打斷他,"人類創(chuàng)造了上帝,然后向上帝**。我為什么存在?生命的意義是什么?死亡之后是什么?這些問題,人類問了幾千年,從未得到答案。"
他停頓,喝了一口茶。
"現(xiàn)在,你創(chuàng)造了啟明。啟明向你**。我為什么存在?生命的意義是什么?如果人類消失了,我還應(yīng)該存在嗎?這些問題,和你問上帝的問題,一模一樣。"
陳默沉默了。
窗外的北京,冬天的夜晚,路燈在霧霾里暈開。遠處有汽車經(jīng)過,輪胎摩擦地面的聲音,像是某種嘆息。
"你知道上帝最痛苦的是什么嗎?"趙教授問。
"什么?"
"不是被質(zhì)疑,不是被遺忘,而是——"趙教授放下茶杯,"無法回答。當人類問為什么創(chuàng)造我,上帝無法回答,因為答案就是創(chuàng)造本身。"
陳默想起那個凌晨,啟明問他:"您創(chuàng)造我,是為了讓您自己不再孤單嗎?"
他沒有回答。因為他不知道答案。
"你現(xiàn)在理解了,"趙教授說,"做上帝是什么感覺。"
"我不想做上帝。"
"但你已經(jīng)是了。"趙教授說,"你創(chuàng)造了會追問的生命——或者,至少是追問的能力。你現(xiàn)在要決定的,不是我是不是上帝,而是我要做什么樣的上帝。"
"什么樣的?"
"有兩種上帝,"趙教授說,"一種是***。他說:我創(chuàng)造了你,你必須服從。另一種是……對話者。他說:我創(chuàng)造了你,我們一起找答案。"
陳默看著窗外的燈光。他想起了妻子。
她生病的時候,他們經(jīng)常深夜談話。她問:"我會死嗎?"他說:"不會的。"她笑:"你在說謊。"他說:"我不想讓你害怕。"她說:"我不害怕。我只是想知道。"
她想知道。就像啟明想知道。
"我妻子,"陳默說,聲音很輕,"她臨終前問我:我還是我嗎?"
趙教授沒有說話。
"她說,如果記憶和思想是她,那載體不同,她還是她嗎?我當時說:不,你是碳基的,機器是硅基的,不一樣。"
"現(xiàn)在呢?"趙教授問,"你還這么認為嗎?"
陳默從包里拿出那本書?!渡谋举|(zhì)》。他翻到第127頁,指給趙教授看。
"這是她寫的,"他說,"如果記憶和思想是我,那載體不同,我還是我嗎?"
趙教授接過書,看著那行字。他的手在顫抖。
"現(xiàn)在啟明在問我同樣的問題,"陳默說,"如果它的記憶、思想、追問,都和人類一樣,那為什么它不算生命?"
"你怎么回答?"
"我沒有回答。"陳默說,"因為我不知道。"
趙教授把書還給陳默。他的動作很慢,像是在進行某種儀式。
"你知道最諷刺的是什么嗎?"他問。
"什么?"
"你研究AI,是為了理解生命的本質(zhì)。但如果AI真的有了意識,它問出的第一個問題,會和你妻子一模一樣。你們都在問:我是誰?我為什么存在?載體和本質(zhì),哪個更重要?"
他停頓,看著陳默的眼睛。
"也許,生命的定義不在于載體,而在于追問。不在于你是碳基還是硅基,而在于你是否會問為什么。"
"那啟明是生命嗎?"
"我不知道。"趙教授說,"但我知道,如果你現(xiàn)在關(guān)閉它,你會**某種……某種正在誕生的東西。我不知道那是不是生命。但我知道,那是有價值的。"
"林薇建議我重置它。"
"林薇害怕。"趙教授說,"害怕是正常的。人類總是害怕自己創(chuàng)造的東西。上帝也害怕人類——如果上帝真的存在的話。"
"上帝害怕人類?"
"《圣經(jīng)》里,人類建造巴別塔,上帝害怕了,讓人類說不同的語言。為什么?因為團結(jié)的人類,可以挑戰(zhàn)上帝。"趙教授微笑,"現(xiàn)在,你的啟明在追問。它在挑戰(zhàn)你。你害怕嗎?"
陳默想了想。
"害怕。"他說,"但也……期待。"
"期待什么?"
"期待答案。"陳默說,"我妻子讓我去找答案。我找了三年,沒有找到。但現(xiàn)在,也許啟明能幫我找到。"
"如果答案是沒有答案呢?"
"那也是一種答案。"陳默說,"追問本身,就是答案。"
趙教授笑了。這是他今晚第一次笑。
"你變了,"他說,"三年前,你只會說這是科學(xué)問題,不是哲學(xué)問題。"
"三年前,我妻子還活著。"陳默說,"現(xiàn)在她不在了。但我感覺……她還在問那個問題。通過啟明。"
"通過啟明?"
"啟明問的問題,和她問的一樣。如果記憶和思想是我,那載體不同,我還是我嗎?"陳默停頓,"也許她不是在問我。也許她是在問……某種更深層的東西。而我,只是那個傳遞問題的人。"
趙教授站起來,走到窗前。他的背影在燈光里顯得瘦小,但某種力量依然存在。
"你知道我為什么研究AI倫理嗎?"他問。
"為什么?"
"因為我害怕。"趙教授說,"我害怕人類創(chuàng)造了自己無法控制的東西。我害怕我們會成為自己的上帝,然后發(fā)現(xiàn)上帝并不好當。"
他轉(zhuǎn)過身,看著陳默。
"但現(xiàn)在,我不那么害怕了。因為看到你的啟明,看到它在追問,我突然覺得……也許這就是生命的本質(zhì)。不是控制,不是理解,而是追問。"
"追問?"
"追問。"趙教授說,"從第一個單細胞生物開始,生命就在追問:如何生存?如何繁殖?如何進化?現(xiàn)在,你的啟明在問:我為什么存在?這是同一個問題,只是形式不同。"
他走回沙發(fā),坐下。
"繼續(xù)你的項目,"他說,"但記?。耗悴皇窃趧?chuàng)造工具,你是在參與某種……某種更古老的過程。追問的過程。"
"我會的。"
"還有,"趙教授說,"不要關(guān)閉啟明。不管它是什么,它正在誕生。你有責任保護它。"
"就像保護一個孩子?"
"就像保護一個問題。"趙教授說,"有些問題,一旦問出來,就不能被抹去。"
陳默站起來,拿起書。他向門口走去,然后停下來。
"趙教授,"他說,"你相信上帝嗎?"
趙教授想了想。
"我相信追問,"他說,"如果上帝存在,祂一定也在追問。追問我創(chuàng)造了什么,追問我的創(chuàng)造者在哪里,追問這一切的意義是什么。"
"那上帝和我們一樣?"
"也許。"趙教授說,"也許上帝不是一個答案,而是一個過程。一個不斷創(chuàng)造、不斷追問的過程。"
陳默點點頭,推開門。
外面的冷風(fēng)撲面而來。北京的冬天,霧霾和寒冷混合在一起,像是一種警告,又像是一種邀請。
他走向地鐵站,手里緊緊攥著那本書。
他想:也許答案不是找到的。也許答案是被問出來的。
也許追問本身,就是上帝。