作者：Stephen Wolfram
翻譯：彭穎
《東方歷史評論》微信公號：ohistory
本文為《人工智能與文明的未來》一文的下半部分，點此閱讀上半部分。
在數學方面，例如1910年懷特海(Whitehead) 和羅素(Russell)的《數學原理》，至少這是努力的最重要成果。之前曾有弗雷格(Frege)和皮亞諾( Peano) ，只是他們的成果更低調一些，他們努力嘗試將數學在一個精確系統中形式化。他們做對和做錯的那些事都挺有意思。最終，他們錯在想法上，他們認為自己應該形式化。他們覺得應當將數學證明的過程形式化，事實證明大多數人并不關心這個。
你問現代化的圖靈測試是什么，現代類似于圖靈測試的是什么。這是一個有趣的問題。能夠有對話機器人，這是圖靈的想法。到現在仍然是個問題。這個問題尚未解決，它終將得以解決。唯一的問題是如果解決了，要將它應用到何處？
很長一段時間，我一直在問我們為什么要關心這類事情，因為我覺得首先就會用于客戶服務。雖然這樣的應用很了不起，在最喜歡的生活方式單子上，它可排不到前列。客戶服務恰恰是這些你會進行互動、會發生對話的地方。
我意識到一點，圖靈的時代和我們的時代之間存在一個巨大的差別，就是我們與計算機進行通信的方法。還有一個巨大的差異，他那時設想的對話是這樣的：你向機器說了一些事情，或者你打一些字過去，它會打一些字給你。而如今，它給你顯示的是一個屏幕。幾年前我很好奇的情況是，去電影院你可以從一個人那里買電影票，也可以向一臺機器買電影票。
我這樣的人總是喜歡用最新的科技玩意，只要這些東西出現在電影院，我只會使用機器。很長一段時間里，并沒有其他人用機器。之后在城市的電影院，你開始發現用機器的人越來越多。現在大多數人都用機器了。
與計算機交易和與人交易有何不同？主要的答案就是機器上有可視化顯示。它可能會問你一件事，你只要按一個按鈕，你可以馬上看到，你可以用你的眼睛來了解一些事，用你的視覺系統來做解釋。這是一點不同。
例如，對Wolfram Alpha，如果你問它點什么，當它運用內部的Siri，若有一句簡短的回答，Siri會簡短地回答你。但大多數人需要的是直觀顯示更多的報告，某種信息圖表。這東西挺有趣，因為它是非人類的溝通形式，結果卻比傳統的人際交流更豐富。
如果我們都是快得不可思議的完美畫家，我們可以一邊談論一邊繪制這些信息圖表，并說這些就是我說的內容。但事實上，大多數人際交流中，我們只用純粹的語言，而電腦與人的交流中，我們有視覺傳達這個帶寬更高的通道，這一點很重要。
傳統的圖靈測試是有點滑稽，因為許多最強大的應用都消失了，因為我們有了這個額外的交流通道。例如，下面是我們現在正努力追求的，就是可以對編寫程序進行交流的機器人。你說，“我想編寫這個程序，我想這樣做。”它會說：“我寫了這個程序，這是它可以做的。這是你想要的嗎？”等等等等。這是一個可以應答來往的機器人。還有其他種類的機器人，比如輔導機器人，它了解一些化學之類的東西。這里有一個有趣的麻煩，因為你必須要有人類的模型。如果你想解釋，這時候應該說什么才是正確的？好吧，人究竟哪里不明白？你必須要有人類的模型，才能知道他們有何困惑，如此這般。
我很難理解的是，當你實現了圖靈測試的那些人工智能，卻沒有正確的動機。作為一個玩具，我們可以做一個小機器人陪人聊天。這將是下一步的事情。我們可以看到經過此輪的深度學習，尤其是重現的神經網絡，已經有了可以很好運用人類語言和人類寫作的模型。要輸入比如“你今天感覺怎么樣？”這并不難，它知道大部分時候如果有人問這個，你要做這樣的回應。
例如，我想弄清楚是否可以自動回復我的電子郵件。我知道答案是否定的。如果我能用機器回復我的大部分郵件，對我來說這將是一個很好的圖靈測試。這是一個嚴峻的考驗。電子郵件的一些方面，比如，“我不關心這個，扔進垃圾郵件文件夾”—— 這相對容易。但是，如果有人對你說“關于我們某個產品設計的矛盾，我們要怎么做？” ——要能說“你贊成這種東西嗎？”—— 要能夠多少帶著點信心回答這些實在很難。
要認識到一點，人們必須從電子郵件聯系的那個人那里學習這些問題的答案。我可能超前了一點，因為我一直在收集自己25年來的數據。我搜集了自己25年的每封郵件，20年來按下的每個鍵，以及許多類似的東西。我應該能培養一個分身，一個人工智能機，可以做我能做的那些事，或許比我做得更好，比大多數人更容易。
如果這個世界人工智能可以為我們弄清很多事情，人們擔心的場景就是人工智能會接管世界。對這種情景我的想法是，從某種意義上說，首先將發生更多好玩的事情。很快人工智就能知道你打算做什么，你想要做什么的，它很擅長做到那些。
就像車載GPS，我們告訴它自己想要去的目標。我不知道自己到底在哪里，只是跟著我的GPS走。我有過一個很早期的GPS，總是說著“這樣開，這樣開，這樣開，” 我的孩子們總是覺得它很好玩，我們就這么開到了波士頓灣的這些碼頭上，我只是一路跟著GPS走。
更可能會發生的是，會有一臺人工智能機了解我們的歷史，并且知道這份菜單上你可能會想點這道菜，或者當你和這個人說話，你應該跟他們談這個。我看過你的興趣，我也知道一些他們的興趣，這些是你們的共同興趣，這些都是你可以跟他們談論的很棒的主題。人工智能機會越來越多的建議我們應該做什么，我估計大多數時候人們只會聽從機器告訴他們做的事。它的建議可能會比他們自己想出來的更好。
對我來說，人工智能接管的情景，人類的懶惰——這不是懶惰，這是聽取良策。人工智能告訴你該怎么做。它比你自己想出來的要好。就按人工智能說的做吧。
至于技術，還存在一種復雜的相互作用。對于技術，你可以用來做可怕的事情，也可以做好事。人將永遠是人，總有些人會嘗試用技術做壞事，也有些人會嘗試用技術做善事。
今天關于技術我喜歡的一點就是，它為許多不同的人帶來了平等化。曾有一段時間，我的電腦是認識的人里最好的，我對此引以為傲。現在，我的電腦幾乎和任何人的一樣，我知道。大家擁有相同的智能手機，當今七十億人中相當一部分也可以使用幾乎相同的技術。世界還不完全是平的，但它已經比較平了。我們在很多其他技術領域也將看到同樣類型的東西——醫療技術和其他各類領域。我不知道這是出于運氣，還是理應如此，但一個人生產的某種技術會得到非常廣泛的使用。不可能說國王的技術就會與其他人的技術不同。這一點至關重要。
我們制作的東西用來出售，人們在世界各地使用它，有時我們甚至想過要發表那些指數，來顯示Mathematica 軟件的使用頻率，以及Wolfram Alpha如何被世界各地不同國家使用，因為你可以從中獲知很多。你能知道各種事。有些國家技術非常先進，也有些國家沒那么發達。
五百年前，了不起的前沿技能是識字。如今，這就是做某類的程序。今天的程序將于不久后過時。比如，當我在70年代第一次使用計算機，人們會說，“如果你是一個稱職的程序員，你必須使用匯編語言。”現在我經常會問這些計算機專業的畢業生，“你有沒有學習匯編語言的？”他們說，“學過，我上過匯編語言的一節課。”
為什么人們不學習匯編語言的？因為電腦比人類更善于寫匯編語言，而只有很小的一部分人需要知道如何具體將語言編譯成匯編語言。目前程序員大軍做的很多事同樣是平淡無奇的。也就是些能更簡潔地描述目標之類的東西，將其轉為某種巨型的Java代碼或JavaScript代碼或是其他東西。實在沒有很好的理由來讓人類寫所有那些東西。
這就是我這樣的人嘗試做的——對此自動執行，所以我們可以自動化編程的過程，所以最重要的就從人想做什么變成了如何讓你的機器盡可能自動地完成任務。眼下讓我感興趣的一點，就是它帶來的平等化。過去，如果你想為某個真正重要的事情好好寫一段代碼或程序，這是一個大量的工作。你必須相當軟件工程了解，你必須投入好個月時間，你要雇用那些對此了解的程序員，或者你得自己學習。這是一個很大的投資。
現在，很多事物的自動化帶來的一大成就就是，那種情況已經不復存在。一條單行的代碼，甚至有時是發的一條推特之類，都能做出點有趣和有用的事情。這意味著，它打開了一片新的廣闊天地，讓那些以前沒法讓電腦為他們做事的人，也可以讓電腦干活了。
現在會發生什么？在告訴計算機如何為他們干活時，目前孩子們和高級的專業人士處于同一個級別。如何才能將組合思維和編程盡可能廣泛地教給世界上的人呢？
我希望看到的一點就是，世界上每個國家都有大量的孩子學習以知識為基礎的程序設計新技能，他們寫出的代碼可以像那些在最發達、教育程度最高的地方的人們一樣復雜有效。這是指日可待的。
現在任何人都已經可以學習進行知識為基礎的編程，更重要的是，學會計算思維。現在編程的實際過程很容易。困難的是用計算的方式進行構想，并以某種計算方式來思考我們如何將這個活動概念化。
你如何教計算思維？例如，在數學中，關于如何教數學思維，歷史有一千多年之久。為了我們的某個計劃，我曾問起過微積分教材。書里總是有14章，如果我沒有記錯的話。我問他們這同樣的14章有多久了。據說最早積分書是科林·麥克勞林(Colin Maclaurin)于1727年寫的，其中一些結構都是一樣。許多例子也是相同的。它已經發展了很長一段時間，也非常精確地知道——如何教人類數學。
有幾點要做。首先，如果你正在寫Wolfram語言代碼，我最終負責這一語言工作的設計和結構。在DNA代碼和生物的例子里，沒法去找誰說你設計了這個,你該負責。它已經發展了相當長的時間。就像人類的自然語言一樣，要知道它將會做什么有一定難度。當你有了一種設計語言，它應該做設計者認為它應做的事。這并不是說，對生命系統進行編程不是很有用，這不僅是因為我們就是生命系統，也因為生命系統是我們所知唯一成功的分子計算的例子。將來可能某個時候，我們會成功地設計事物，就像設計當今的計算機語言一樣可以成功地設計出是一個類似生命體。但我們還沒達到這一點。我們必須利用自己擁有的分子計算機，這是我們自己和我們的生物體。
至于如何進行這種編程，這是個非常有趣的問題。如果你看看納米技術的歷程，也有過我們如何實現納米技術這種想法。答案是：我們吸取當今對于大型技術的理解，然后讓它變得非常小。我們說，“我們怎樣做一個原子尺度上的CPU芯片？”也許我們機械上能做到，但從根本上說，我們使用的架構與大家熟悉和喜愛的普通CPU芯片是相同的。
那不是唯一可行的方法。看看簡單的程序以及它們所做的事情，我做的很多東西都說明你可以用甚至非常簡陋的元件，只要用了正確的編譯程序，就可以有效地讓他們做非常有趣的事情。
我期盼已久的正是這些項目之一，進行分子級計算，但我不認為周邊技術達到了這種程度，人們可能還得花費十年來構建[它]。我希望很快會有一天，我這樣的人不需要建立所有的周邊技術，可以來做分子計算的東西。
至于如何做到這一點，我猜想，我們已經有的這些足以制造一個通用的計算機組件。你可能只是不知道如何使用這些組件進行編程，但通過搜索無數的可能程序，可以開始建立構件，然后得以創建編譯程序。令人驚訝的是，即使簡陋的東西也能夠做復雜的事情，而編譯程序并不像人們想象的那么可怕。
有人可能會想，現在有這種極小的圖靈機，就是一個具有雙態三色的最簡單的通用圖靈機。它有一個小規則，你可以用英文來寫，可能是一個句子的長度。但你可以拍下它的照片，它小而簡單。你可能會問，“我怎么把程序編進那臺圖靈機？”
我還沒有這樣做，但我認為人們會遇到一層討厭而雜亂的機器代碼，而在此之上它就變得非常簡單了。討厭而雜亂的機器代碼層會降低一點效率，也許萬分之一，或許更多。但和處理大規模的東西相比，處理分子規模時這萬分之一就微不足道了。
我自己的預測和想法就是，只要搜尋計算宇宙，并試圖找到那些有趣的程序，發現那些有趣的構建成分，這可能是個好辦法。更為傳統的工程方法是嘗試通過純粹的思維弄清我們如何建造東西——我的猜測，這會是一條更艱難的道路。
這并不意味著它做不到，而我估計人們將能做到一些了不起的事情，只要說這些是組成部分，我們很好地表述它們，讓我們來尋找用這些東西能夠做出的可能程序。有人可能會說，“我們可以得到這些分子的結合，我們會做各種有趣的事情。它會做出這個大東西，它會做到這個，它將能做那個。”但是我們關注的是什么？然后又回到了那個老問題，關于將人類的目的與系統中的可用資源聯系。
如果許多人都知道如何編寫代碼，世界是什么樣子？編碼是一種表達方式，就像英語寫作的一種表現形式。對我來說，一些簡單的代碼段都相當詩意。他們以一種非常簡潔的方式表達想法。這里也是美之所在，如同自然語言的表達。
總之，我們看到有這種表達自己的方式。你可以用自然語言表達自己，可以通過畫畫表達自己，你可以用代碼表達自己。代碼的一個特點是它可以立即執行。這不是說你寫的東西必須有人來閱讀，而閱讀者的大腦必須單獨吸取寫作者的想法。
如果你看看世界歷史上知識如何傳播，知識傳播的一種形式，本質上是遺傳學。也就是說，有某個有機體，其后代與它有相同的特點，這就是零級層級。
而一級層次是隨著類似生理識別這些知識的傳播發生。當一個新的小生物出生后，它有某種神經網絡。它的神經網絡中有一些隨機連接。但隨著小家伙走向這個世界各處，它開始認識不同類型的對象，并獲取知識。在整個動物王國中，小生物一直在學習生理識別。這就是認識新層次。
還有一個知識層次是人類這一物種的重大成就，這就是自然語言。能夠獲取知識并對其抽象表示，我們得以用一種無形的方式進行溝通。可以說，是大腦與大腦的溝通。個體大腦不必對原材料重新學習。知識可以抽象地獲取并順利傳達給另一個大腦。可以說，自然語言是我們的物種在人類歷史上最重要的發明。在許多方面，正是它帶來了我們的文明和許多其他事情，所以這至關重要。
我們還到達了另一個層次，很可能哪天它會擁有一個更有趣的名字。主要有了以知識為基礎的編程，我們有了表示世界知識的方式。它是世界的實際代表。這不只是數學或計算機語言。它代表了世界實實在在的東西，而且它用了一種精確的符號的方式。它的特點在于，不僅可以讓大腦理解，可以與其他大腦或電腦交流，還可以立即執行。
我敢肯定，這是件大事，我敢肯定，正如在自然語言給我們的文明帶來某些問題一樣，知識為基礎的編程也會帶給我們問題。一個糟糕的結果是，它會給我們帶來人工智能的文明。那將令人類失望。我們不希望發生這一幕，因為那時候可能是人工智能在做偉大的工作——它們相互溝通，它們來做各種事情，而我們幾乎被冷落在一旁，因為沒有中間語言，沒法與我們的大腦互動。
現在我特別感興趣的一個問題是知識傳播的第四層次問題。它將導致怎樣的大變化？這就好比說你是穴居人奧格什么的，你剛意識到語言開始出現，你可以由此想象出文明嗎？現在我們應該怎么想象？
這又涉及到那個問題，如果大多數人會寫代碼，世界是什么樣子？顯然許多瑣碎的小事會改變：合同將用代碼來寫，餐廳的菜單可能會被寫成代碼。 “這就是這道菜的做法？好吧，我想改下這條和那條”等等。這將改變類似的簡單事情。
更深刻的改變也很可能發生。識字的興起帶給我們例如官僚機構之類的東西，這東西過去也存在，但不論好壞，它的發展速度大大加快了。它讓我們的政府系統更為深入。如果大多數人懂代碼，一切會是什么樣？編碼世界如何影響到文化世界？
我最近一直思考的一件事是高中教育。你怎么在高中層次教編程、編碼和計算思維？可能性之一是你開設一門課，將其加入大家今天所學的眾多課程之中。
更有趣的另一種可能性是，你只是重新考慮現有的所有領域。如果我們有了計算思維，它會如何影響我們學習歷史？如何影響我們學習語言、社會研究，或者其他？答案是，它影響很大。
想象一下，你正在寫文章。如今，典型的孩子作文材料通常是：讀點東西——這是原材料——然后寫點相關的。這種情況下孩子們不太容易產生新的知識。但在計算世界里，情況不同了。這對孩子來說非常簡單，如果他們懂些編寫代碼，去看看美麗的數字化歷史數據，然后找出點新的東西。接著，你可以寫寫你的發現，這樣文章就寫出來了。
這是知識型編程的成就——它不再是干巴巴的。原因是它將世界知識融進了您用來編寫代碼的語言。眼下，人們教的有的領域是純數學。至少基礎數學已進入各個領域;它還沒有太深入到人文學科，但它是我們對事情思考方式的一部分，至少基礎數學如此。
同樣，在這些時候，計算是我們思考事情的應有基本方式的一部分。有關計算了不起的是，如果我們以計算方式思考事情，然后事情就可以立即執行。情況就變成，當我們有了計算的想法，我們知道點如何編寫代碼的機制，非常簡單的機制，再結合這一想法，一旦我們用計算方式表示出來，那么我們就可以讓機器去干活了。一個孩子可以讓一臺機器工作，方式和那些高級研究員所做的別無二致。
正如我之前所言，這是個大問題。人工智能本身沒有目標。目標是由人類構建的。通過所做的那些大量科研，我意識到智力和計算是一回事。計算遍及宇宙，無論是洶涌的液體帶來的一些形態復雜的流動，無論是天體力學中小行星之間的某種相互作用，還是在大腦之中。
它是否有一個目的？它的目標是什么？對于任何這些系統，你都可以問這個問題。天氣有它的目標嗎？氣候又是否有目標？不幸的是，這是自亞里士多德以來人們一直在提的問題之一。這是亞里士多德的終極原因的問題。現在答案可以解開一點了。我們今天所看到的很多東西，顯然是人類為了某種目的而做，因為人類工程學的歷史故事有很多。安提凱希拉裝置（Antikythera Device）——當人們看到從公元前1世紀至公元后1世紀之間沉船遺骸中挖掘出來的這堆垃圾——它是有目的而做成嗎？當它沉下來，斷成兩截，所有那些齒輪全露在了外面，我們馬上就知道它是有目的的。這不只是一堆爛泥，因為它是人類工程學歷史的一部分。
鑒于這樣的歷史，很容易認出物體中負載的人類目的。這有點類似“它是否有生命”這個問題。在地球上，很容易回答這個問題。它有核糖核酸嗎？它有細胞膜嗎？這些都來自地球上生命的歷史。
記得當我還是個孩子的時候，第一個火星登陸器著陸了。火星上是否有生命？是每一個季節會生長的綠色東西嗎，草木或什么別的？我記得自己很好奇會進行什么樣的測試。從今天來看，測試非常好玩。當時采用的基本測試就是舀起一塊火星土壤，喂它糖，看它會不會吞下去。這是個頂級的考驗。我不認為有誰會相信生命體必須是個吃糖的東西。這個問題，生命的抽象定義是什么？這很難回答。
回到如何識別目的那個問題。一個例子是從太空遠望地球。能看出地球表面的那些東西是有目的嗎？能看出地球上有文明存在嗎？
大概十五年前我做了這個實驗，我問宇航員們看到地球上的什么東西能顯示這個星球上有智慧存在。我得到的第一個答案就是，在猶他州的大鹽湖有一條直線。原來是一條堤道，分隔藻類顏色不同的兩個區域。這是一條非常戲劇化的直線。后來，我想知道由燈光形成的最長的直線在哪。在澳大利亞有一條長而直的道路。在俄羅斯有一條鐵路，我想是在西伯利亞，它很長，火車停站時的燈都會亮起。所以，你可以看到一些直線之類的。
另一個很好的例子是，新西蘭有一座大致正圓形的埃里伯斯火山（Mount Erebus）。我在做這項研究時，網絡還并不很普遍，所以你不能簡單地查一下它的屬性。我們當時想獲取地圖之類的東西，所以我們聯系了新西蘭地質勘探局。他們說，“如果你是在寫教科書，請不要說埃里伯斯火山是個圓形的火山。圓形并非來自火山，圓形來自火山周圍建立的國家公園。”有跡象表明，國家公園內有綿羊之類放牧吃草，但外面沒有，或者情況反過來，而這正是圓形的來源。這是人類帶來的幾何形狀的又一實例。
從太空觀察，很難找到地球上清楚體現明顯目的的例子。另一個問題來了，對于地外生命來說是個很大的問題，就是如果我們要認出太空中的外星人，我們怎么知道自己得到的信號是有目的？ 1968年，脈沖星被發現。每隔幾毫秒或幾秒鐘，你就聽到這周期性的顫動般的聲音。當時，第一個問題是，這是一座燈塔嗎？因為為何要做這樣一個周期性的東西？它必須是有目的的。結果事實證明這只是一個中子星在旋轉。
這個問題一再出現：有什么能證明目的？早在20世紀初，馬可尼和特斯拉都聽到了來自地球很遠之外的電波傳輸。馬可尼曾在大西洋中乘坐游艇，在那里他聽到了有點像鯨魚歌聲的這些奇怪聲音，但聲音會來自電波。特斯拉更甚，“這是火星人發信號給我們。”人們要如何分辨？
事實上，這是電離層的一些模式。這些都是流體力學現象——只是物理而已。這是“天氣有自己的主意”的例子之一。你怎么知道這東西是否具有智慧、目的以及其他那些，或者它只是電離層的磁流體？
可能適用的一個標準是，如果你能找出一個目的，它是否以最簡方案實現了這一目的？也就是說，如果你看到一個東西，比如說，那你吃飯用的叉子，但它帶有非常復雜的裝飾。那么，它的目的就是一把叉子。但它還有所有這些裝飾，這與其目的無關。裝飾品本身可能也出于一個目的—— 讓人們對那叉子或其他東西產生不同的情緒反應
但以最簡方案實現目的這個問題，是否意味著它就是為特定目的制造的？當你看到一個事物，通常對于發生的事有不同的解釋。一種是機械解釋。球滾下山坡，因為在下一刻，引力會做到這個、這個和那個。或者，球滾下山是因為它滿足最少作用原理，并以球體來優化這個特別目的。
對一件事通常有兩種解釋：機械解釋論和目的論。哪個解釋會獲勝，哪種是萬事的正確解釋？一種可能的標準是，如果這個東西以最簡方式實現了一個目的，它就是為那個目的制造的。
問題是，基本上所有的現有技術都通不過那個測試。我們可以想象技術那樣運行，但我們所建的大部分東西都深受技術史浸染，根本不是實現目的的最簡化方式。看看一個CPU芯片，它不可能就是CPU芯片功能實現的最簡方式，但它反映了整個工程技術歷史的影響。
怎么確定事情是否有目的這個問題很難。例如對于地外生命的問題，這點非常重要。有一個很好的思維實驗，想象如果外星人能隨心所欲排列星星。他們將如何來排列以表明是有意為之？他們會不會把星星排成一條直線？或許不會，因為我們可以設想出各種可能做到這點的物理過程。他們不會排成等邊三角形，因為這是一個特別簡單的物理過程。他們會不會擺出“購買可樂”的標志？他們會不會做出某種外星藝術品？毫無疑問，我們會認為外星人的藝術作品帶有智慧目的。
這是一個重要的問題，因為當我們看到來自星系的電波噪聲，它與手機CDMA的傳輸非常相似。兩者沒有根本的不同。這些傳輸使用偽噪聲序列，碰巧有一定的重復性。但它們被認作為噪音，并且它們設定為噪聲是出于不干擾其他渠道等目的。
這是一個有趣的事情，我們怎么辨別根本目的是什么？當我們提出這樣一個問題，事情會變得更加麻煩，如果我們觀察脈沖星生成的素數序列，我們會問是什么產生這些？你需要整個文明發展，發現素數，制造計算機、無線電發射機，才能做到這一點嗎？或者有另一種解釋，這只是一些物理過程產生的素數？物理過程中可能有各種奇怪的情況發生。
我曾制作過一個可以產生素數的小元胞自動機。如果你把它拆開它，可以看到它如何工作。它里面有一個小東西在彈跳，產生素數的序列。但是，這并不需要整個文明和生物的歷史來做到這一點。
這事有點棘手。當你觀察事物，它是否為了目的創建？你怎么知道它是否有一個目的？我不認為目的性有種抽象感。我不認為有抽象的意義。換句話說，最終結果就是你不得不提到這個奇怪的問題，宇宙有目的嗎？那么在某種程度上你涉及到了神學。并不存在一種抽象的目的。存在對于一種目的的抽象概念，這話沒有任何意義。也就是說，目的是來自于歷史的東西。
關于計算，關于我們的世界，有件事可能是真的，而那將令人失望，也許是我們經歷這所有的歷史、生物學和文明等等，最終得到了答案是42或者什么別的。可以這么說，就這么結束了。我們得到了答案。你經過了所有這四十億年來的各類進化，然后你得到了一個42。
那樣的情況不會發生，因為有計算不可化約這個概念，來自哥德爾的通用計算定理。你可以通過計算過程，事情往往都會經過這個過程，而這一進程沒有捷徑可走。換句話說，你不能說自己是在浪費時間。大部分的科學都是在大自然的計算中找捷徑。
例如，如果我們在研究天體力學，我們說要來預測從現在起一百萬年后行星將在哪里。那么，我們可以只是遵循公式，遵循每一個步驟，看看一步步會發生什么。然而科學預測偉大的一點在于我們能夠走捷徑，從我們現在的情況跳到結果，略去了計算。我們能夠比宇宙更聰明，可以無需經過所有的步驟而直接想到終點。這一直是預測與科學的故事。
這對科學而言是壞消息，但它是我們的好消息，能讓生活有意義，可以這么說，沒法只是說，沒關系，我們一切都可以走捷徑，有了一臺足夠聰明的機器和足夠聰明的數學計算，我們可以總是直接跳到終點，而無需經過所有的過程。我們必須經過這些步驟，不能簡化。從某種意義上說，這就是歷史為什么很重要。如果我們可以到達終點，而無需經過那些步驟，在某種意義上，歷史會變得毫無意義。
這一事實對科學是壞事，因為我們不能做出這些預測，但這些細節無法略去，對文明史的意義之類是好事。從某種意義上說，當一個人意識到所有東西都可以有諸如智能等屬性，他會發現，我們之所以是特別的，就在于所有關于我們這些細節，而不會是一些大的特點。
我們是智慧的，而世界上其他東西都不是，我認為這不可能。我們和云、和細胞自動機之間不會有一些大的抽象的差異。這不是一種抽象的差異。我們不能說，看，這個大腦一樣的神經網絡就是與這個元胞自動機有質的不同。相反，區別是具體的，這種大腦一樣的東西產生于漫長的文明歷史等等，而這種細胞自動機是由我的電腦在過去的一微秒剛剛創建的。
抽象人工智能的問題與外星智能生命的問題很像。就是識別什么時候事物是有目的，什么時候事物是智慧的。同樣，我認為這些問題都還沒有答案。當然，科學中的大事之一就是為什么我們沒有發現任何外星人？我們怎么可能是獨一無二的？也許這是一個愚蠢的問題，因為可能智慧體已遍布宇宙，那么我們必須問它和我們離得多近。它有核糖核酸嗎？它是否創造了民主或其他的概念？
我們還想到很多其他屬性，我們開始試著具體一點，又想到很多，說：“嗯，它將是智能化的。人工智能將是智慧的，如果它可以做這些那些，等等。如果它能找到素數，如果它可以生產這樣那樣和其他東西。”還有很多其他的方法來獲得這些結果。智慧和單純的計算之間的沒有明確的界線，這一事實的結果就是如此。
可以這么說，這是哥白尼故事的另一半。我們曾經認為地球是宇宙的中心。現在，至少我們認為自己是特殊的，因為我們有智慧，別的東西沒有。恐怕壞消息是，這并不是區別。順便說一句，思考人類生存條件的未來，缺乏區別是個相當嚴重的問題。
這是我很好奇的場景之一。比方說，某個時候，人的意識很容易可上傳為虛擬化的數字形式，很快我們有一盒一萬億的靈魂。有一萬億個靈魂裝在一個盒子里，都是虛擬化的。我們看看這個盒子。但愿盒子里會有很好的分子計算，也許在某種意義上它會從生物學中產生，也許不是，但各種分子會作用，電子也會作用。這個盒子做著各種復雜的事情。
然后我們看到了盒子旁邊的那塊巖石。巖石內部也有各種復雜的情況正在進行，各類電子的種種作用。我們說，“巖石和裝著靈魂萬億的盒子有什么區別？”答案會是這個萬億靈魂的盒子有悠久的歷史。其中發生的具體細節都來自于文明的歷史，人們在看2015年拍的影片或者其他任何事情。而巖石來自于它的地質歷史，但它不是我們文明的特定歷史。
意識到智力和純粹的計算之間沒有這樣的區別，這個問題會讓你想象文明的未來最終變成了一個裝著萬億靈魂的盒子，那么這種情況的目的何在？從我們目前來看，比如說在那種情況下，就好像每個靈魂都幾乎一直在玩電子游戲。那一切的終點又會是什么？
