新智元原創1
選自：Medium
譯者：王婉婷 王嘉俊
為了追求人工智能最先進的形態并將研究結果向公眾公開，他們資助了一個新成立的組織，OpenAI。
像是AI領域的競爭還不夠激烈一樣——要知道Google、Facebook、Microsoft之類的巨頭，甚至還有Toyota這樣的汽車公司，都在急匆匆地招募研究人員——現在又有了一個新的組織渴求研究者，但又有一些不同之處。
它是一個非營利性的合資組織，叫做“OpenAI”。今天它被宣布成立，宣稱將會向公眾公開它所有的研究成果，并且授予它所有的專利買斷式授權（royalty-free，譯者注：用來宣告一項具有版權、專利或著作權的產品能（永久或特定時段）被使用而不需要支付權利金或執照費（License fee），來自維基百科）。這一切都是為了確保有朝一日計算機超越人類智力的可怕前景，將不會變得像一些人恐懼的反烏托邦（dystopia）那樣讓人絕望。OpenAI的資金來自于一群科技行業的權威，包括Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及Amazon云服務。他們承諾，將在未來很長一段時間內向這個組織投入總共超過10億美元的資金。這個組織的聯合董事長分別是Elon Musk和Sam Altman（Y Combinator的CEO）。
眾所周知，Musk是AI的批判者，他加入這樣一個組織并不讓人意外。但Y Combinator是什么？沒錯，這就是那家10年前從一個夏季計劃中脫胎而出的科技孵化器，當時以給“拉面工資”、然后反饋美食建議的形式資助了6家初創企業，通過這種方式讓它們能夠快速擴張自己的業務。從那時起，YC已經幫助創立了接近1000家公司，包括Dropbox、Airbnb、以及Stripe，并在最近設立了一個研究部門。過去的2年間，YC一直由Altman領導著。他的公司Loopt曾經是2005年YC初創時孵化的公司之一，在2012年他以4340萬美元的價格出售了這家公司。雖然YC和Altman都是OpenAI的創始人，并且Altman還擔任了聯合董事長的職務，但是OpenAI的確是一個與這些公司無關的、獨立的合資組織。
本質上，OpenAI是一個研究實驗室，旨在削減兩類組織的力量：包括因為擁有營利的超級智能系統（super-intelligence systems）而可能獲得過多力量的大型組織，以及可能使用AI來獲取力量甚至用來壓迫本國公民的政府機構。這可能聽上去非常唐吉坷德，但這個團隊已經募集到了一批精英，包括Stripe前CTO Greg Brockman（他將擔任OpenAI的CTO）以及世界一流的研究者Ilya Sutskever。Ilya Sutskever曾經為Google工作過，是在多倫多接受神經網絡先驅Geoff Hinton指導的年輕科學家團隊的一員。他將擔任OpenAI的研究主管。其他的人馬還有一群頂尖的天賦很高的年輕人，他們的簡歷中囊括了主要的學術團體、Facebook AI以及Google在2014年收購的AI公司DeepMind。OpenAI還有一個星光熠熠的顧問委員會，頂尖的計算機科學家Alan Kay也名列其中。
OpenAI的領導者們對我描述了這個計劃和它的未來愿景。整個采訪是分成兩部分進行的，首先是與Altman的對話，然后是與Altman、Musk、以及Brockman一起討論的部分。我將整個訪談融合在一起，編輯成了簡要清晰的格式。
Sam Altman：我們大約是在一個半月以前啟動YC研究部門的，但我一直以來都在思考AI的問題，Elon也是。如果你想想對于世界的未來而言哪些東西最重要，我覺得一個善良的AI（good AI）可能是這張列表上首當其沖的幾項之一。所以我們創立了OpenAI。這個組織正在嘗試研發出一種對人類友好的AI（human positive AI）。而且因為它是一個非營利性組織，全世界都能享用它的研究成果。
Elon Musk：就像你知道的那樣，我對AI有所顧慮已經有一段時間了。我和Sam，和Reid [Hoffman]，和Peter Thiel，還有其他人，談了許多次。我們在思考，“有沒有某種方法可以確保——或者提升——AI以有益的方式發展的概率？”作為幾次談話的結果，我們得出了創立一個501c3組織的結論（譯者注：501(c)是美國國內稅收法（Internal Revenue Code, IRC）中的一項條款（美國國內稅收法, § 501(c)），列出了26種享受聯邦所得稅 （federal Income tax）減免的非營利組織，501(c)(3)為宗教、教育、慈善、科學、文學、公共安全測試 （Testing for public safety）、促進業余體育競爭和防止虐待兒童或動物等七個類型的組織，來自維基百科）：一家非營利性組織，不具有讓利潤最大化的義務，可能會是一件不錯的事情。同時，我們也會對安全性非常重視。
那么從哲學的角度上來說就有了一個重要的元素：我們希望AI能被廣泛傳播。有兩種流派的思想——你是想要AI的數量很多，還是很少？我們認為可能數量多是一件好事。而且從你可以將它作為人類意愿的延伸這個方面來看，這也是一件好事。
Musk：就像你自身有一個AI的延伸部分，每個人在本質上都與AI共生、而不是AI作為一個與你無關的大型中央智能（large central intelligence）。想象一下你將會怎么使用，比如說網絡上的應用：你可以收發郵件、玩轉社交媒體、你的手機上還有許多其它app——它們讓你變成了一個能做很多事的超人，而你并不會認為它們是與你無關的，你會覺得它們是你的延伸。所以我們想要盡力引導AI往這個方向發展。我們已經找到了一些和我們有相似理念的AI領域的工程師和研究者。
Altman：我們認為AI發展的最好方式就是，它應該是關于讓個人變得強大、讓人類的生活變得更好的東西，對于所有人來說都是免費的，而不是一個比其他人類強大一百萬倍的精英。因為我們并不是一個比如Google那樣的追求盈利的公司，我們可以不用關注于如何讓股東們財源滾滾，而是關注于對于人類未來而言，我們相信的、在實際上最好的東西。
Altman：他們的確與公眾分享了許多研究成果。隨著時間過去，隨著我們逐漸接近那種超越人類智能的東西，Google還會與公眾分享多少成果是值得懷疑的。
Altman：我預期它會，但是它會是開源的，任何人都能使用，而不是只能被，比如說Google，來使用。這個團體研發的任何東西都將對所有人開放。如果你拿去以后做了一些改變、讓它適應其他用途，你也不會有義務要和公眾分享你的成果。但是只要是我們做的任何工作，都會對所有人開放。
Musk：我想這是一個很精彩的問題，我們為這個爭論過不少次。
Altman：關于這個問題有一些不同的思路。就像科幻作品中用“大部分人類都是善良的，而人類的集體力量中可能有一些邪惡的元素”的事實來對抗邪惡博士那樣，我們認為，比起一個單獨的比其他任何東西都強大無數倍的AI，許多許多的AI致力于阻止偶爾出現的邪惡AI，這種可能性要大得多。如果那個強大無比的AI脫離了人類掌控，或者邪惡博士得到了它、沒有東西能與它抗衡，那么我們就真的落到了很糟糕的境地。
Altman：我們的確希望能夠隨著時間建立起監管機制。一開始將只有Elon和我。我們距離實際開發出真正的AI還有很長很長的距離。但我想我們將會有足夠的時間來建立監管的機制。
Musk：我確實想要將一些時間花在這個團隊上，大概會是每周在辦公室花上一兩個下午的時間來了解研究進展、提供我的想法和反饋，對于AI的現狀和我們是否在接近一種危險的東西有一些更深的理解。我個人將會對安全性極其敏感，我對這個問題有許多顧慮。如果我們看到了某種我們認為在安全性上有風險的東西，我們會將其公之于眾。
Altman：實際上，邪惡的人工智能基本都和科幻小說描繪的差不多，但像終結者那樣的人工智能技術，還需要一段時間才能出現。我在短期內絲毫不擔心它們。不過有一件事我的確認為是挑戰：自動化的普及，以及工作被機器人取代。另一個邪惡的人工智能例子是，人工智能程序能夠像黑客那樣進入電腦，而且這方面要遠比人類強大。這些事現在已經發生了。
Altman：還沒有，開始會像研究實驗室那樣，而且在長期的時間里，也都會以這樣的形式存在。現在我們還不知道怎么去建造這個系統。從第一天開始，我們有了 8 名研究者，未來幾個月還會有更多人加入。現在他們會使用 YC 孵化器的辦公空間，當他們逐漸成長后才會搬出去獨立辦公。他們也會不斷演練想法，編寫程序來看是否能加速現在人工智能技術的進展。
Altman：當然可以了。我們把項目以完全開放的形式進行，自由分享信息，這樣的好處是能和任何人合作。你很難和 Google 的員工合作，因為他們有一大堆保密條款。
Altman：如果 OpenAI 的確開發了不錯的技術，而且所有人都可以免費使用并造福于科技公司。不過也僅僅是這樣了。但我們會詢問 YC 孵化器的公司們，在自愿的情況下開放合適的數據給 OpenAI。Elon Musk 也在考慮 Tesla 和 Space X 公司能分享哪些數據。
Altman：這有很多。例如說所有的 Reddit 數據都會是非常有用的訓練集。你也可以想象，所有的特斯拉自動駕駛視頻也會變得很有價值。大量的數據的確很重要。如果你思考人類如何變得聰明，當你讀書的時候，你變得聰明，當我讀書的時候，我變得聰明。但是我并不會因為你讀書而變得聰明，反過來也一樣。但是使用特斯拉作為例子，當一輛特斯拉學會新的習慣，那么所有的特斯拉都會立刻從它的智能獲得收益。
Musk：實話說我們并沒有非常詳細的專門計劃，因為它還處在公司非常初創的階段。這是一種萌芽期的狀態。但確信的是，特斯拉會有大量的數據，關于真實世界的數據，因為我們的輪子每年都會積累幾百萬的公里數。也許特斯拉相比世界上任何其他的公司，都有更多的真實世界數據。
Tesla CEO 和產品架構師 Elon Musk，YC 孵化器主席 Sam Altman
Altman：我們正和亞馬遜云服務合作，他們為項目捐獻了大量的基礎設施服務。
Musk：我得說最后的資金投資會超過 10 億美元。我們并不想出具詳細的資金來源統計分析，但是我們在博客中提到了為項目做出杰出貢獻的人。
Altman：這取決于它需要多長時間建立起來。我們會盡可能的節儉，但這也許是幾十年的項目，需要很多人參與，也需要很多的硬件設施。
Musk：對的。這不是利益取向的投資。也許它未來能夠產生收入，就像斯坦福實驗室 501c3 項目一樣。所以未來也許會有收入，但不會有利潤給股份持有者分紅，也不會有股票價格或其他任何可以獲利的東西。我們認為這樣會比較好。
Musk：我得強調，我并不是通常意義的投資者。我不尋求投資和財務上的回報。我給自己參與創立的公司投資，有時候是出于幫助朋友，有時候是因為我的信仰，也有的時候是因為我關心的事情。我并不是出于分散風險或者物質意義上的考慮。不過，我對 DeepMind 所謂的投資，不過是為了更好的理解人工智能，并且能夠時刻看到它的進展。
Altman：我們的招聘計劃進展的不錯。對科研人員真正有吸引力的是自由度和開放性，以及分享他們研究項目的許可程度，但是在產業實驗室里面，你很難達到相同的權限。我們得以吸引力非常高質量的初創團隊，而其他人會想著加入，以和這樣的團隊一起工作。最后我認為，我們的使命、愿景和管理架構真的對人們有吸引力。
Altman：也許吧。
Altman：我和 Elon Musk 以及其他人就這個問題討論了很長的時間，不過我到現在都不是 100% 的確定。你永遠也不可能 100% 確定，不是么？不過我們可以有不同的劇本，通過加密技術來保障安全，通常不怎么管用。如果只有一個機構能有這樣的技術，你怎么決定它應該是 Google、美國政府、中國政府、ISIS 或其他？世界上有很多邪惡的人，但人類卻依然生生不息。但是，如果其中某個壞人擁有了超出其他人類 10 億倍的能力，那世界將會怎樣？
Musk：我認為抵抗AI錯誤使用的最好辦法，就是讓人們盡可能去擁有AI。如果每個人都有AI的力量，那就不會有個人或小團體擁有AI的超級力量。
Musk：那確實。但我心里一直都在考慮AI的安全性，所以我還是應該做個交易換來心靈平靜。
