科幻連續(xù)劇《西部世界》海報(bào)。 資料圖
有人預(yù)測(cè)，我們不久就能看到一個(gè)諸如西部世界般的瘋狂樂(lè)園出現(xiàn)在我們的現(xiàn)實(shí)社會(huì)中，機(jī)器人的報(bào)復(fù)也將隨之而來(lái)。阻止此類(lèi)事件的發(fā)生，或許是法學(xué)及法律人涉足人工智能領(lǐng)域的意義所在
馮子軒
《西部世界》改編自邁克爾·卡萊頓的同名小說(shuō)，故事發(fā)生在未來(lái)世界的一座以美國(guó)西部世界為主題的成人樂(lè)園中，講述了為人類(lèi)游樂(lè)提供服務(wù)的機(jī)器人自主意識(shí)和思維的覺(jué)醒，進(jìn)而反抗人類(lèi)并引發(fā)失控的科幻故事。
《西部世界》同名電影于1973年上映，當(dāng)時(shí)就引發(fā)了熱烈反響。2016年，該小說(shuō)被拍成科幻連續(xù)劇。雖其并未擺脫好萊塢大片“機(jī)器人意識(shí)覺(jué)醒反擊人類(lèi)”的老套路，但由于恰好與當(dāng)下機(jī)器人工程、人工智能技術(shù)突破性進(jìn)展以及爭(zhēng)議不斷的時(shí)代背景高度相關(guān)，因此引發(fā)了觀(guān)看熱潮，并迅速成為世界性、現(xiàn)象級(jí)的神劇。
風(fēng)險(xiǎn)來(lái)臨：人工智能的多重面孔
1956年，美國(guó)計(jì)算機(jī)科學(xué)家約翰·麥卡錫和他的同事最早提出人工智能(Artificial Intelligence，以下簡(jiǎn)稱(chēng)AI)概念，指出“讓機(jī)器達(dá)到這樣的行為，即與人類(lèi)做同樣的行為，可以被稱(chēng)為人工智能”。在隨后的60多年時(shí)間中，人工智能曾經(jīng)經(jīng)歷了三起三落，興起與低谷常伴。
在2016年，阿法狗打敗李世石和柯潔以前，多數(shù)公眾對(duì)于A(yíng)I的印象可能還僅僅停留在諸如《西部世界》之類(lèi)的科幻電影中。但近年來(lái)，隨著網(wǎng)絡(luò)、云計(jì)算、大數(shù)據(jù)、深度學(xué)習(xí)技術(shù)的突破，人工智能發(fā)展迅猛異常。
當(dāng)今的人工智能技術(shù)以機(jī)器學(xué)習(xí)為核心，在視覺(jué)、語(yǔ)音、自然語(yǔ)言等領(lǐng)域迅速發(fā)展，并開(kāi)始進(jìn)入到具體的應(yīng)用場(chǎng)景中，包括自動(dòng)駕駛、虛擬助理、研究和教育、金融服務(wù)、醫(yī)療和診斷、設(shè)計(jì)和藝術(shù)創(chuàng)作、法律、社交陪伴、服務(wù)業(yè)和工業(yè)，展現(xiàn)出廣闊的發(fā)展前景。《西部世界》展現(xiàn)的成人主題樂(lè)園，也是其應(yīng)用場(chǎng)景的一個(gè)表現(xiàn)。
但是，當(dāng)前人工智能技術(shù)發(fā)展仍處于弱人工智能時(shí)代，即僅具備狹義的專(zhuān)業(yè)領(lǐng)域人工智能能力，與《西部世界》所展現(xiàn)的強(qiáng)人工智能相去甚遠(yuǎn)(強(qiáng)人工智能，又稱(chēng)通用人工智能，具備處理多種類(lèi)型任務(wù)和適應(yīng)未曾預(yù)料的情形和能力)。目前，科學(xué)界對(duì)于強(qiáng)人工智能何時(shí)實(shí)現(xiàn)并無(wú)定論，多數(shù)技術(shù)專(zhuān)家和業(yè)內(nèi)人士認(rèn)為，強(qiáng)人工智能在2045年之前不會(huì)實(shí)現(xiàn)。
人工智能的威脅，最著名的當(dāng)屬馬斯克發(fā)表的“AI威脅論”，他認(rèn)為AI有可能成為人類(lèi)文明最大的威脅，呼吁政府迅速采取措施監(jiān)管AI技術(shù)。與之相反，扎克伯格、李開(kāi)復(fù)等多位業(yè)界人士表示人工智能對(duì)人類(lèi)生存威脅尚且遙遠(yuǎn)。
這些辯論實(shí)則代表了當(dāng)前公眾與專(zhuān)業(yè)人士之間、技術(shù)研發(fā)人員與社科研究人員之間對(duì)人工智能基本認(rèn)知方面的巨大鴻溝。當(dāng)前，計(jì)算機(jī)或機(jī)器人正在逐漸成為某種具有一定自主性的能動(dòng)體，原本只能由人類(lèi)完成的各項(xiàng)工作開(kāi)始被計(jì)算機(jī)接手，由機(jī)器來(lái)完成，例如開(kāi)車(chē)、翻譯、文藝創(chuàng)作等。
決策讓渡于機(jī)器蘊(yùn)含著人工智能的決策選擇優(yōu)于人類(lèi)的經(jīng)濟(jì)動(dòng)因。事實(shí)上，近年蓬勃發(fā)展的機(jī)器人產(chǎn)業(yè)，已經(jīng)對(duì)人類(lèi)社會(huì)產(chǎn)生了越來(lái)越深遠(yuǎn)的影響。例如，自動(dòng)駕駛場(chǎng)景中，依靠人工智能、視覺(jué)計(jì)算、雷達(dá)、監(jiān)控裝置和全球定位系統(tǒng)協(xié)同合作，電腦可以在沒(méi)有任何人類(lèi)主動(dòng)的操作下，自動(dòng)安全地操作機(jī)動(dòng)車(chē)輛。
另一方面，這一切都是建立在機(jī)器人會(huì)聽(tīng)從人類(lèi)指揮，心甘情愿為人類(lèi)服務(wù)的基礎(chǔ)上。如若人工智能變得足夠聰明，如同《西部世界》中所上演的那樣不愿意再聽(tīng)從人類(lèi)命令，甚至要奪取人類(lèi)的統(tǒng)治權(quán)，那人類(lèi)發(fā)展人工智能豈非玩火自焚?
阿法狗打敗李世石和柯潔使得這種擔(dān)憂(yōu)迅速蔓延，或許我們還可開(kāi)玩笑稱(chēng)關(guān)掉機(jī)器人的電源，人類(lèi)依然能夠立于不敗之地，但當(dāng)前機(jī)器人卻也在朝著自主保證能源供給的方向發(fā)展。
正如波斯特洛姆提出的曲別針?biāo)枷雽?shí)驗(yàn)?zāi)菢樱喝绻粋€(gè)人工智能被設(shè)置為工廠(chǎng)生產(chǎn)管理，其最終目標(biāo)是使曲別針的產(chǎn)量最大化，那么，人工智能很可能具有無(wú)法滿(mǎn)足的胃口，去不斷地獲取物質(zhì)和能力，走上首先將地球、然后將整個(gè)可觀(guān)察宇宙的大部分都變成曲別針的道路。
縱然，當(dāng)前很多技術(shù)研發(fā)人員認(rèn)為人工智能超越人類(lèi)是杞人憂(yōu)天，但需要注意到的是，科學(xué)家在很多時(shí)候并不能充分理解科學(xué)技術(shù)在未來(lái)的發(fā)展程度以及其發(fā)明的科學(xué)技術(shù)的具體應(yīng)用。典型如核武器，其在發(fā)明后是否使用以及如何使用不能為發(fā)明它的科學(xué)家所決定。
同樣，認(rèn)為人工智能發(fā)展僅會(huì)停留在弱人工智能時(shí)代的觀(guān)點(diǎn)似乎同樣站不住腳。提姆·厄班提出了科技發(fā)展在時(shí)間維度上呈加速度趨勢(shì)的觀(guān)點(diǎn)——兩百年前的人無(wú)法想象今天的社會(huì)發(fā)展程度，正如今天的人無(wú)法想象兩百年后的科技發(fā)展程度一樣，時(shí)間跨度越大，科技代差越明顯。所以，沒(méi)有人知道奇點(diǎn)會(huì)不會(huì)來(lái)、何時(shí)會(huì)來(lái)。
在人工智能未來(lái)風(fēng)險(xiǎn)處于不可完全認(rèn)知，風(fēng)險(xiǎn)評(píng)估及成本效益分析等規(guī)制手段可能不完全有效的情況下，人工智能技術(shù)發(fā)展的風(fēng)險(xiǎn)規(guī)制應(yīng)成為社會(huì)治理中重要環(huán)節(jié)。此外，即便于弱人工智能時(shí)代，機(jī)器人在決策與行動(dòng)自主性上也有脫離被動(dòng)工具的可能性;在放任自由的情況下，其判斷和行為未必完全符合人類(lèi)的價(jià)值觀(guān)、道德觀(guān)以及法律規(guī)范、倫理規(guī)范等。
《西部世界》中的驚悚場(chǎng)景離我們很遠(yuǎn)，但當(dāng)前伴隨著人工智能技術(shù)發(fā)展的隱私泄露、算法偏見(jiàn)、算法黑箱、歸責(zé)困難等風(fēng)險(xiǎn)已為人們所逐漸覺(jué)察。
應(yīng)對(duì)之一：機(jī)器人也有倫理
《西部世界》中有段對(duì)白：“我們一脫離現(xiàn)實(shí)世界，你就變成一個(gè)邪惡的混蛋了。”這在某個(gè)層面隱喻了人性的弱點(diǎn)，人類(lèi)至今取得的輝煌成就有賴(lài)于集體創(chuàng)造的道德倫理、法制社會(huì)的束縛。隨著機(jī)器智能的崛起，人類(lèi)社會(huì)對(duì)人工智能的道德倫理約束業(yè)已提上日程。
早在1942年，阿西莫夫便在其小說(shuō)《環(huán)舞》中提出了著名的“機(jī)器人三定律”，提出了機(jī)器人倫理思考：第一定律，機(jī)器人不能傷害人類(lèi)，不能袖手旁觀(guān)人類(lèi)受到傷害;第二定律，機(jī)器人應(yīng)當(dāng)服從人類(lèi)命令，除非該指令與第一定律相悖;第三定律，在不違背第一和第二定律的情況下，機(jī)器人應(yīng)保護(hù)自身的存在。此后，阿西莫夫?qū)θ蛇M(jìn)行了修正，提出第零定律，即機(jī)器人必須保護(hù)人類(lèi)的整體利益不受損害。
2016年8月，聯(lián)合國(guó)世界科學(xué)知識(shí)與科技倫理委員會(huì)發(fā)布《關(guān)于機(jī)器人倫理的初步草案報(bào)告》，認(rèn)為機(jī)器人不僅需要尊重人類(lèi)社會(huì)的倫理規(guī)范，而且需要將特定倫理規(guī)范寫(xiě)入機(jī)器程序中。歐盟亦提出所謂“機(jī)器人憲章”，即人工智能研究需遵守諸如人類(lèi)利益、正義、基本權(quán)利、包容性、可責(zé)性、安全性等倫理準(zhǔn)則。將“道德代碼”嵌入人工智能程序的呼聲越來(lái)越強(qiáng)。
然而需注意的是，即便不談技術(shù)上的困難，單從人類(lèi)自身的角度而言亦難以達(dá)成關(guān)于倫理準(zhǔn)則的統(tǒng)一標(biāo)準(zhǔn)。社會(huì)建構(gòu)意義上的倫理法則并無(wú)貫之以四海皆行的意味。
例如，“機(jī)器人憲章”中所提及的“正義”“人類(lèi)利益”等字眼便無(wú)法提取其最明確的內(nèi)涵。不同社會(huì)、不同時(shí)代的正義觀(guān)念以及利益取向有所不同，即便處于同一時(shí)代同一社會(huì)，亦不能將某一行動(dòng)一概歸為“正義”或“人類(lèi)利益”。何況諸如電車(chē)難題等道德困境的存在同樣無(wú)法忽視。此時(shí)，無(wú)論是功利主義抑或是絕對(duì)主義的行動(dòng)準(zhǔn)則似乎都無(wú)法被稱(chēng)為“正義”或都可被稱(chēng)為“正義”，在這種即便是人類(lèi)也無(wú)法作出正確行動(dòng)的情況下，如何妄想機(jī)器人能夠設(shè)定正確的行動(dòng)程序呢?
另一個(gè)有意思的問(wèn)題就是價(jià)值對(duì)接問(wèn)題，即機(jī)器人的行動(dòng)真的就是你想要的嗎?機(jī)器人幫你打掃屋子，但是可能扔掉了你最喜歡的舊雨鞋。它履行了自己的義務(wù)，但由此造成的結(jié)果卻不是你想要的。
這種設(shè)定性矛盾看起來(lái)似乎并不少見(jiàn)，機(jī)器人對(duì)指令的理解更可能是五花八門(mén)。這使得為人類(lèi)自身便利而設(shè)計(jì)出來(lái)的機(jī)器人最終使人類(lèi)無(wú)時(shí)無(wú)刻不處于風(fēng)險(xiǎn)之中。諸如此類(lèi)的問(wèn)題還有很多，單純期待依靠?jī)?nèi)涵寬泛、沖突且難以具化的倫理法則嵌入人工智能的程序似乎并不是萬(wàn)全之策。
應(yīng)對(duì)之二：法律人的方案
人類(lèi)擁抱科學(xué)和理性的過(guò)程不是一蹴而就的，法律習(xí)慣于對(duì)社會(huì)技術(shù)的發(fā)展做出相對(duì)滯后的回應(yīng)，但在A(yíng)I領(lǐng)域，我們需要作出具有前瞻性的立法布局，這是全世界需要共同面臨的法律難題。
盡管各國(guó)關(guān)于人工智能立法均呈現(xiàn)分散化的特點(diǎn)，但針對(duì)人工智能法律責(zé)任及潛在風(fēng)險(xiǎn)方面均作出了積極的立法嘗試。
如，德國(guó)在2017年通過(guò)自動(dòng)駕駛汽車(chē)法案，制定了諸如自動(dòng)駕駛汽車(chē)須安裝“黑匣子”以及“司機(jī)必須始終坐在方向盤(pán)后”等規(guī)則;歐盟于2016年發(fā)布《歐盟機(jī)器人民事法律規(guī)則》。
針對(duì)公眾普遍關(guān)注的隱私泄露問(wèn)題，歐盟頒布了被稱(chēng)為史上最嚴(yán)格的關(guān)于數(shù)據(jù)保護(hù)的《歐盟一般數(shù)據(jù)保護(hù)條例》(GDPR);美國(guó)、日本、韓國(guó)等也對(duì)現(xiàn)有的個(gè)人信息保護(hù)立法展開(kāi)修訂工作。我國(guó)也于2016年通過(guò)《網(wǎng)絡(luò)安全法》，要求網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)對(duì)其收集的用戶(hù)信息嚴(yán)格保密，并建立健全用戶(hù)信息保護(hù)制度。
在算法歧視的問(wèn)題上，歐盟數(shù)據(jù)保護(hù)委員會(huì)發(fā)布《應(yīng)對(duì)大數(shù)據(jù)挑戰(zhàn)：呼吁通過(guò)設(shè)計(jì)和可歸責(zé)性實(shí)現(xiàn)透明性、用戶(hù)控制及數(shù)據(jù)保護(hù)》，提出警惕大數(shù)據(jù)對(duì)窮人及弱勢(shì)群體的歧視。美國(guó)國(guó)會(huì)為避免在刑事司法程序中出現(xiàn)諸如“黑人較白人更易犯罪”等算法歧視，正積極推動(dòng)《量刑改革法案》，引入“犯罪風(fēng)險(xiǎn)得分”。我國(guó)剛頒布的電子商務(wù)法亦有“電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛(ài)好、消費(fèi)習(xí)慣等特征向其推銷(xiāo)商品或者服務(wù)，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)，尊重和平等保護(hù)消費(fèi)者合法權(quán)益”的規(guī)定。
凡此種種立法努力，為此后人工智能技術(shù)發(fā)展賴(lài)以存在的法律環(huán)境鋪平了道路。
另一個(gè)有趣的問(wèn)題是，《西部世界》中人類(lèi)肆意殺戮機(jī)器人，這似乎提醒我們思考，機(jī)器人的權(quán)利是否需要保護(hù)?即使在當(dāng)前工具意義的機(jī)器人狀態(tài)下，是否需要賦予其最低限度的道德權(quán)利，如人類(lèi)不能利用其主導(dǎo)地位對(duì)機(jī)器人進(jìn)行肆意虐待?當(dāng)機(jī)器人出現(xiàn)意志時(shí)我們又該如何對(duì)其定位?當(dāng)前有學(xué)者提出的應(yīng)當(dāng)對(duì)機(jī)器人進(jìn)行征稅以補(bǔ)貼因機(jī)器人而失去勞動(dòng)崗位的人的意見(jiàn)，是否可行?這些都是伴隨著人工智能技術(shù)發(fā)展而拋給我們的新問(wèn)題。
西部世界樂(lè)園是一個(gè)在法律和戒律之外的試驗(yàn)場(chǎng)，在這個(gè)試驗(yàn)場(chǎng)中人類(lèi)可以進(jìn)行他們最瘋狂的放縱而不受指摘與處罰。或許對(duì)某些人而言，這是人工智能的一個(gè)絕佳用處。甚至有人預(yù)測(cè)，在10年、20年后我們就能看到一個(gè)諸如西部世界般的瘋狂樂(lè)園出現(xiàn)在現(xiàn)實(shí)社會(huì)中，而無(wú)人對(duì)此感到不適，但機(jī)器人的報(bào)復(fù)也將隨之而來(lái)。阻止此類(lèi)事件的發(fā)生，或許是法學(xué)及法律人涉足人工智能領(lǐng)域的意義所在。
(作者系中國(guó)社科院法學(xué)所博士后研究人員、西南政法大學(xué)人工智能法學(xué)院副教授)
責(zé)編：高恒濤
聯(lián)系客服
