
0 前言

來源:《中國科技論壇》2021年第12期 作者:冉龍亞、陳濤、孫寧華
摘要
由于在私營部門取得了廣泛成功,政府部門和學界開始越來越重視人工智能技術。研究表明,和其他科技創新一樣,人工智能為政府治理帶來巨大的歷史機遇,將推動政府部門的治理理念、治理方式與過程以及治理結構的深層次轉變,提升政府的治理水平與能力。在帶來機遇的同時,隨著人工智能而來的挑戰也不應忽視,這些挑戰已經覆蓋了人工智能技術本身的安全與可靠性、人工智能技術應用過程中所產生的社會化影響、政府對人工智能技術的運用及其治理等多個方面。本文在論述人工智能為政府治理帶來機遇和挑戰的基礎上進行系統剖析,加深政府部門對人工智能的理解,推動人工智能在政府治理中發揮更大作用。
關鍵詞:人工智能;政府治理;機遇;挑戰
0 前言
縱觀人類社會發展史,科技創新與政府治理之間一直存在著密切關聯,同時也正是這種二元聯系,促進了彼此的進一步發展。一方面,作為政府治理的一種工具和手段,政府的治理需求客觀形塑了技術發展的方向與進程,政府的相關政策也會影響到技術的實際發展;另一方面,科技創新會涉及政治制度、民主法治、行政體系、公共政策和權力劃分等各方面的內容,從而引起政府治理的變遷。可以毫不夸張地說,任何一次重大的科技創新,都會對世界各國的治理理念、制度設計、治理方式等產生全方位、多層次的廣泛影響。當前,人工智能技術正在全世界范圍內迅速蔓延,并對人類社會生活產生了猛烈沖擊和影響。有鑒于此,在人類社會即將進入人工智能時代之際,有必要對人工智能可能帶給政府治理的機遇與挑戰進行系統剖析,從而對其形成客觀全面的認識,以期最大化人工智能的價值。
作為一門突破性的科學技術,人工智能對于社會生活各方面的影響都十分巨大,甚至是變革性的。受私營部門影響,人工智能對于政府部門的吸引力正在變得越來越強烈。各國政府,尤其是美國和中國,已經充分意識到人工智能技術所蘊含的巨大價值與機遇,并啟動了一系列發展人工智能技術的國家計劃。然而,作為一個相對較新的領域,關于政府部門運用人工智能技術的相關研究仍然處于起步階段,政府部門還沒有對應用人工智能進行社會治理的潛在機遇和挑戰形成全面認識。為此,本文從公共管理的學科背景出發,嘗試以一個綜合的、系統的視角來梳理、探討與反思人工智能技術可能給政府治理帶來的機遇與挑戰。
1 人工智能與政府治理:從研究的不足說起
人工智能這一概念及其相關研究內容起始于1956年的達特茅斯會議,此后經過數次沉浮,逐漸取得技術上的突破,并在商業領域逐步獲得廣泛應用。由于具有自動、智能、高效等特點,人工智能在金融服務、零售、媒體、教育和旅游等領域取得了良好的應用和經濟效益。在技術發展與商業應用的同時,學界對于人工智能的研究也開始日益增多。以國內為例,從2016年開始,學界對人工智能的研究開始大幅增多,相關研究直線上升。
盡管關于人工智能的相關研究已經較多,但對政府部門人工智能的研究仍較為匱乏。對中國知網的文獻檢索結果表明,當前國內學界關于人工智能的研究主要集中在自動化技術、計算機軟件及計算機應用領域。與此形成鮮明對比的是,在與政府治理密切相關的公共管理學、政治學、社會學等領域,相關研究仍顯不足,同時研究內容也比較分散,尚缺少相關的系統性思考與梳理。值得強調的是,作為一個動態的調試過程,隨著人工智能技術和政府治理的不斷融合交互,其所展現的形態和特征將會越發復雜多樣,這也需要學者們不斷在新的視野和方法的指引下,從更加全面多樣的視角來探討人工智能與政府治理的相關議題。為此,本文從政府治理的三個方面,即理念、方式與過程、結構,探討人工智能可能為其帶來的機遇。同時,循著人工智能技術本身、人工智能的應用及社會化以及政府對人工智能的治理這樣一條邏輯主線,在前人研究的基礎上,將面臨的挑戰劃分為安全與隱私、倫理與法律以及組織與管理三大類。通過對人工智能帶給政府治理的潛在機遇及挑戰進行系統梳理與分析,希望能夠從學術研究角度彌補現有相關研究的不足,從而加深政府部門對于人工智能的理解,以求最大程度發揮人工智能在政府治理中的積極作用。
為了全面掌握現有相關研究現狀,本文對自2016年開始發表的國內外文獻進行了系統檢索與分析,大體循著PRISMA文獻梳理方法,對相關文獻進行查找與篩選。對于國內的相關研究,我們在中國知網中以“人工智能”和“政府”為主題進行文獻的初步檢索,并根據具體內容進行人工篩選,大體檢索過程和結果如表1所示(檢索時間:2021年3月13日)。通過對檢索到的文獻進行分析,發現國內相關研究主要包括以下四個方面:①人工智能對政府治理的價值與影響;②對人工智能技術的治理;③人工智能在政府部門特定情景的應用;④人工智能與政府治理變革路徑研究。上述研究從一定角度探討了人工智能對政府治理的機遇與挑戰,并提出了很多獨到的、有價值的見解,這些都是本研究的重要基礎,但是從整體而言,目前的研究仍較為零散,尚未搭建起相應的理論框架以進行系統性的梳理與探討,這也正是本文的主旨及意圖所在。
對于國外相關研究,我們選取ScienceDirect和Web of Science這兩個得到學界廣泛認可,且重點關注社會科學與技術的國際跨學科研究數據庫作為數據來源。在篩選方法上,我們大致重復了上面的文獻檢索和篩選過程,檢索結果如表2所示(檢索時間:2021年3月17日)。
為了緊跟國際最新研究進展,我們也將數字政府領域最新的相關會議論文和研究報告納入了研究范疇。通過對查找到的文獻進行分析,發現國外的相關研究在內容和特征上既與國內存在共通之處,同時也具有很多不同。具體體現在:①研究的起步時間較早,早在20世紀末就已經有研究關注到了人工智能與政府治理相關議題。②注重人文倫理問題,關于挑戰方面,國外專家學者將更多的關注點聚焦在人工智能可能帶來的倫理問題及其應對上。③研究方法與主題更多樣,具體有三個方面的表現:一是除了對人工智能對政府治理的價值與意義、機遇與挑戰等問題進行定性探討之外,有不少文章采用案例研究的形式,探索人工智能在公共部門的實際應用等問題;二是已經有部分文章開始采用實驗法、結構方程模型等方法,對人工智能技術在政府部門應用中的信任、用戶體驗問題等進行定量研究;三是部分文章采用文獻計量的方式,對當前公共管理學科下的人工智能相關研究現狀進行回顧、總結與展望。總體來說,目前國外在公共管理背景下對人工智能進行的研究仍然處于前列,一些研究思路、方法以及結果對于我們系統探討人工智能技術給政府治理帶來的機遇與挑戰,都具有極其重要的參考借鑒價值。
2 人工智能帶來的機遇:從政府治理理念到結構變革
一般而言,政府治理指的是政府部門在市場經濟條件下對社會公共事務進行的治理,而在理論界尤其是西方國家,政府治理的內涵則更為豐富,涵蓋了政府治理理念、治理方式與過程以及治理結構三個方面。隨著新技術的不斷突破和在政府部門應用程度的加深,人工智能技術將會給政府治理帶來翻天覆地的變化。
2.1治理理念
人工智能在私營部門的普及和廣泛應用為社會公眾帶來了良好的辦事體驗,自然而然會驅使公眾對政府部門的管理和服務提出更高要求。在此背景下,政府部門有必要對自身的治理理念進行深刻反思,并做出積極有效的回應,不斷推動政府治理理念朝著服務型、開放型以及合作型政府轉變。
人工智能技術有助于服務型政府建設。人工智能提供的技術支持使得政府部門有了更多的創新空間,從而能夠提高主動服務的能力和意識。一方面,隨著人工智能應用程度的加深,公共部門在常規性、重復性工作上的投入將大幅減少,使得其進一步提升服務的主動性與積極性、落實“以服務為中心”的要求、彰顯服務型政府的定位成為可能。另一方面,技術發展使得政府部門有了更多途徑去收集公眾的信息,通過對這些數據進行深入分析與挖掘,政府部門便可以掌握到不同個體的興趣愛好、生活軌跡等個性化信息。通過進一步分析,政府部門便能夠分辨出不同個體的辦事服務需求。在此基礎上,政府部門就可以為辦事群眾提供“千人千面”的公共服務,從而真正將服務型政府的要求落到實處。
人工智能技術有助于開放型和合作型政府建設。人工智能技術的應用會導致社會問題更加復雜多元,迫切需要新手段、新思路進行治理。政府在治理過程中,需要考慮將多元的思維和多樣化的手段納入思考范圍,包括共享公共人力資源的開發與利用、共享人工智能技術的外溢成果、協作制定算法規則、共同對人工智能技術進行監管等,從而朝著合作治理轉變。同時,隨著新技術的興起與應用,掌握新技術的私營企業在社會治理中扮演的角色將更加重要,政府迫切需要加強與這些企業的深度合作;另外,新技術的應用也會加速推動公民在社會治理中從傳統的被動參與、間接參與轉變成為主動參與和直接參與。總的來說,開放和合作型治理理念強調的是政府在治理過程中實現對社會的公開透明,并在共同的價值基礎上對社會事務開展合作治理,這意味著相關各方都將在治理過程中成為有意義的參與者。
2.2治理方式與過程
當前,由人工智能等新技術所帶來的社會發展大躍遷,已經對人類社會生活各方面產生了廣泛深刻的影響。具體到政府治理的方式與過程方面,這種影響可以體現在公共服務供給、市場監管以及決策制定等多方面。
隨著政府部門尋求改善公共服務以提升公眾的滿意度,人工智能等新技術逐漸被應用到公共服務的供給中。目前來看,人工智能等新技術已經被應用到從事前咨詢、到事中審批、再到事后服務優化的全過程中。在事前咨詢方面,智能客服具備回答提問、指導填寫表格、引導辦事等多種功能,可以為公眾提供全天候、多渠道的服務,從而能夠從根本上解決以往辦事中存在的溝通不暢、響應不及時、服務態度惡劣等難題。在事中的審批方面,目前已經有地區開始使用人工智能技術對簡單事項進行審批,審批全過程無人工參與,實現了“無人辦”;在審批后的服務優化方面,通過對過往的辦事數量、辦理時限以及公眾評價等信息進行挖掘與分析,人工智能技術可以為政府部門縮減辦事時限、優化辦事流程等提供科學依據。此外,在常規工作處理方面,人工智能技術已經完全可以勝任填寫表單、搜索信息等簡單重復性工作,從而使工作人員能有更多精力去處理那些難度和創造性更高的問題。總體而言,人工智能的應用可以有效彌補當前服務供給中存在的不足,并引起公共服務領域的顛覆性變革,從而讓公眾享受到更優質高效的服務。
在社會監管方面探索引入人工智能技術,有助于實現監管的實時化、精準化,有利于提升監管的公平公正性,能夠有效提升政府部門的監管能力與水平。在市場監管方面,通過將工商、銀行、稅務等相關數據統一歸集到企業社會信用代碼(個人則為身份證)之下,形成關于市場主體的多維信息視圖和“信用畫像”,方便監管部門實時了解市場主體的全面信息。在社會治安方面,一方面既能通過人臉識別等技術及時找到可能危害社會安全的不穩定因素,從而有效化解社會生活中的潛在風險;另一方面又能在對過往案例等進行分析的基礎上構建起相應的算法模型,從而及早發現社會治安事件的規律與特征,提升政府的預判預警能力,做到及早發現和及時處理,大幅提升社會治安監管能力。
人工智能技術在政府決策制定方面,具有全面識別決策對象、降低決策成本和提升決策科學性等眾多好處;在決策對象或政策議題的識別方面,通過對政府部門積累的歷史基礎數據進行采集與挖掘,可以幫助決策者快速全面獲取與決策對象有關的所有信息,從而能對決策對象形成更加全面真實的了解;在決策成本方面,以往政府在制定決策的過程中需要在信息搜尋、數據分析處理、方案論證等方面進行大量投入,而人工智能技術的引入可以實現對上述基礎常規工作的有效替代,從而大幅降低決策成本;在決策科學性方面,通過深度學習算法等的應用,可以充分挖掘出決策對象有關的所有信息及其存在的深度關聯,從而幫助政府部門在準確掌握相關信息的前提下做出決策。既有助于提高政府決策的精準性和針對性,同時也能夠通過智能信息收集和預測需求,實現政府決策從以往的被動回應向主動設定的轉變,從而使得其科學性和有效性進一步得到提升。
2.3治理結構
人工智能時代的到來及應用,會推動政府的組織架構從職能分工向整體性政府進行轉變。在強調社會分工的工業化時代,建立在職能分工基礎上的官僚制組織無疑具有突出的優勢,而到了萬物互聯的智能化時代,這種優勢顯然又會掣肘社會發展,必須要求政府部門按照整體性的思維進行重構。在人工智能等新信息技術的聯接下,原本按照職能條塊分割的各政府部門被整合為一個有機整體。這意味著當一個整合后的整體性政府呈現在我們面前時,從空間的角度來說,政府部門已經完成了從分割到整體的變革,社會公眾與政府部門之間也開始轉變為一種前后臺的關系。而在這一整體的內部,由于人工智能等新信息技術的聯接和智能機器的應用,部門間的邊界與壁壘被打破,信息和資源的流動共享變得更加順暢,跨部門的協作治理變得更為便捷,政府部門的辦事效率也將進一步得以提高。
人工智能的發展與運用,為政府部門實現從實體組織向虛實深度融合提供了強大技術支撐。隨著人工智能等新技術在政府部門的應用程度得到加深,將為政府部門開辟出一個新的虛擬空間,這個虛擬空間將不僅帶來政府組織存在空間的延伸,同時更有可能帶來對政府組織的整體重塑。從組織層面來說,當政府部門完成了虛實融合后,一個顯而易見的變化將是新技術在政府治理中發揮重大作用,同時會對公務員的行為方式造成沖擊,在具體的治理過程中,新技術將與人類形成一種相依相存的關系。從結果來看,不僅會帶來政府組織結構的轉變,推動政府朝著虛實結合以及人機協同治理方向發展,而且也將帶來治理模式的變革,使得全天候、智能化的政府治理成為可能。
當前在全世界范圍內,已經有了人工智能在政府治理中的部分嘗試,但無論從數量還是程度上,這種應用都還處于開始階段。因此,本文及相關研究在論述人工智能對政府治理的機遇上必然帶有一定的預判性質,當這種預判與人工智能技術發展的不確定性聯系到一起時,會不可避免地難以對人工智能對政府治理所帶來的所有機遇形成全貌的認識。特別是當前關于“強人工智能”甚至是“超人工智能”的探討,都使得這種機遇有了更多的可能。基于此我們認為,關于人工智能對政府治理的機遇問題,有待學者在技術和實踐的發展基礎上進一步加以探討與驗證,從而形成客觀全面的認知。
3 政府治理面臨的挑戰:從技術本身到政府管理
在文獻梳理的過程中我們發現,當前關于相關挑戰的論述已經較多,但是整體上國內公共管理學界對這些挑戰的分析與反思仍顯不足,并且相應的研究也尚未形成體系,這顯然不利于政府部門對其形成全面的認識。為了使政府部門更容易理解相關挑戰,我們選擇將它們從政府治理的視角中分離出來。本文將相關挑戰歸納為13項,并在分析梳理其背后特征和邏輯關系的基礎上,將其劃分為安全與隱私、倫理與法律以及組織與管理三個類別,這三個類別分別代表與人工智能技術本身、人工智能技術應用及社會化以及政府對人工智能的治理等方面的相關挑戰。
3.1安全與隱私
人工智能的技術安全挑戰主要是指技術本身的安全性以及在應用中可能給人類帶來的安全問題,這是人工智能技術在發展與應用過程中的第一個嚴峻挑戰,并已經引起理論界和實踐界的重點關注。一方面,要注重保護人工智能系統本身的安全性,防止其被惡意篡改或攻擊,確保其能夠正常運轉;另一方面,也要關注人工智能系統學習環境和運行環境的安全,防止其從環境中學習負面行為或執行災難性動作,從而保證人類自身的安全。另外需要強調的是,系統的安全還表現在數據安全上面,在人工智能技術的研發與應用過程中,不管是對于數據的收集與使用,還是對于數據的存儲與傳輸,都面臨被攻擊的風險。總體來說,人工智能的安全性問題是政府在治理過程中面臨的首要挑戰,如不能有效處理,那么其在任何場景下的應用都將沒有價值與意義。
在大數據等技術的助力下,人工智能對個人隱私保護產生了巨大的沖擊。關于隱私保護,最重要的一點就在于個人的數據是在征求本人同意和遵守各自法律的情況下收集和處理的。但實際上,人工智能在社會化應用過程中(如監控攝像頭)會發生信息的采集與整合,因此公眾的大量個人信息將會匯聚到政府或私營部門,一旦這些信息被非法使用,就會帶來廣泛的隱私泄露問題。另外一點需要警惕的是,以往公眾認為并不屬于隱私或無關痛癢的信息,在人工智能等技術的挖掘與整合下,正在以一種我們沒有注意到的方式泄露重要的個人隱私并蠶食公眾自由。由此可以看出,人工智能對人們的隱私產生了巨大威脅,使隱私保護成為人工智能背景下亟待解決的一個挑戰,但由于涉及技術與法律等方面的難點,使得這一問題截止到現在仍難以得到有效解決。
3.2倫理與法律
倫理與法律方面的挑戰是指人工智能技術在應用和社會化過程中可能帶來的與倫理道德、法律監管以及社會保障等相關的挑戰,這些挑戰體現在人工智能制定的決策與規則是否合法、有效、公平,人工智能所遵循的價值準則是否與人類兼容,出現問題后如何進行問責,人工智能對勞動力的替代及財富的再分配以及對人工智能的接受與信任等方面。
人工智能在治理過程中會面臨合法性、有效性以及公平性難題。在合法性方面,人工智能與人類并不是享有平等的地位,因此,賦予人工智能同人類相同的權利并允許其參與到政府治理中,其合法性仍然有待商榷。在有效性方面,對于一些非常規的、重大或創新性事件的決策,直覺、意識等人類所特有的特征往往扮演著更加重要的角色。因此在這類事件上,人工智能所制定的決策與規則并不必然優于人類。在公平性方面,機器學習從過去的數據中識別模式,并基于這些模式做出新的決定,因此人工智能系統有可能鞏固或放大歷史偏見,從而帶來算法的公平性和歧視問題。總體而言,合法性、有效性以及公平性作為公共治理中的基本準則和社會人文學者重點推崇的價值追求,迫切需要政府部門從法律、倫理以及技術等多個角度采取措施加以解決。
機器與人的價值判斷的兼容性問題與上文中討論的人類與人工智能的差異密切相關。與人工智能系統相比,人類的決策不僅受到理性原則的影響,還受到情感和意識等因素的影響,因此在某些情況下,人類的價值取舍可能會有所不同。另外,隨著人工智能算法的進步和學習能力的提高,人工智能系統可能會發展自己的價值體系,并創建自己的倫理道德框架,這可能與人類的價值體系不相容。在最壞的情況下,機器的判斷將會與人類的價值判斷相抵觸,人工智能系統也將轉向獨立并最終對人類造成傷害。因此,謀求將正確的價值倫理植入人工智能,以確保其行為合乎人類的道德體系框架就顯得十分必要。
責任劃分和承擔是在人工智能技術運行失敗甚至導致不良后果的情況下政府部門將面臨的一個巨大難點,如果因為使用人工智能技術而產生不良后果,那么到底是硬件或軟件設計人員、供應商或運營商、使用方甚至人工智能系統本身應該承擔相應后果。有觀點認為,人類總是應對與技術相關的后果負責,但是隨著人工智能系統在運行過程中不斷自主學習與行動,開發人員或操作人員可能無法控制或預測他們隨后的行為,從而帶來所謂的“責任鴻溝”問題。總體來說,人工智能的社會化應用主要是實現機器對人類的代替,相應地不可避免就會帶來責任的模糊,截止到目前,已經有各種各樣的方法來探討解決責任和問責挑戰,并尋求克服“責任鴻溝”,但卻尚未達成共識。
對勞動力的替代以及轉型等方面的影響,是目前人工智能在社會化過程中所遭遇的最普遍的挑戰之一。越來越多的人開始擔憂,人工智能的推進和實施將導致失業問題,普華永道(PwC)的一項研究證實了這一點,有超過三分之一的員工擔心自動化帶來的潛在失業。盡管各個機構或組織對于人工智能對現有工作崗位替代的預估從30%~80%不等,但是現有事實已經開始證明這種替代確實普遍存在。與失業問題同時存在的還有勞動力的轉型問題,雖然數據科學家、機器學習工程師等與人工智能密切相關的新崗位已經開始逐漸出現,但是不容忽視的是,越來越多的人將不得不去從事工資更低廉的工作,甚至是兼職零工。從現實的情況來看,由自動化技術發展所帶來的技術性失業正以各種形式出現在我們身邊,“凱恩斯拐點”正在逐步到來。
人工智能的社會化所帶來的更深層次問題在于社會分化,貧富差距進一步擴大。和歷史上的任何一次技術革命一樣,人工智能技術每向前推進一步,都將帶來社會各階層利益的劃分與重構。科技發展正在創造大量的新財富,但這些財富主要集中在少數愿意冒險的企業家和那些擁有支持顛覆性行業和風險投資技能的人身上。當勞動力被自動化逐漸替代,大量的新財富將更多流向資本或技術的所有者,這會進一步導致中產階級萎縮和社會貧富分化。當民眾失去生產的機會,政府部門要面對且必須設法解決的根本性問題已經從生產轉變為分配———如何分配自動化技術所生產出的產品和財富。
政府以及社會對于人工智能技術的信任或接受,與上述關于人工智能技術安全、隱私、歧視和勞動力替代等可能直接對公民產生負面影響的其他挑戰密切相關。如果這些挑戰得以順利解決,公眾對于人工智能的信任程度自然能夠得到提高。如果公眾感到人工智能并沒有帶來公平公正的決定,或者威脅到他們的安全、隱私或就業,從而違背他們對于人工智能的美好期望,公眾將非常不可能接受或信任人工智能。如果人工智能帶來的失業和財富的集聚加劇了社會不平等、拉大了貧富差距,這可能會導致普遍的社會不滿而不是接受與信任。另外,隨著人工智能技術對人類的理解越來越深,人類可能會越發有心理恐慌或情緒焦慮,這或許將導致更深層次的不信任。
3.3組織與管理
組織與管理方面的挑戰是指政府部門在有效運用和管理人工智能技術時所面臨的挑戰。基于前人的研究,我們將政府部門在組織與管理方面的挑戰分為五個方面:人力資源儲備、治理權威、治理理念、治理結構轉型、數據共享與集成。
人力資源儲備情況是政府部門有效運用人工智能技術進行社會治理的關鍵要素,然而現實情況卻是相關專家人才的缺乏,已經成為人工智能技術實施與運用的一大阻礙。關于這一點,政府部門所面對的挑戰顯然更為嚴峻。與私營部門相比,政府部門在信息技術的運用上一直都較為滯后,同時相應的專業化人才也更為匱乏,這種人才匱乏的現狀導致人工智能技術難以在政府治理進程中發揮出應有作用。
與上一個挑戰密切相關的另一個問題在于政府的治理權威將面臨威脅。隨著應用程度的加深,人工智能技術在政府治理中占據著越發重要的位置,誰掌握了相關數據和算法,誰就可能在政府治理中占據核心地位。由于人力資源儲備或專業化水平不足,政府部門現有的許多相關應用都是由掌握技術優勢的科技巨頭研發完成,因此政府部門對這些企業的依賴正日益加深。從一定意義上來說,政府已經將政治考量、政策制定和公共事務處理交給了機器及其背后的大企業。從深層次來看,由于算法具有不透明性,就使得這些大企業在一定程度上扮演起“算法影子官僚”的角色。未來,這些具備“算法權力”的科技巨頭或將對政府的治理權威形成對抗、消解甚至支配。因此,探討如何最大限度將私營部門的技術優勢運用到政府治理中,同時又防止科技巨頭因過度染指公共權力而對政府的公共管理權威造成威脅,將是政府部門迫切需要化解的一大難題。
及時轉變政府部門的治理思維和理念是一個重大挑戰。與運用其他技術一樣,政府在運用人工智能的過程中常常存在“技術導向”和“技術依賴”兩種不良傾向。一般而言,新技術往往會具有短期的躍進效應和長期的固化效應。人工智能的確能夠以“躍進”的方式提升體制效率和體制韌性,但是這種提升效應是短期的,不僅難以持續,而且還會造成體制的長期固化。所以,人工智能技術的成熟并廣泛應用于政府治理領域可能會使治理主體產生技術依賴,將政府治理過程簡化并固化為購買機器設備、建設基礎設施、培訓技術人員和技術手段常規化的過程,而卻忽視治理理念的與時俱進,導致技術與管理之間不對等,從而使得管理者無法按預期的方式服務公眾。人工智能技術確實為政府治理帶來了變革的可能性,但是它卻不會自動實現,亟待政府部門及時轉變治理思維和理念,并在這種可能性的基礎上建構起相應的體系與制度。
政府部門治理結構的僵化在人工智能時代會表現得更為突出。人工智能技術具有開放性的特征,但是這種開放性也極有可能導致發展的不確定,如果缺乏有效監管,人工智能最終很可能對人類社會造成難以估量的傷害。由于生產網絡遍布在社會各個角落,對人工智能的治理就具有了跨部門的性質,政府現行的單部門、事后監管式的手段已經難以起到治理效果。因此,政府部門一方面需要在新技術的基礎上加緊推動自身從結構到功能的重塑,促進整體性政府的建設,另一方面也迫切需要加強與其他利益相關者(如學術界、工業界等)的緊密合作,并構建起多方協作的治理機制,從而共同面對潛在風險與挑戰。
數據質量與共享是一個老生常談的話題,也是人工智能時代政府治理不得不面對的一大艱巨挑戰。一方面,數據作為人工智能的“石油”,其質量十分重要,人工智能系統需要不斷從高質量的數據中進行學習才能達到最終的智能;另一方面,數據共享也十分關鍵,但目前“數據孤島”“數據壁壘”現象在政府部門十分廣泛,各部門之間的數據共享程度較低、互聯互通尚未實現。為此,為了能在政府部門成功實施人工智能,收集、聚合、存儲和使用無偏倚的相關數據是必要的,同時也會不可避免地成為政府部門運用人工智能技術過程中面臨的艱巨挑戰。
整體而言,當前關于人工智能技術對政府治理帶來的挑戰已經引起學界和實踐界的廣泛關注,并嘗試采取各種措施加以解決,但作為一項新科學技術,人工智能極有可能造成這些挑戰的多樣化以及解決措施的多元化。從挑戰的多樣化來看,人工智能的發展具有極其嚴重的不確定性,這也是造成當前關于“強人工智能”和“奇點”等紛爭的根本原因所在。由于人工智能的發展方向存在多種可能性,也導致其可能帶來多樣化的挑戰。從解決措施的復雜化來看,作為一種新的尖端科技,人工智能不管是從形態還是功能上來說都具有其獨特性,這就導致傳統的治理手段和方式都難以達到有效的效果,因此亟待政府部門采取新的多元化解決措施加以應對。
4 總結
本文對人工智能為政府治理帶來的機遇與挑戰進行了系統梳理與歸納,從政府的治理理念、治理方式與過程、治理結構出發,探討了人工智能可能為政府治理帶來的機遇,以期促進政府部門全面了解與認知人工智能帶給政府治理的機遇與可能。關于挑戰方面,本文循著人工智能技術本身、技術的應用與社會化、政府對人工智能的運用及治理這樣一條邏輯主線,將潛在的各種挑戰劃分為安全與隱私、倫理與法律、組織與管理三個類別,希望能提醒政府部門對可能出現的各種挑戰保持高度警惕并做好應對準備。政府部門有必要抓住這一歷史機遇,實現從治理理念到結構的全方位變革。而對于存在的種種挑戰,政府部門也應盡早采取必要措施加以積極有效的應對,從而盡可能最大化人工智能技術的正面價值。
目前西方國家進行的一些探討與實踐為我們解決上述這些挑戰提供了一定借鑒,如在人工智能倫理治理方面,歐盟分別于2019年4月和2020年2月發布了《可信賴的人工智能倫理準則》和《人工智能白皮書》兩份報告,謀求從遵循人類價值、技術安全、可持續發展、透明與公平等倫理監管的角度入手,消解人工智能發展中可能存在的風險和挑戰;英國也于2019年6月和2020年2月先后發布了《公共部門人工智能使用指南》和《人工智能與公共標準》兩份報告,分別從公平、可責性、透明度和可持續等標準出發,為政府部門合理、安全使用人工智能提供了包含倫理原則、法律體系以及監管制度等在內的路線指引和具體建議。中國在發展人工智能的進程中也應該采取自上而下的方式,建構起包括以人為本、公平透明、可持續發展、尊重人的基本權利和價值等在內的倫理道德體系,以最大限度規避人工智能技術可能帶來的風險與挑戰。