nfinance
編者按
數字時代人們消耗更多的時間在網上社交、點餐、瀏覽新聞、購物，這些網絡活動往往離不開算法。算法在提升效率的同時，卻也從多方面抑制了競爭，損害了消費者。國際上已有大量報告建議成立專門監管部門，比如英國政府計劃于2021年4月正式在英國競爭與市場監管局（CMA）內成立專門的數字市場部門，CMA近日還發表了《算法如何抑制競爭并損害消費者》（Algorithms：How they can reduce competition and harm consumers），表明其對數字平臺算法進行事前規范的重視。
作者｜王正昌「中國人民銀行歐洲代表處」
文章｜《中國金融》2021年第5期
算法設計在不經意間就會影響消費者的決策，如購物網站“購買”按鍵的位置、信息欄的顏色、默認的支付方式等。這些網絡架構雖然可以使消費者受益，但也可能使商家利用消費者的弱點，誘導其決策，損害消費者利益和市場競爭。CMA總結了算法對消費者利益的多種侵害形式。
個人化定價。商家可以通過大量的用戶數據，結合用戶的購買意愿，利用算法對不同類型的客戶提供不同的報價，例如，給予不同的折扣，從而獲取盡可能高的利潤。這一模式在消費者難以轉換至其他提供者的平臺型企業等數字市場提供者中尤為有效。許多情況下，個人化定價可以通過減少消費者搜索成本、更好地匹配供應商和消費者來增加總產出和消費者福利，為消費者提供精準折扣也能幫助新進入者獲取競爭優勢，特別是存在轉換成本的市場領域。但在更多情況下，個人化定價會損害消費者，如在市場缺乏競爭情況下，企業可以因此實施價格歧視行為。如果個人化定價導致消費者對網絡市場缺乏信任，還將會影響整體經濟效率。個人化定價還可能使消費者多次搜索以規避額外定價，這增加了搜索和交易成本，同樣削弱經濟效率。
個性化排名。企業往往基于消費者的行為進行個性化展示，如電子購物網站基于消費者搜索記錄、地理位置等信息進行有關商品推薦。這種個性化排名展示會影響消費者的決策立場，企業可以以此操縱消費者選擇，如向支付意愿較高的消費者展示價格更高的產品，達到與個人化定價相似的效果。在實際中，個性化排名的使用遠比個人化定價普遍。
推薦和過濾算法。推薦和過濾算法是通過決定呈現給消費者的信息和選項從而影響其決策的系統，如社交媒體和視頻媒體向用戶的內容推薦。這種推薦算法會讓用戶對有關媒體更上癮，用戶基于算法推薦會愈來愈關注特定少數領域，導致用戶對真實世界認知的碎片化。這不僅會加強社交媒體的壟斷力量，而且對社交媒體的上癮事實上會降低產品或服務的質量，從而減少消費者福利。
操縱用戶軌跡。企業可以利用算法判斷是否及何時向用戶發送關于用戶體驗的提醒，最終影響用戶決策和競爭。例如，企業可根據用戶特征和互動歷史，預測其對企業產品的評分，再基于此發送給予評價的推送，從而誘導可能給與高評價的客戶進行評價，最終導致評分膨脹，使得評分對消費者的參考意義降低。
算法性歧視。基于客戶特征使用算法提供個性化產品或內容可能會形成法律禁止的歧視。在英國，《平權法》禁止個人和組織基于年齡、性別、種族、信仰等受保特征采取歧視性服務，特別是更難察覺的間接歧視行為。算法性歧視的典型形式有以下幾種。一是地理區域目標族群設定。具有受保特征的人群在地理上并非均勻分布，因此企業可采取地區差別定價或差別服務，這構成間接歧視。例如，研究表明，美國亞裔集中地區SAT備考費用是其他地區的兩倍。二是在線共享經濟平臺。平臺在設計中沒有消除用戶的歧視性行為，特別是在平臺通過減少匿名和提供服務提供者信息來試圖構建信任和促進交易過程中。例如，短租平臺Airbnb展示房東和租客的信息，實證表明黑人房東收入更少，黑人租客更容易被拒。三是歧視性定向廣告。在線平臺允許廣告商使用受保特征發布定向廣告。例如，房產商在臉譜平臺中根據種族特征發布定向廣告。
不公平排名。企業可以通過設計得當的默認選項、排名等顯示架構來幫助消費者快捷找到理想結果。但是如果企業的有關顯示標準不透明，那么顯示結果可能會更多基于企業利益，而消費者一般會認為有關結果是客觀的，就會依賴企業的默認顯示結果或排名。企業采取算法改變顯示結果來影響消費者感知以獲取商業利潤的行為即為不公平排名。平臺企業實施不公平排名有兩條重要的途徑。一是顯示結果偏向于商業利益伙伴，例如，CMA發現部分酒店預定網站優先顯示傭金率更高的酒店。二是黑暗模式（dark pattern），企業利用消費者的弱點，通過不同的選項架構來誘導消費者作出計劃外甚至是有害的決定。例如，酒店預訂網站顯示有多少人近期瀏覽該酒店，給消費者造成一種即將售完的緊迫感，而實際上網站顯示的瀏覽人數包括了不同日期不同房型的瀏覽，這構成了對消費者的誤導。
算法合謀（Algorithmic collusion）。企業之間可以通過算法使顯性合謀更加穩定，或是在沒有達成明確協議的情況下開展隱性合謀。整體而言，算法合謀主要有三方面的危害。一是價格數據可獲得性的提高以及自動化定價系統使用有利于明示合謀，企業能夠更容易察覺到價格偏差，并予以糾正，使明示合謀更加穩定。二是企業使用第三方提供的同一算法系統制定價格，或將定價決策委托給同一中間體，這形成“轂輻狀”結構，便利企業交換價格信息。三是形成“自主默契型合謀”，盡管企業采取不同的定價算法系統，但因為設計相似，理性地實施價格跟隨行為，因此盡管企業沒有達成任何協議，但仍形成隱性合謀。
平臺監管無效形成傷害。平臺會采取監管算法來阻止虛假評論等危害，但如果監管算法不是完全有效，且缺乏透明度，不能被外界評估，那么也會損害消費者權益，帶來廣泛的社會危害。例如，電商平臺不能有效地刪除或減少使用機器偽造的虛假評論，社交媒體未能屏蔽仇恨等社會危害言論。根據美國1996年《通信規范法》第230條，平臺基本無需因用戶言論承擔責任，除非該言論違反知識產權法或刑法等。英國方面認為，從消費者保護角度上看，平臺應該確保能檢測到非法或誤導性內容。
偏袒自身（Self-preference）。部分電商平臺和搜索引擎有強大的市場地位，是連接消費者和企業的重要樞紐，因此它們的結果顯示架構能對企業的利潤有重要的影響。當這些主導平臺在結果顯示中偏向于自身產品和服務時，就會破壞競爭，尤其是平臺的偏袒并非以市場表現為基礎。例如，歐盟委員會發現谷歌在網絡購物的搜索結果中，通過特定算法過濾質量較差內容，避免其出現在搜索結果前列，但是谷歌的電商服務卻得到該算法豁免。排名并非自身偏袒的唯一方式，平臺還可以利用用戶的默認效應或商品突出性設置。例如，在Amazon平臺中同一商品有多個賣家出售時，其往往將自營商品設置為默認選項。
操縱平臺算法排斥競爭者。數字平臺中的企業利用平臺的顯示算法，暫時壓制新進入者的曝光度，達到驅逐競爭者的目的。通常而言，平臺的搜索和顯示算法不僅未能很好地控制這種打擊競爭的行為，還系統性地偏好現有的在位者，讓消費者更難發現新進入者，甚至因幫助在位者鞏固地位而收取分成。此外，如果法律要求臉譜、谷歌等平臺修改其復雜的算法系統，這會讓進入者難以適應，無意中起到排斥新進入者的效果。
掠奪性定價。企業不僅可以通過個人化定價來獲取最大利潤，還可以通過算法識別出最有可能轉換提供商或對新進入者尤為重要的客戶，為其提供定向優惠。這可以使企業以更低成本更輕易也更有效地實施掠奪性定價，排除或邊緣化競爭者。
無法直接獲取企業數據和算法。在此情況下難以將一個單獨算法的影響從整個算法體系中剝離，通常做法是將搜集或模擬的相似數據輸入到該算法體系，對模擬結果進行分析。該做法存在若干缺陷。一是有些算法系統的輸入數據比較模糊或完全無法觀測，如基于用戶行為的推薦算法，對外界來說使用哪些行為難以斷定。二是部分算法的結果無法觀察，如將人群分類的聚類分析算法，個人消費者對其分組情況并不知情。三是在算法合謀等情形中，企業之間算法的互動會形成損害，給識別個體算法的影響帶來極大挑戰。學術界已研究出幾種方法，以在不能直接獲取數據和算法情況下，應對上述挑戰。一是招募消費者充當數字化“神秘顧客”，以判斷真實客觀的企業定價。二是使用爬蟲技術進行“爬蟲審計”（scraping audit），將消費者信息剝離出來，分析有關信息的偏離程度。三是構造大量不同特征的虛假人物來模擬算法結果，這可以規避個人信息搜集面臨的數據保護問題。
能夠直接獲取企業數據和算法，外界可以對算法的決策體系進行全面的評估，不需要再額外搜集處理數據。在此情形下，有三類調查方式：一是動態分析法，即通過執行算法代碼進行自動測試；二是靜態分析法，即不實際執行程序的情況下，對代碼語義和行為進行分析；三是手動代碼評估，但對于復雜的算法軟件而言難度很大。其中，動態分析法效果最好，因為后兩者無法反映算法與外界因素的反身性。在審核數據和代碼前，評估方應獲得算法機構的虛擬代碼、解讀說明等文件，以幫助了解算法的發展歷程。此外，算法的輸入和輸出數據也能幫助評估方更好評估算法，特別是在機器學習算法中，往往是數據而非代碼導致算法偏離公正的最優算法。通常而言，在能獲得算法和數據的情況下，評估效率遠高于無法獲得的情況。因此，監管者的監管能力很大程度上取決于企業是否積極配合。
許多損害消費者的算法系統設計越來越隱蔽，使消費者難以察覺并懲戒有關企業，同時許多占據市場主導地位的企業也設計有關算法，因此依靠市場力量不能阻止有關不良實踐，最終損害消費者利益和競爭。對此，CMA等監管機構需采取積極的干預措施。
為企業提供指引，設立或明確標準。許多研究報告指出，設立清晰的指引和標準能幫助企業理解監管預期和遵守法規。例如，為人工智能（AI）技術提供指導意見能幫助企業適當地使用機器學習算法，防止算法性歧視等行為。指引文件可以要求企業使用個人數據進行系統性分析前進行數據保護影響分析，也可鼓勵企業將算法系統透明化，持續解釋其復雜的算法系統。美國聯邦貿易委員會在2020年4月份強調算法的透明，并向消費者解釋算法決策機制。指引文件可以由公共部門與企業、消費者、研發人員等共同參與制定，以吸收行業內最佳實踐，但公共部門需解決指引文件缺乏法律效力的問題。
識別并修補存在的損害。CMA的數據科技分析部門通過對投訴、新聞、論文的監測，識別算法危害的潛在趨勢，之后對此算法進行調查，主動識別潛在危害。社會輿論在CMA識別算法危害中發揮了重要作用，因此CMA鼓勵學術界、媒體界等社會團體就算法的潛在危害活躍地進行調查。如果有足夠的證據表明一家企業的算法損害消費者權益或是競爭，CMA可正式展開調查，要求有關企業提供更多信息，便利CMA進行深入評估，CMA也可就有關收購獲得產品服務的供給進行市場研究或是市場調查。如最終認定算法造成不良后果，企業可以主動整改，達到CMA的要求，或是CMA向企業提出整改建議。事后，CMA監測整改的執行情況，評估整改效果。
持續對算法進行監測。企業算法并非靜態，而是常常更新，因此一次性的評估可能會很快失效，需要持續對算法進行監測。除上一段落中獲取信息的方法外，監管沙箱對監管者而言是十分有效的工具，能在真實環境中測試算法，而又不用擔心引發嚴重后果。但監管沙箱也有局限性，難以設計出反映真實運營環境的沙箱環境，沙箱中的算法也難以表現出真實環境中與其他算法互動后的進化性。此外，通過對企業的算法合規性要求，也可以持續保持對企業算法的監測。當前，國際上有大量報告建議成立專門的監管部門，對數字平臺進行事前規范。英國政府已宣布在2021年4月將正式在CMA內成立專門的數字市場部門。
建設并使用數字化能力，加強部門與國際合作。CMA已經投入大量資源進行算法研究，聘用了數據專家和行為專家來研發應用新的算法調查技術，監測企業和視察，對算法危害進行提前預判。CMA還與英國信息專員辦公室等其他監管者分享信息，通過數字監管合作論壇等機制打擊有害算法。在國際上，CMA也與他國競爭監管機構合作，促進相互學習，交流良好實踐。在算法應用全球化的情況下，國際合作尤為重要。■
（責任編輯 張馳）
