AI時代，以AI之名行騙的“偽AI”產(chǎn)品屢見不鮮，甚至影響越來越廣泛。
有位名叫阿文德·納拉亞南（Arvind Narayanan）的普林斯頓CS副教授坐不住了。他炮轟道：
某些公司為了賣貨，利用公眾的不了解，不管賣的是什么通通貼上“AI”的標簽。
更可怕的是，像AlphaGo這樣優(yōu)秀的AI們吸引來了大量的投資者。光環(huán)之下，“偽AI”產(chǎn)品同樣能募集到巨額資金，甚至在資本的推動之下，成為趨勢，影響越來越多的人。
阿文德以AI面試舉例。現(xiàn)在，全球已有百萬求職者經(jīng)歷過或正在經(jīng)歷AI面試官的“凝視”。
提供這類產(chǎn)品的公司非只一家，其中最知名的HireVue，聲稱全球有超過700家公司使用他們的產(chǎn)品，其中不乏世界500強企業(yè)。目前，這家公司已募集資金9300萬美元（約合6.55億元人民幣）。
△康奈爾大學調(diào)研結(jié)果
阿文德指出：
沒有經(jīng)過同行評審的證據(jù)能夠表明，這些東西真的可以預測工作績效。數(shù)百萬求職者面對的不過是精心設(shè)計的隨機數(shù)生成器。
令人懷疑的，還遠不只是這一種產(chǎn)品。
為了讓大家不被這樣的最新“智商稅”收割，阿文德決心教會大家如何識別這些AI界的騙子們。
他的這份“防騙指南”登場數(shù)小時，就已經(jīng)在推特上收獲了1500贊。
首先，阿文德認為，現(xiàn)在的AI應(yīng)用可以分成三類：
真正卓有成效的項目
不完美但進展明顯的項目
根本不靠譜的項目
總結(jié)起來，在人臉識別這樣的感知任務(wù)，和推薦算法這樣的自動判斷任務(wù)上，AI的表現(xiàn)都比較靠譜。
而“偽AI”嫌疑人所做的，是預測和人有關(guān)的“未來”。
人們無法預測未來本來應(yīng)該是常識，但遇上AI，常識總是被拋到腦后。
當然，口說無憑，阿文德引用了普萊斯頓大學脆弱家庭和兒童福祉研究的一項研究結(jié)果（地址見文末）。
這項研究旨在探明孩子們的表現(xiàn)到底是不是可以預測的。
流程是這樣：先通過深入訪談和家庭觀察收集大量孩子及其家庭的數(shù)據(jù)。然后，用這些數(shù)據(jù)訓練預測模型。輸入的變量有近13000個，輸出結(jié)果將預測這些孩子在15歲時6種表現(xiàn)。
如果模型能夠完美預測出結(jié)果，R^2=1，如果模型啥也沒學會，R^2=0。
但訓練的結(jié)果，卻讓參與研究的研究人員們大跌眼鏡。
即使是表現(xiàn)最好的模型，也并沒有哪一項預測結(jié)果是讓人信服的，甚至不如用4個變量線性回歸擬合出來模型靠譜。
△綠線：4變量線性回歸結(jié)果
這一結(jié)果并非個例。在一項再犯罪率的預測研究中（論文鏈接見文末），AI的預測準確率只比隨機結(jié)果好一點點，還是比邏輯回歸的結(jié)果低了2個百分點。
并且，不止是預測結(jié)果不靠譜，這樣的預測AI，還暗含著更多風險。
首先，訓練這樣的AI需要收集大量個人隱私數(shù)據(jù)。誰都沒有辦法保證，這些數(shù)據(jù)會絕對安全。
其次，人們對這類AI的盲目信任，會使得一個領(lǐng)域的話語權(quán)，從領(lǐng)域?qū)＜液蛷臉I(yè)人員身上，大規(guī)模轉(zhuǎn)移到掌握AI的科技公司。
更重要的是，AI的黑盒子屬性使得它給出的結(jié)果缺乏解釋性。
就像是一開始舉的AI面試的例子，AI面試官給你打了個低分，誰也沒法兒解釋，到底是因為你表現(xiàn)不夠自信，還是你身邊的噪聲影響了它的判斷。
不是每一只AI都叫AlphaGo。阿文德承認，人工智能在某些任務(wù)上表現(xiàn)得十分出色，但如果有人把AI當成了萬金油，只為了分得AI風口上的一杯羹，那么，就要擦亮雙眼，該反對反對，該抵制抵制。
天下苦“偽AI”久矣。阿文德的“防騙指南”一經(jīng)公布，就在社交網(wǎng)絡(luò)上引發(fā)了熱烈的討論。
有人指責“人工智能”一次本就帶有營銷色彩，如果要討論技術(shù)，就應(yīng)該換一個詞。
有人提及，連Facebook、Google這樣的科技巨頭都在AI方面造假。
注：谷歌能夠自動打電話、被稱贊通過圖靈測試的AI Duplex，被《紐約時報》曝出4次成功完成的任務(wù)中，有3次靠的是人工。
有人認為，真正的AI會改變游戲規(guī)則，讓人無法忽視，也無需大肆宣傳。
還有人對“防騙指南”做出了補充：
我曾經(jīng)采訪過這樣一家AI初創(chuàng)公司。領(lǐng)英顯示，他們對開發(fā)人員不屑一顧，但對“培訓師”卻頗為關(guān)注。
我很懷疑他們到底是不是真的在造AI。
自AlphaGo一鳴驚人，震驚世界以來，人工智能逐漸被推上高地，吸引了大量的資金、人才，也吸引了大眾的矚目。風口之中，真正的硬核技術(shù)光芒四射，而這樣的光芒之中，也掩映著投機者的身影。
但濫竽充數(shù)者終會露出馬腳。你覺得呢？
以及，有什么AI項目是你覺得“偽AI”的嗎？
PPT地址：
https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf
Hacker News討論：
https://news.ycombinator.com/item?id=21577156
普萊斯頓大學脆弱家庭和兒童福祉研究：
https://fragilefamilies.princeton.edu/about
累犯預測：
https://advances.sciencemag.org/content/4/1/eaao5580
— 完 —
量子位 QbitAI · 頭條號簽約
