我曾經在前幾天的一周見聞03里面談到過 DeepFake 可能帶來的問題，不過也只是提了一嘴，沒細說。
沒想到今天《射雕英雄傳》楊冪的換臉視頻上了熱搜，那也趁著這個機會，深入聊聊DeepFake。
先來看看熱搜的圖片。
這是原來的朱茵的臉
使用 Deepfake 換臉之后。
有什么感受？細思恐極？或者驚嘆于技術的力量?
那什么是 Deepfake ？
Deepfake
Deepfake，一個由“deep learning'（深度學習） 和 'fake'（假） 組成的混合詞，是一種基于人工智能的人物圖像合成技術。它用一種被稱為生成對抗網絡（GAN）的機器學習技術將現有的圖像和視頻疊加到原來的圖像和視頻之上，現有視頻和源視頻的結合創造了許多假視頻——現實中人（們)根本沒有做過這些事情。
舉個例子，創作出的這些假視頻可以被用來展示一個清白的人拍了愛情動作片，或者通過改變手勢讓政治家看起來說了它從未說過的話。由于這些潛在的用處，deep fakes 通常被用于制造名人色情錄像或者報復色情。deep fake 也可以被用來創建虛假新聞和惡意的惡作劇。
翻譯自 Wikipedia[1]
簡而言之，就是利用人工智能生成換臉視頻。
著名演員斯嘉麗·約翰遜在華盛頓郵報的采訪中表示：“讓任何一個人成為這項技術的攻擊目標只是時間問題。”在過去的一年中，斯嘉麗·約翰遜已經被疊加到數十個性愛視頻中，其中一個“走光”視頻已經在PronHub（國外一個主要的色情網站）上觀看了超過 150 萬次。
目前，DeepFake 這項技術已經被用于各類女星上，國內的也不例外。
我們來看看 deepfake 在 Google Trends 的熱度變化
2017 年 Deepfake 技術發布時，曾經掀起了一波高潮。后來由于這項技術極易被用于生成非自愿的色情視頻，Reddit、YouTube 等主流網站紛紛屏蔽了 Deepfake，但源代碼是開源的，PronHub 上 Deepfake 的熱度也一直居高不下。
雖然這里只調取 Google Trends 的數據，不過在通用搜索引擎都是如此，在專業的網站自然更不必說。
那 Deepfake 的門檻有多高？換言之，任何人都可以做么？
Deepfake 的門檻
門檻真的不高。
我們分別在 GitHub 和 YouTube 上搜索 “deepfake”。
我們可以很輕易地找到 deepfake 的項目地址 [2]
在 YouTube 上也很容易找到相關的教學視頻。
潘多拉的魔盒已經打開了，只要有市場，一定會有人滿足需求的。
甚至有人都做出了相關的 Windows 程序 fakeApp、facesway、deepfacelab [3] [4]。
FakeApp 只需要一個包含Nvidia GPU的個人電腦、3~4GB的存儲空間，就能生成換臉視頻。無需任何 AI 的知識。
剩下的，只剩下訓練的數據了。
明星、政治家等公眾人物的影像資料非常多，所以極易獲取大量的訓練數據，這也就導致了明星色情視頻和惡意政治視頻的泛濫。
如果數據太少，生成的視頻會有很多違背常識的地方，很容易看出來這是假視頻。通常而言，訓練數據越多，生成的視頻越逼真。
數據量不夠，這可能是阻止將 Deepfake 用在普通人身上最后的一道門檻了。
但也別高興地太早。
且不說現在日新月異的技術發展速度可能導致未來模型更強大，只需要很少的數據就能生成即為逼真的視頻。
想想我們平時在社交網絡上面發表的那些照片，朋友圈、微博上你多久發一次自拍？。還有那些發布在各大平臺的小視頻，視頻能夠提取的數據量可是遠大于照片的。
而且通過社交賬號，完全可以順藤摸瓜找到社交關系網，他們可能也會在網絡上發布含有你的合照。
所以如果你經常在社交網絡上發自拍，如果有人要刻意針對你，潛伏幾個月收集數據，你可能真的毫無察覺地就成為了某個奇怪影片的主角。
如果全過程被簡化成「交錢」和「提供數據」，這完全可以催生出一個龐大的黑產市場。
畢竟，人生不如意事十之八九。
鑒別 Deepfake
上文提到過，如果數據量不夠的話，視頻里還是有很多漏洞能夠讓我們一眼辨清這是假視頻。
學界也在嘗試用 AI 判斷假視頻，但是看看下面的新聞。
AI也無法識別出“假視頻”，95%蒙混過關
（當然，我們要相信魔高一尺，道高一丈）
此外，明星的假視頻我們至少還知道這是假的，但如果這項技術是針對普通人的呢？
我們退一萬步講，假設我們真的可以鑒別假視頻。對于普通人造成的傷害可以彌補么？
你快要升職了，突然網上流出一堆你的小視頻而且傳到了公司。盡管第三方已經確定了視頻是偽造的，但那又如何？同事們看你的眼神還會和以前一樣么？你還能以原來的心態在公司里呆著么？
再想想現在謠言和辟謠之間的斗爭，謠言動動嘴，辟謠跑斷腿。這還只是消息的傳播，假視頻的傳播應該不會輸于消息吧？而且，恐怕在看到過視頻的人里面，能夠意識到它是假視頻的人只會是少數。
互聯網沒有刪除鍵。
當視頻被傳上網絡之后，一切，就已經是抹不掉的了。
我們能做什么？
說起來挺無奈的，我們能做的很少。畢竟視頻的制作權是掌握在別人手中的。
但是就像我在這篇 在網上我們應該怎樣保護自己的隱私 里面曾經提到的一樣，對于絕大多數人而言，我們的個人信息都是可以被獲取的，只不過所耗費的成本不同。我們能做的也只是盡可能提高獲取成本。
不過至少我們可以做到
1. 盡量少發含有自己正面肖像的照片、視頻到社交網絡上。
2. 社交網絡上發布的照片、視頻最好能夠對陌生人不可見。
3. 抵制 Deepfake 用于惡性誹謗，避免對當事人造成二次傷害。
結語
引用《技術壟斷：文明向技術投降》里面的一段話做結語吧。
事實上，大多數人認為技術是個可靠的朋友。這其中有兩個原因。首先，技術的確是個朋友。技術使生活變得更加便利和干凈，同時也延長了人類的壽命。對于這樣的朋友，我們還能提出更多的要求嗎？其次，基于技術與文化之間長久、密切和必然的聯系，人們不會仔細檢查技術會帶來什么樣的后果。技術這個朋友要求我們信任它、服從它，而大多數人也愿意這么做，因為它為我們帶來了豐厚的饋贈。然而，這個朋友也有其黑暗的一面。它送來的禮物需要我們付出沉重的代價。
如果用最富于戲劇性的語言進行表述的話，我們可以這樣譴責技術：技術不受控制的發展摧毀了人類至關重要的根源。技術所創造的文化缺乏道德根基，它破壞了某些心理過程和社會關系，破壞了人類生存的價值根基。
總而言之，技術壟斷既是朋友，又是敵人。
