Deepfakes作惡沒有下限！如何應對一鍵脫衣AI帶來的挑戰？
盡管計算機目前還沒有超出人類思維，但我們已經開始面對 AI 時代的第一個挑戰——Deepfakes 的興起，代表著 AI 技術正在破壞信任并試圖顛覆“眼見為實”的世界。
更多優質內容請關注微信公眾號“AI 前線”（ID：ai-front）
真實與虛假
說到最近兩年 AI 領域的“黑科技”，那一定是 Deepfakes 無疑了。自 Deepfakes 誕生至今，在伴隨著高關注度的同時，巨大的爭議也如影隨形。
Deepfake 是一種利用深度學習算法合成虛假圖像、視頻等技術的統稱。這項技術誕生在 2017 年底，一個名為“Deepfakes” 的用戶，在 Reddit 社區里上傳了一些視頻，視頻中成人電影女主的臉被換成了當紅明星的臉，竟毫無違和感，真假難辨，蓋爾·加朵、黛茜·雷德利、娜塔莉·波特曼等一眾女星都成了“受害者，相關視頻很快熱度竄升。
隨后，Deepfake 算法被公開，APP 也做了出來，這一下子激發了不少計算機愛好者的興趣，他們想出了各種各樣的玩法兒，有“腹黑”網友將它當作色情復仇的工具，收集自己討厭的女生的照片，用 Deepfakes 來定制“小黃片”。還有很多網友特別喜歡用 Deepfake 來惡搞政治人物，將程序員的臉換成奧巴馬、普京，把希拉里變成“希拉里·川普“.......
在國外火了一段時間之后，Deepfake 的熱度也傳到了中國，技術大神們紛紛開始施展腦洞，把六小齡童“變”成帥氣的蔡徐坤，普通的網紅可以瞬間變成楊冪、劉亦菲，徐錦江分分鐘變身美國英雄“海王”，楊冪的臉換到朱茵版黃蓉的臉后竟意外達到了演技巔峰.....
現在業內有人提出了 Deepfake 2.0 階段的概念，相對于 1.0 階段的換臉，以后 Deepfake 還可能會做到模仿人的行為舉止、聲音、習慣、動作，以達到和真人視頻難以區分的程度。今年 6 月初，Facebook 上一個關于馬克·扎克伯格的假視頻傳播度特別高，視頻里的人從長相、聲音、穿衣、手勢、說話時的動作神情都與真人無異，但確實是合成的。
一周前，又出現了一種新的“Deepfake”技術，只需要一張照片，加上一段音頻，就能讓愛因斯坦張嘴演講，讓百年以前就去世的人大唱歌手碧昂斯的歌曲。
是不是感覺到細思極恐了？Deepfake 技術在迅速迭代的過程中，也在挑戰著人類的認知限度。
Deepfakes“作惡”越來越突破邊界
現在，人們普遍擔憂，Deepfakes 的不良應用正在變得越來越沒有邊界。這項原本存在高門檻的技術在開源之后變的更加接地氣，任何人即便是一個沒有技術背景的人只要投入一定的資金購買工具和掌握基礎計算能力都可以在較短時間內生成一個換臉的假視頻。
不久前，一位程序員出于娛樂目的利用 Deepfake 開發出的 DeepNude 應用讓不少人直呼“節操掉了一地”。在這個 App 上，只要傳上去一張女性的照片，在神經網絡技術的幫助下，DeepNude 可以自動“脫掉”女性身上的衣服，顯示出裸體。令作者萬萬沒想到的是，這款應用竟在短時間內得到了如此大規模的病毒式傳播。試想，一旦 DeepNude 大規模濫用，對于女性的隱私權、名譽權將會帶來巨大損害。
所幸，因為飽受爭議，目前作者已經關閉了 DeepNude。不過今天有外媒消息稱，DeepNude 可能有了“死灰復燃”的跡象，有人認為直接下架應用破壞了信息自由傳播的理念，他便收集了原應用的神經網絡框架和訓練模型，在 GitHub 上新建了一個開源的 DeepNude 項目。
現在看來，僅僅下架并不能完全解決問題，此前已售賣的舊版本的 DeepNude 仍然還在流通，不排除以后還會有其他人再次“復制”DeepNude 并傳播。
在過去的兩年時間里，Deepfake 的負面影響多在名人、明星等群體范圍內，但現在它傳播的巨大威力已經讓很多人坐立難安了，在極短的時間里，利用 Deepfake 的“惡搞行為”已經從娛樂圈蔓延到了政壇上。
有報道評論稱，現在美國的政治界到處充斥著對于“虛假新聞”與操縱社交媒體的指責。一旦有人利用 Deepfake 蓄意炮制關于政要根本不存在的公開動作、發言等，這勢必帶來假新聞的泛濫，牽一發而動全身，由政治風險波及到的經濟問題、外交問題等帶來的損失將不可估量。
2016 年美國總統大選佛羅里達州候選人共和黨參議員盧比奧就曾經痛批過 Deepfake，他表示，Deepfake 的威力堪比核武器。“過去，如果你想威脅美國，那你需要 10 艘航母、核武器，還有洲際導彈。現在，你只需要登錄我們的互聯網系統、銀行系統、電網、基礎設施網絡，甚至，你只需要具備弄出一段可以以假亂真的虛假視頻來搞亂我們的選舉就行了。這就足以讓我們的國家陷入巨大的內亂，深深削弱我們。”
盧比奧的觀點雖然有一些偏激，但這也從側面說明了政客們對于 Deepfake 的擔憂。
其實，逼真的“換臉術”現在還不是最可怕的。最可怕的問題是，除了視頻內容，AI 還可以生成虛假文本、在線體驗甚至是電話交談內容。為了提高公眾對于 Deepfakes 的問題及風險的認知，一直致力于 AI 安全與有益的非營利性組織 OpenAI 曾于今年 2 月發布了一種能編寫文本及文章的 AI 算法 —— GPT-2。GPT-2 能夠創作任何主題，它編寫的文字能夠以假亂真到讓大多數讀者認為這就是出自某位作家之手。
隨著深度學習、NLP 等技術的發展，識別計算機生成的內容變的越來越困難了。有數據顯示，亞馬遜上高達 30% 的產品評價都是偽造的，如果 AI 寫作被大規模用于電商銷售上，對電商平臺以及商品供應商帶來很大的品牌影響力損傷。
AI 生成文本加上虛假圖像、視頻以及語音合成等帶來的挑戰還有很多。除了在政界傳播混亂之外，未來也很有可能引發新的網絡安全威脅浪潮，包括數字偽造、利用虛假數字語音導致的身份信息被盜，甚至是執法挑戰——“超出合理水平的可疑證據”將迎來更高的甄別門檻。最終，公眾將越來越不信任一切數字媒體。
技術性探測和立法監管已有進展
今年早些時候，深度學習專家 Yann LeCun 在自己的推特上反思，要是他早先能夠預料到卷積神經網絡 (CNN) 會被濫用，當初還該不該開源 CNN 呢？
有研究人員反駁，如果絕對的因為擔憂技術風險而一刀切，那么可能也就失去了當初研發 AI 的意義。
AI 技術是一把雙刃劍，關鍵看掌握技術的人如何使用。與其從源頭上遏制其傳播，倒不如在預見一種技術將會帶來負面影響的前提下從技術、監管等方面做好各種防御準備。而我們如今也正身處基于 AI 的圖像、視頻、音頻、文本生成器以及基于 AI 的探測器之間不斷升級的戰斗當中，這種貓鼠游戲類似于細菌與抗生素、惡意軟件與反病毒平臺之間的永恒對抗。
目前研究人員已經在注意從技術維度去做一些風險防御措施。諸如，為應對 AI 處理文本的威脅，麻省理工學院——IBM Watson 實驗室與 AI HarvardNLP 推出了巨型語言測試室（GLTR）。這是一種深度學習模型，旨在檢測由 OpenAI GPT-2 5 等模型生成的偽造文本。
IBM 也有自己最先進的探測器，客戶可以利用包括 IBM Watson Studio 在內的各類解決方案開發高質量模型，從而防范各種各樣的 Deepfakes 及網絡威脅。IBM Watson 機器學習加速器可以幫助組織在生產環境中部署、管理并維護這些模型。此外，IBM 的 Debater 項目、深藍項目以及 IBM Watson 等有望提供新的工具來幫助打擊 Deepfakes 和其它的欺詐活動。
目前在監管和法律層面上，對于 Deepfake 換臉技術是否侵權，存在較難界定的問題，因為它不受現行法律的約束。如今，這種情形已經有了可喜的改變。
本周，美國弗吉尼亞州正式宣布擴大復仇色情法，嚴禁經過“深度偽造”的內容，包括制作或操縱的視頻和使用機器學習制作的圖像等，利用 Deepfake 制作的黃色圖像亦包括在內。如果違反該規則屬于第一類輕罪，最高可判 12 個月的監禁，罰款額高達 2500 美元。
據悉，該法令已經于 7 月 1 日生效。根據法律，規定未經許可分享某人視頻的裸照照片是違法的 ，無論它是真實的還是假的。審查該法律的委員會將重點關注復仇色情和網絡傳輸色情內容，其中包括利用藍牙等允許基于鄰近文件共享的技術將未經請求的性圖像發送到人的手機上。
英國政府也正在討論一項法律，該法律專門涉及制作和分享非自愿的親密圖像，以應對濫用和冒犯性數字產品。討論該法律的委員會將重點關注復仇性質的色情視頻，以及利用 Deepfake 算法生成的色情內容。
寫在最后
在得知 DeepNude 宣布關閉后，百度前首席科學家吳恩達在推特上批評稱，“這是人工智能最令人作嘔的應用之一，DeepNude 死了，我很高興”。
其實，AI 技術一直是“劍”有雙刃、利弊共存，創造技術的時候要小心，應用技術的時候更要謹慎。
參考鏈接：
今日薦文
點擊下方圖片即可閱讀
2019年十大熱門AI崗位及薪資報告：算法工程師平均年薪超10萬美元！
福利推薦
使用 Elasticsearch 最新 7.1 版本講解，eBay 資深技術專家阮一鳴，帶你快速構建分布式搜索和分析引擎。
《Elasticsearch 核心技術與實戰》上線僅 1 周，訂閱 9000+。早鳥 ￥99，結算時輸入優惠口令「521devops」可再減 10 元。