人工合成色情片流行後，幾家互聯網網站開始封禁

徐弢

從2017年12月份起，互聯網上開始流行一種用新的人工智能技術合成的色情片，將公衆人物、明星的臉“貼”在色情片主演臉上，效果逼真。一批女明星的臉都被用作了素材，包括《神奇女俠》主演蓋爾·加朵（Gal Gadot）、斯嘉麗·約翰遜、艾瑪·沃森、麥茜·威廉姆斯等。

最初這種合成色情片就起源於在線論壇Reddit，一位ID是deepfakes的用戶將蓋爾·加朵的臉用作素材，合成了視頻放在了帖子上。很多用戶開始關注到該視頻，用戶deepfakes還專門建了個Reddit主題，吸引了9萬用戶關注。

更多類似視頻的出現，推動力來自於Reddit用戶deepfakeapp開發的一款名爲FakeApp的電腦軟件，可以更快速、便捷地製作這類合成視頻。

本質上，這類合成視頻在技術層面上沒有特別的地方。對人臉特徵進行定位，再將另外一張人臉貼合上去，如果找來的素材質量較高，合成效果很可能不錯。類似的合成技術，和PS、閱後即焚Snapchat、FaceU、美圖秀秀等差別其實不是太大，但合成的時間、效果可能都不會很理想。

但科技公司、科研機構近幾年開發的人工智能技術，將這類合成視頻的製作成本降到更低了，效果也更好了。

這次事件中，最主要的可能是Google在2015年開源的機器學習工具TensorFlow。用戶deepfakes和deepfakeapp開發的FakeApp都用到了TensorFlow。素材方面，用戶通過網絡搜索、社交網站的照片都可以找到，確實有不少人在名人的Instagram上找素材。

用戶deepfakeapp稱，他開發FakeApp的目的是降低門檻，讓任何沒有技術背景、編程經驗的人都可以使用這類合成視頻的技術。有些用戶用5小時左右就能做一個類似的視頻出來。

例如，也有人用FakeApp這款工具惡搞了尼古拉斯·凱奇，讓他成了《奪寶奇兵》主角印第安納·瓊斯、007等。像華盛頓大學也有類似的研究，通過抓取視頻，就可以編造出美國前總統奧巴馬在說一段他從未說過的話，效果都挺逼真。

但最近1周，包括社交網站Twitter、在線論壇Reddit、gif搜索引擎Gfycat以及聊天工具Discord等開始封禁這些合成的色情片。Reddit調整了網站上的內容條款，禁止青少年非自願型色情、有性暗示的內容出現，deepfakes主題在這週三也被封禁。

即便是色情網站也加入了封禁這類合成視頻的行列。最大的色情網站Pornhub稱，這種類型的色情片不是自願，他們會禁止這部分的內容放在網站上。Pornhub有相當多的這類視頻是用戶上傳上去的。Pornhub被看作是色情網站裡引入新技術最快速的網站之一。

但徹底封禁這部分合成的色情視頻可能沒多少可行性。用戶將這類視頻製作成gif圖片，託放在Gfycat、imgur等平臺上，Twitter、Reddit等平臺刪除沒法根絕這類內容的傳播。事實上，即便這些互聯網公司說要封禁，但還有不少內容留存。在技術上識別這類內容本身也相當難。