????AI（人工智能）換臉的颶風(fēng)，正為網(wǎng)絡(luò)安全帶來挑戰(zhàn)。

????新京報記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標(biāo)榜“換臉＋女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，價格可4元一部，也可158元打包購買700部視頻。而多位知名女明星頻被提及。

????此外，新京報記者注意到，閑魚上還有賣家提供“定制換臉”服務(wù)。買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元－50元不等。

????對此，聯(lián)合國網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問題高級顧問吳沈括對新京報記者表示，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時也侵犯了肖像權(quán)。而買家購買之后加以傳播或者以傳播牟利，則可能構(gòu)成違法。

????售賣

????女星頻被“換臉”，35部視頻打包69元

????記者搜索發(fā)現(xiàn)，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發(fā)帖者多為無頭像、簡單英文字母名稱的用戶，而且發(fā)帖用詞隱晦，包括“國內(nèi)外81部，誠信第一”。

????記者聯(lián)系到一位名為阿長（化名）的賣家，其隨后發(fā)來“80部明星合成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標(biāo)注出多位大眾熟知的女明星。

????“（購買）低于15部算4元一部，超過15部算3元一部，80部全買只要68元?！卑㈤L表示，視頻文件將通過QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。記者4元隨機(jī)購買了一個標(biāo)題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星，盡管換臉效果粗糙，但仍能一眼識別出來。

????隨后，阿長附贈了相關(guān)視頻的剪輯版本，包含多個淫穢視頻的部分內(nèi)容，其中女主角的臉全被替換成了這一女星。

????另一位發(fā)帖的賣家林祥（化名）則是向記者發(fā)送了網(wǎng)盤鏈接，網(wǎng)盤中除了視頻目錄、截圖、試看視頻等文件，還包括一個單獨被命名為某知名女明星目錄的文件。

????“打包價158元，700部視頻，買打包送截圖。”林祥提供的壓縮文件顯示，多位女明星被換臉成主角的頻率最高。

????“有30分鐘、40分鐘的，也有5分鐘的，有像的也有不像的，所以單買價格不可能一樣。”林祥稱，單個視頻根據(jù)時長和制作效果定價。

????而上述某知名女明星目錄文件中包含35部視頻，打包價69元，單賣約5-10元一部。時長10分鐘以上的視頻為每部20－28元。

????記者詢問阿長，其他售賣相關(guān)視頻的賣家是否也是他時，他隨即否認(rèn)并拿出更新目錄。“他肯定沒這些，我這會更新”。他告訴記者，這些視頻并非自己制作，均來自國內(nèi)某網(wǎng)絡(luò)平臺，充值會員可以下載，然后再分銷。

????不過，記者通過檢索并未發(fā)現(xiàn)這類國內(nèi)網(wǎng)絡(luò)平臺。

????定制

????提供照片或視頻可移花接木，“照片越多越像”

????除了百度貼吧，二手閑置平臺閑魚同樣存在相關(guān)售賣信息。記者在閑魚上搜索“AI換臉”看到，“AI換臉 明星最全精品”、“AI換臉，合集，都懂！”等信息，實則在售賣“嫁接”了女明星臉部的淫穢視頻。

????記者分別與4位賣家進(jìn)行了溝通，其一般會提供標(biāo)有女明星姓名的目錄截圖，并以100部打包的形式售賣，價格從10元－38元不等。賣家子君（化名）告訴記者，在他打包售賣的淫穢視頻中，知名女性明星被惡意“嫁接”的最多。

????此外，記者檢索閑魚發(fā)現(xiàn)，部分賣家還提供“定制換臉”服務(wù)，買家提供明星或私人照片，賣家可將照片中的臉“嫁接”到包括淫穢視頻在內(nèi)的任何視頻之中，制作周期為1-2天，報價1分鐘20元－50元不等。

????賣家高爾（化名）表示，視頻素材和照片需要買家提供。“照片要多點，側(cè)面等各個角度，至少需要提供二十張以上。照片越多越像，沒照片發(fā)視頻也行”。

????另一賣家要求，如果是“換臉”淫穢視頻，3分鐘起做。該賣家的定制價為一分鐘50元、二分鐘95元、三分鐘135元，也就是說，買家至少要花費135元才能定制換臉淫穢視頻。

????記者近日在閑魚平臺搜索“AI換臉”顯示9個商品售出，包括“換臉軟件”、“定制換臉”和“換臉教學(xué)”，有部分賣家在商品信息中注明，“本店僅負(fù)責(zé)服務(wù)配置環(huán)境和教授基礎(chǔ)知識，不幫忙操作，請各位自覺遵守當(dāng)?shù)胤?，否則后果自負(fù)”。

????記者調(diào)查過程中注意到，閑魚平臺已將部分淫穢視頻售賣鏈接刪除。

????此外，記者在淘寶搜索“AI換臉”，20多家店鋪有相關(guān)售賣信息。記者隨機(jī)詢問7家店鋪，其中4家店鋪提供定制服務(wù)，但有賣家明確表明“不做黃、不辦證”。該賣家還向記者默認(rèn)曾有人要求他制售假證。

????教學(xué)

????賣家稱398元包教會，學(xué)生打七折

????記者在查看上述視頻時注意到，部分視頻有“合成聯(lián)盟”的字樣及其QQ號水印。記者通過這一QQ號聯(lián)系到昵稱為“明星合成＋教學(xué)＋代做視頻”的賣家，其稱不僅售賣明星換臉視頻和定制換臉服務(wù)，還提供教學(xué)服務(wù)。

????“買教學(xué)送全套視頻，600多部。”該賣家表示，他提供AI換臉視頻的制作教學(xué)服務(wù)，售價398元，包教會并附贈淫穢視頻600多部?！拔覀冇玫脑齐娔X，做出來效果是Deepfake的幾十倍。”該賣家告訴記者，“買云電腦送FakeApp和DeepNude?！?/p>

????賣家提供的教學(xué)內(nèi)容顯示，用戶根據(jù)指引，完成“鏈接到云硬盤、提取臉部數(shù)據(jù)、訓(xùn)練模型、換臉輸出視頻”四個步驟就能實現(xiàn)AI換臉視頻的制作。

????“感謝你們的信任，（學(xué)員）昨天下午剛學(xué)的，不到3個小時全會，只要想學(xué)我都會盡心盡力的教你們?！痹撡u家的微信朋友圈顯示，已有多位學(xué)員學(xué)習(xí)了相關(guān)AI換臉技術(shù)。

????記者翻閱賣家朋友圈看到，“AI智能暑假期間所有學(xué)生憑學(xué)生證一律7折，一學(xué)就會，不費勁?！倍u家提供的截圖顯示已有學(xué)生提供學(xué)生證信息，并購買了該教學(xué)服務(wù)。

????根據(jù)《紐約時報》報道，Deepfake指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實現(xiàn)AI換臉。而DeepNude可通過人工智能將照片中穿著衣服的人物實現(xiàn)“一鍵脫衣”的效果。

????“隨著科技的發(fā)展，大眾一定會面臨這樣的問題，DeepNude生成的照片并不是本人，而是PS后效果?！本W(wǎng)絡(luò)安全專家張百川在接受新京報記者采訪時表示，目前網(wǎng)絡(luò)上已存在部分人士開始研究類似的算法。

????同時，針對網(wǎng)絡(luò)安全，吳沈括指出，《網(wǎng)絡(luò)安全法》確立了網(wǎng)絡(luò)產(chǎn)品和服務(wù)的安全可控原則，將他人肖像用于制作淫穢視頻或者利用網(wǎng)絡(luò)技術(shù)“作惡”，是對他人合法權(quán)益的侵害。

????爭議

????換臉視頻網(wǎng)絡(luò)扎堆，個人難防中招

????其實，AI換臉技術(shù)，已經(jīng)在各個領(lǐng)域沿用許久。而運用最廣泛的領(lǐng)域便是電影。據(jù)新京報此前報道，中國科學(xué)院計算技術(shù)研究所張杰解釋稱，“這個技術(shù)簡單可理解為，通過學(xué)習(xí)的方式讓一個神經(jīng)網(wǎng)絡(luò)把李四扭曲過的人臉還原成真實的人臉。”該神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)后，具備了將任意的人臉，還原成“李四”人臉的能力。

????早在今年年初，一段通過AI技術(shù)將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網(wǎng)絡(luò)引起熱議。記者搜索發(fā)現(xiàn)，視頻網(wǎng)站嗶哩嗶哩（B站）上存在大量AI換臉視頻，且人氣較高。其中，一個將蔡徐坤臉部替換成前網(wǎng)絡(luò)游戲主播盧本偉的視頻，播放量達(dá)到253.1萬。不少網(wǎng)友在相關(guān)視頻評論區(qū)留言稱“毫無違和感”、“好笑哈哈哈”。

????阿樂（化名）告訴者，出于獵奇和娛樂心態(tài)，自己喜歡在嗶哩嗶哩觀看AI換臉視頻。“把外國人的臉換在古裝人物身上，很新奇。”但也有網(wǎng)友在相關(guān)評論區(qū)稱“AI換臉（可能用于）敲詐勒索色情造謠，技術(shù)無罪，果然還是人本惡”。

????律師、星娛樂法創(chuàng)始人李振武曾對新京報記者表示，視頻制作者未經(jīng)朱茵和楊冪許可，擅自使用其肖像，雖其抗辯未有營利行為，但在互聯(lián)網(wǎng)語境里，流量變現(xiàn)以及粉絲倍增，都很難解釋為非營利行為，因此，此舉可能涉嫌侵犯肖像權(quán)。

????有觀點認(rèn)為，AI換臉技術(shù)門檻正在不斷降低。對此，張百川稱：“放在以前的話，技術(shù)難度非常大，已經(jīng)有人開始研究這種算法了，如果算法公開，這種趨勢將很難抵擋”。

????張百川告訴記者，普通人可能不太容易學(xué)會AI換臉技術(shù)，但有人可能利用此項技術(shù)制成有類似功能的軟件，那么普通人只要在APP上傳照片即可。針對個人如何防范，張百川表示：“很難，如果你有照片在互聯(lián)網(wǎng)上，就會有（被利用）的風(fēng)險”。

????記者注意到，Deepfake和DeepNude在國外已引起熱議，據(jù)《紐約時報》報道，隨著越來越多的人利用FakeApp制作名人的色情視頻，F(xiàn)akeApp正在引起恐慌?！缎l(wèi)報》稱此類軟件為“對未來可怕的一瞥”，顯示了對人工智能未來可能造成的倫理問題的擔(dān)憂。

????當(dāng)?shù)貢r間7月2日，美國弗吉尼亞州已通過一條有關(guān)色情禁令的法律修正案，成為美國首批禁止傳播計算機(jī)生成的色情內(nèi)容的地區(qū)之一。根據(jù)修正案，未經(jīng)許可傳播或出售以任何方式創(chuàng)作的某人處于裸體或脫衣狀態(tài)的視頻或靜止圖像都是違法的，包括虛假創(chuàng)作的視頻或靜止圖像。

????在我國，根據(jù)《刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。

????聯(lián)合國網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問題高級顧問吳沈括表示，就中國法律來講，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時在民事侵權(quán)領(lǐng)域，未經(jīng)允許，將他人的肖像用于謀利的，也侵犯了肖像權(quán)。

????針對AI換臉淫穢視頻的購買者，吳沈括告訴記者，目前對于購買淫穢物品沒有設(shè)置法律責(zé)任，主要集中在傳播淫穢物品和傳播淫穢物品牟利兩種非法形式。買家在購買AI換臉淫穢視頻之后，加以傳播或者以傳播牟利，則可能構(gòu)成違法甚至犯罪。

????張百川認(rèn)為，技術(shù)本身沒有問題，是有人利用技術(shù)作惡，大眾需在日常生活中，注重個人隱私保護(hù)。“例如即時通訊軟件，有人用它工作，有人用它詐騙?！?/p>