我要评论刑事警察局日前網路偵蒐發現，百位被捕網路流傳數名網紅的女明性愛影片，經查為社群「台灣網紅挖面」利用換臉技術，星網將網紅及名人的紅政害網紅小e換臉移植進色情片，不法獲利高達上千萬元，治人昨天循線查獲主嫌為知名網紅「小玉」等3人，物受全案依涉嫌散播猥褻物與妨害名譽等罪解送新北地檢署偵辦，臉販稍早已交保釋回。片賺
《中央社》報導，千萬刑事局今天召開破案記者會，百位被捕警方日前執行網路情蒐時，女明發現數名網紅、星網藝人的紅政害網紅小e換性愛影片自去年7月起於網路上流傳，但求證發現均非本人所拍攝，治人經進一步追查發現，物受這些影片是從社群軟體推特粉絲團「台灣網紅挖面」所流出，犯嫌透過人工智慧換臉AI Deepfake技術，將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片AV女優身上，再後製成色情影片販售得利。
從去（2020）年7月開始，有數名網紅、女明星、女性政治人物之性愛影片於網路上流傳，警方求證後、發現影片均非本人所拍攝。網紅奎丁就曾出面指控，加密軟體Telegram「台灣網紅挖面群組」利用AI技術，將網紅及名人的臉換到謎片成為女主角，並且公開在群組販售，被偷臉的對象高達包括喜劇脫口秀演員龍龍、網紅蕾拉，甚至連政治人物黃捷、高嘉瑜都受害。
《鏡週刊》去年也採訪了YouTuber球球、奎丁、白癡公主、黃捷、高嘉瑜、理科太太等6名被換臉至色情片的被害人，說出她們遭挖面後的真實感受與證言。
專案小組透過科技偵查發現，經營「台灣網紅挖面」的主嫌為知名百萬YouTuber小玉（朱玉宸），他以中國發行的DeepFace軟體建模，將色情片的女主角的臉，換成女明星、網紅、政治人物的臉，並出售牟利，粗估不法獲利約1100萬元，招募會員逾8000人，已知變臉影片受害者超過上百人，包括藝人鄭家純（雞排妹）、YouTuber奎丁和立委高嘉瑜都在內。
警方調查，只要匯款支付400至1900元不等的費用，就可加入Telegram加密群組，或是得到影片連結雲端網址，可線上瀏覽網紅換臉色情片。加上小玉定期舉辦「票選」「集資」活動，網友選出哪位知名網紅，小玉就會製作該網紅換臉性愛影片上傳販售，任人意淫。根據數位女力聯盟觀察，該群組每週都會進行投票，讓會員競標下一個被合成的人選，甚至會員只要花3000至5000元就可以訂做專屬的意淫的對象。
《ETtoday》報導，專案小組昨（17）日持搜索票前往朱玉宸於新北樹林區住處、工作室執行搜索，現場拘提小玉與其搭擋笑笑（耶姓女子）、莊姓男子，並查扣現金458萬5000元、金融帳戶存簿13本及金融卡、電腦2台、硬碟2顆、手機2支、BENZ名車1台等贓證物，法官裁定扣押小玉不法金流共3筆，並依散播猥褻物、妨害名譽等罪解送新北地方檢察署偵辦，檢方訊後，將小玉諭令50萬元交保、莊男10萬元交保，至於笑笑則被釋回。
Photo Credit: 中央社 小玉到案供稱，起初只是在20多人朋友群組分享有趣的剪輯影片，但隨著人數增長，才轉而藉此牟利。經警方調查了解，主嫌小玉主要負責剪輯影片和回覆網友留言，共犯莊男負責找影片素材和整理，耶女則是處理金流。
其實小玉去年愚人節曾用AI換臉技術「Deepfake」自製前高雄市長韓國瑜談話影片，他聲稱「只花30分鐘和一個配音員，我可以讓韓國瑜講出任何我想要他講的話」，提醒民眾防範假新聞，並透露該軟體是在某個QQ群組上購買的，只花了150人民幣（約新台幣652元），孰料他已經透過這樣的技術用在其他用途，以牟取不法所得。
不只女明星，只要有照片「任何人都可能受害」
Deepfake是一項透過 AI （機器學習）來合成特定人臉甚至人聲的技術，能分析目標對象各個角度的大量照片後，再透過演算法製造出目標對象的各種表情，藉此和影片中某個角色的面部表情完全契合。
Deepfake技術開始被外界注意，應推至2017年12月，有網民在一個人氣論壇上發布偽造的色情影片，把「神力女超人（Wonder Woman）」的女主角蓋兒・加朵（Gal Gadot）的樣貌，「換」到色情片女演員身上，幾可亂真；其他受害知名女星還有史嘉蕾．強森（Scarlett Johansson）、泰勒．絲薇芙特（Taylor Swift）、艾瑪．華森（Emma Watson）、娜塔莉．波曼（Natalie Portman）等。
立委王婉諭則表示，此事件讓許多女性網紅與YouTuber深受其擾，甚至因為影片被上傳到色情網站而必須出面澄清。她更指出，令人擔心的是，不只名人會成為受害者，只要有數量夠多、清晰的個人照片，群組中有許多老司機甚至會提供身邊女性友人的照片，當成Deepfake的素材，許多人可能因此成為意淫的對象而不自知。
遭換臉成A片女主角：高嘉瑜推修法，黃捷稱變態絕對告到底
身為受害者民進黨立委高嘉瑜今天在臉書發文表示，這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，規模驚人，除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害。
高嘉瑜認為，未經本人同意而發布的AI換臉影片，其實就是一種變相散播假訊息的行為，但綜觀現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於AI換臉造假的影片目前仍無法可管。
最新评论