中國AI深偽影片猖獗 操弄民族主義獲利

在中國的社群平台上出現大批表情僵硬的外國人,自稱來自俄羅斯,還說著中俄友好的宣傳詞向觀眾兜售商品。這些都是AI合成影片,在中國的審查制度下,為了不涉及敏感話題,操作民族主義成為新的流量密碼,但深度偽造影片猖獗,造成個資遭到濫用也引發討論。

影片外國人稱來自俄國 說中俄友好宣傳詞

AI合成影片鋪天蓋地出現在中國的社群平台,畫面中的人物自稱來自俄羅斯,說著中俄友好的宣傳詞向觀眾兜售商品,秀出購物網站連結。

不論這些大內宣影片的動機是單純商業目的,還是要激發愛國主義,以假亂真的畫面令人不寒而慄。實際走訪街頭,詢問民眾能否分辨真假,得到的回應大多是「分不出來」。

自己的畫面遭盜用 烏克蘭Youtuber難以置信

人工智慧高速發展,但深度偽造技術也引發疑慮,只要提供文字跟人物畫面就能生成一段逼真的影片,甚至需要探測軟體才能得知影片是否經過AI變造。

一位來自烏克蘭的Youtuber洛伊克,對於自己的畫面遭到濫用感到難以置信,「我從沒想過會看到自己出現在這些深偽影片中。」

中國祭出規範管理也沒用 AI深偽影片仍猖獗

中國對網路內容審查嚴格,對於侵犯中國主權等敏感話題都會被取締下架,但表面上操作民族跟愛國主義,卻內藏深偽影片合法上架,不禁令人質疑中國政府的雙重標準。另外,深偽影片愈來愈猖獗,如何保護個資不被濫用也引發討論。

國際中心/綜合報導 責任編輯/網路中心