美國總統打來了? AI假拜登來電籲選民別投票

美國選民接到AI假拜登來電。圖/非凡新聞

美國新罕布夏州23日舉行共和黨第二場黨內初選,卻有許多新州選民收到美國總統拜登(Joe Biden)的造假電話,呼籲民主黨選民不要出門投票。對此,白宮發言人尚皮耶(Karine Jean-Pierre)指控是AI深偽技術在搞鬼,目前州檢察長也已展開相關調查。

禁ChatGPT助選! AI政客機器人遭OpenAI下架

AI語音用熟悉的聲音表示,「重要的是,把票留給11月正式大選,週二(23日)投票只會讓共和黨人再次推舉川普。」熟悉的聲音搭配標誌性的口頭禪,貌似來自美國總統拜登的電話,其實是AI假扮。

美國新州檢方表示接獲通報,有人利用AI,模仿美國總統拜登的聲音撥出自動電話,呼籲選民不要去投票,目前檢方已著手調查,新罕布夏州議員Angela Brennan表示,「我們在談論的是,有人可以在5分鐘內用他們的手機完成(AI詐騙),這是一個相當嚴重的問題,我們都應該密切注意。」

除了假扮拜登,AI也被用來替候選人助選,根據《華盛頓郵報》的報導,OpenAI旗下印度新創公司Delphi AI,為了替爭取美國民主黨總統提名的聯邦眾議員菲力普斯(Dean Phillips)造勢,為菲力普斯量身打造聊天機器人Dean.bot,目前已遭OpenAI刪除帳號,成為首家被OpenAI停權的開發商。

對此,OpenAI也宣布,即將推出反假訊息工具,同時也禁止將旗下AI技術用於競選和選民壓制。

環球睿視執行長蘇育民表示,「沒有經過對方的同意,去複製一個人的聲音跟影像,讓他去表達他從來沒有過的意圖,這如果說上綱到軍事、政治來講,就是國安問題了。」

AI假訊息太氾濫 專家教學怎靠影像辨讀判讀

《美聯社》指出,光是過去一年,在台灣、斯洛伐克到印尼等,全球多場選舉中,生成式AI深偽技術被濫用來傳播錯誤訊息,甚至出現在總統競選廣告中,但假訊息猖獗到底該如何防範?

環球睿視執行長蘇育民給出解方,「如果說你看到這個影像,你可以特別注意看他的嘴巴,通常嘴巴這邊需要做脣音同步,可是這邊通常沒有辦法用太大的解析度,你在跟他做互動的時候,你可以請他左轉、右轉。如果是生成人的話,他比較沒有這種立體的這種,可以直接做左臉、右臉。」

擁有AI語意科學博士稱號的環球睿視執行長蘇育民表示,想要識破生成式AI詐騙,影像方面,除了可以觀察影像人物的嘴巴,還可以注意頭部和肩膀,是否有做三角點公式般的移動;語音方面,則可進行聲紋辨識,查看是否有介質的轉換來辨別真偽。

由於AI時代真假難分,蘇育民也建議政府實施AI科普,帶領全民認識AI,辨別真假AI。

台北/綜合報導 責任編輯/曾以馨