美國新罕布夏州23日舉行共和黨第二場黨內初選，卻有許多新州選民收到美國總統拜登（Joe Biden）的造假電話，呼籲民主黨選民不要出門投票。對此，白宮發言人尚皮耶（Karine Jean-Pierre）指控是AI深偽技術在搞鬼，目前州檢察長也已展開相關調查。
禁ChatGPT助選！ AI政客機器人遭OpenAI下架
AI語音用熟悉的聲音表示，「重要的是，把票留給11月正式大選，週二（23日）投票只會讓共和黨人再次推舉川普。」熟悉的聲音搭配標誌性的口頭禪，貌似來自美國總統拜登的電話，其實是AI假扮。
美國新州檢方表示接獲通報，有人利用AI，模仿美國總統拜登的聲音撥出自動電話，呼籲選民不要去投票，目前檢方已著手調查，新罕布夏州議員Angela Brennan表示，「我們在談論的是，有人可以在5分鐘內用他們的手機完成（AI詐騙），這是一個相當嚴重的問題，我們都應該密切注意。」
除了假扮拜登，AI也被用來替候選人助選，根據《華盛頓郵報》的報導，OpenAI旗下印度新創公司Delphi AI，為了替爭取美國民主黨總統提名的聯邦眾議員菲力普斯（Dean Phillips）造勢，為菲力普斯量身打造聊天機器人Dean.bot，目前已遭OpenAI刪除帳號，成為首家被OpenAI停權的開發商。
對此，OpenAI也宣布，即將推出反假訊息工具，同時也禁止將旗下AI技術用於競選和選民壓制。
環球睿視執行長蘇育民表示，「沒有經過對方的同意，去複製一個人的聲音跟影像，讓他去表達他從來沒有過的意圖，這如果說上綱到軍事、政治來講，就是國安問題了。」
AI假訊息太氾濫 專家教學怎靠影像辨讀判讀
《美聯社》指出，光是過去一年，在台灣、斯洛伐克到印尼等，全球多場選舉中，生成式AI深偽技術被濫用來傳播錯誤訊息，甚至出現在總統競選廣告中，但假訊息猖獗到底該如何防範？
環球睿視執行長蘇育民給出解方，「如果說你看到這個影像，你可以特別注意看他的嘴巴，通常嘴巴這邊需要做脣音同步，可是這邊通常沒有辦法用太大的解析度，你在跟他做互動的時候，你可以請他左轉、右轉。如果是生成人的話，他比較沒有這種立體的這種，可以直接做左臉、右臉。」
擁有AI語意科學博士稱號的環球睿視執行長蘇育民表示，想要識破生成式AI詐騙，影像方面，除了可以觀察影像人物的嘴巴，還可以注意頭部和肩膀，是否有做三角點公式般的移動；語音方面，則可進行聲紋辨識，查看是否有介質的轉換來辨別真偽。
由於AI時代真假難分，蘇育民也建議政府實施AI科普，帶領全民認識AI，辨別真假AI。
台北／綜合報導 責任編輯／曾以馨