AI將害人類滅絕？ 美國研究描繪「AI末日景象」

美國國務院委託AI風險顧問公司，針對人工智慧發展帶來的風險進行研究，報告指出人工智慧高度發展，可能造成人類滅絕等級的災難。人工智慧作為劃時代的發明，各種資訊生成更為便利，同時也真偽難辨。歐盟11日通過世界上第一個規範人工智慧的法案，廠商需要進行風險評估才能上市產品，否則將面臨鉅額罰則。

生成式AI科技快速進步！假訊息真到難辨真偽

人工智慧公司OpenAI日前推出影像生成模型Sora，輸入指令就能產生一段生動的影片，讓影像製作更加便利。

不過人工智慧創作愈精緻，也讓以假亂真的資訊在網路上流竄，使得民眾無法分辨真偽，尤其今年是全球選舉年，大量假訊息無疑造成巨大影響。

孟加拉議員法哈那指出，「孟加拉、印度和巴基斯坦等識字率較低的國家，大多數人都沒有意識到這一點，他們相信在Facebook上看到的任何內容。」

管理AI系統！ 歐洲議會通過首個人工智慧法案

不只是假訊息充斥造成混亂，美國國務院委託AI風險顧問公司對人工智慧帶來的風險進行評估，報告指出，人工智慧可能會變成武器並失去控制，甚至可能造成人類滅絕等級的威脅。

根據《CNN》報導，人工智慧系統可能會變得聰明又先進，以至於它們拒絕被創造者關閉。因此積極研發人工智慧，也必須制定相關法規，才不會讓AI衝過了頭。歐洲議會13日以壓倒性票數，通過全球第一個人工智慧法案，來管理聊天機器人ChatGPT等AI系統。

歐盟官員表示，法案規範廠商必須先執行風險評估，才能讓產品上市，否則將面臨罰款。有了法規規範，民眾才能有效又安全使用人工智慧。

國際中心／綜合報導　責任編輯／網路中心