AI將害人類滅絕? 美國研究描繪「AI末日景象」

歐洲議會通過首個人工智慧法案。圖/CNN、美聯社、路透社

美國國務院委託AI風險顧問公司,針對人工智慧發展帶來的風險進行研究,報告指出人工智慧高度發展,可能造成人類滅絕等級的災難。人工智慧作為劃時代的發明,各種資訊生成更為便利,同時也真偽難辨。歐盟11日通過世界上第一個規範人工智慧的法案,廠商需要進行風險評估才能上市產品,否則將面臨鉅額罰則。

生成式AI科技快速進步!假訊息真到難辨真偽

人工智慧公司OpenAI日前推出影像生成模型Sora,輸入指令就能產生一段生動的影片,讓影像製作更加便利。

不過人工智慧創作愈精緻,也讓以假亂真的資訊在網路上流竄,使得民眾無法分辨真偽,尤其今年是全球選舉年,大量假訊息無疑造成巨大影響。

孟加拉議員法哈那指出,「孟加拉、印度和巴基斯坦等識字率較低的國家,大多數人都沒有意識到這一點,他們相信在Facebook上看到的任何內容。」

管理AI系統! 歐洲議會通過首個人工智慧法案

不只是假訊息充斥造成混亂,美國國務院委託AI風險顧問公司對人工智慧帶來的風險進行評估,報告指出,人工智慧可能會變成武器並失去控制,甚至可能造成人類滅絕等級的威脅。

根據《CNN》報導,人工智慧系統可能會變得聰明又先進,以至於它們拒絕被創造者關閉。因此積極研發人工智慧,也必須制定相關法規,才不會讓AI衝過了頭。歐洲議會13日以壓倒性票數,通過全球第一個人工智慧法案,來管理聊天機器人ChatGPT等AI系統。

歐盟官員表示,法案規範廠商必須先執行風險評估,才能讓產品上市,否則將面臨罰款。有了法規規範,民眾才能有效又安全使用人工智慧。

國際中心/綜合報導 責任編輯/網路中心