ChatGPT爭議不斷。圖/美聯社(資料畫面)
ChatGPT爭議不斷。圖/美聯社(資料畫面)

CharGPT爭議連連,義大利以資安為由下令禁用;澳洲赫本郡郡長胡德(Brian Hood)也因為ChatGPT對他「造謠」而要起訴OpenAI。《衛報》6日發表一篇文章指出,因為搜不到一位記者曾經寫過的文章,意外發現ChatGPT會杜撰報導,編輯主管莫蘭(Chris Moran)表示,近期將公布使用這類AI軟體的準則。

莫蘭在此篇文章中表示,上個月,他旗下的記者收到一封電子郵件,提到有位研究人員看見一篇《衛報》的文章,是該位記者所撰寫,但是他們在網站搜索,都找不到該篇文章,不禁思考各種可能,包含是否改過標題、是否已被刪除,還是因為題材,以法律途徑被迫撤稿等。

此文指出,該記者不記得寫過該篇文章,但標題看起來確實就像是記者會寫出來的,所以他們要求同事在衛報的內部系統搜尋這篇文章,即使他們都有把記錄留下,但還是找不到該篇文章,而原因竟然是「從來沒有人寫過這篇文章」。

莫蘭認為,慶幸的是,發函給衛報的研究人員表示,他們是用ChatGPT進行研究,ChatGPT被問到一些主題的文章時,編造了一些內容。這篇文章顯示出ChatGPT行文的流暢度和大量訓練數據基礎,就連從來沒寫過這篇文章的人都可能相信這篇文章真實存在。

莫蘭也說,目前已有不少資料證明生成式人工智慧有編造事件的傾向,而AI因為能夠杜撰事件、開創「消息來源」,令新聞媒體和記者們惴惴不安,因為人們會輕易相信這些虛構出來的事件和文字,而新聞工作者可能會因此替這些假消息增添更高的正當性與重要性。

對於讀者來說,ChatGPT所引述的資訊是否可以被無條件地信任,是一道問題,而ChatGPT的表現很可能會助長偷偷刪除敏感文章的陰謀論,然而這些敏感文章根本就不存在。莫蘭補充,有名學生聯繫衛報檔案組,詢問另一篇記者所撰寫的文章,系統一樣也查不到記錄,追問來源,發現也是ChatGPT。

莫蘭表示,衛報已經籌組工作小組、小型工程團隊,專注於技術學習、考量公共政策及智慧財產權相關問題、聽取學者意見及討論議題,並培訓員工,確保能負責、安全地探索AI在新聞報導上運用的效益。衛報未來將對此解釋,說明衛報未來計劃如何使用生成式AI,同時堅守最高新聞標準,為新聞品質負責。

責任編輯/王馨郁

正在直播