開第一槍!義大利下令封鎖ChatGPT 控訓練AI涉及用戶隱私

ChatGPT傳出有用戶資料安全疑慮。圖/美聯社(資料畫面)

義大利隱私資料保護監管機關3月31日表示,因為隱私疑慮,已經封鎖由OpenAI開發的聊天機器人ChatGPT,同時調查AI疑似違反收集用戶資料的規範,而OpenAI也無法核實用戶年齡,因此下令封鎖ChatGPT,成為首個禁用ChatGPT的西方國家。

義大利當局3月20日就發現,ChatGPT出現過資料外洩,外流用戶的對話及付款資訊。該機關表示,OpenAI利用儲存用戶數據及其他資料訓練聊天機器人,缺乏法律依據以證明這樣的訓練是合理的。也因為OpenAI讓未成年人接觸與他們發育、理解程度不符合的答案,OpenAI未能落實用戶需滿13歲才能使用的年齡認證機制。

該機關也指出,OpenAI有20天的時間可以解決義大利對他們的擔憂,進行補救措施,並以2,000萬歐元罰金或4%年收入作為懲處。

該機關決定封鎖ChatGPT,並禁止OpenAI繼續使用義大利用戶數據,當局也將展開調查,要查清ChatGPT是否符合歐盟要求的隱私法和數位數據保護條例。

此前,歐洲刑警組織(Europol)曾警告,不法人士可能會利用ChatGPT進行詐騙、網路釣魚、散佈惡意軟體等犯罪行為,提醒用戶注意個資安全。專家也認為,AI對國安、教育等的潛在影響,有必要制定法規管理。

責任編輯/王馨郁