2023年4月1日 星期六

ChatGPT涉侵私隱 意大利禁用

意大利當局宣布暫時禁止使用ChatGPT,圖為意大利總理梅洛尼。

  綜合BBCCNBC報道:意大利數據保護局331日表示,即日起該國暫時禁用人工智能(AI)聊天機器人ChatGPT,並對其涉嫌違反私隱保護條例的情況展開調查。意大利成為首個禁止AI應用程式的西方國家。ChatGPT還遭到「未能核實用戶年齡」的指控。據悉,ChatGPT所屬的OpenAI公司,需在20天補救,否則可能面臨最高2000萬歐元(約1.7億港元)的罰款。

  ChatGPT自去年發布以來,就掀起了一股熱潮,今年1月的每月活躍用戶數量更多達1億。但與此同時,該技術亦吸引了多個國家政府的關注。意大利政府331日宣布暫時禁用ChatGPT,成為「首個封殺ChatGPT」的西方國家。

  負責私隱保護的意大利數據保護局認為,ChatGPT大量收集及儲存用戶個人資料以「訓練」其算法的背後「欠缺法理依據」。另外,該局亦批評ChatGPT未能核對用戶年齡是否已經達到13歲或以上,任由幼童「接觸不恰當對答內容」。

  意大利當局稱,已要求OpenAI20天內說明如何確保用戶私隱,否則可能會處以2000萬歐元,或者相當於公司全年營業額的4%的罰款。

ChatGPT已在意大利下架

  OpenAI表示,已按要求暫時禁止意大利用戶使用ChatGPT,以調查ChatGPT是否遵守歐盟《通用數據保障條例》(GDPR),並限制OpenAI處理意大利用戶的信息。據悉,意大利民眾目前已無法瀏覽ChatGPT網站。

  ChatGPT網頁發出公告,表示正向在3月訂閱ChatGPT Plus的意大利用戶退款,「將致力保障民眾的私隱,亦深信ChatGPT已遵守GDPR及其他私隱法例」。OpenAI也表示,正積極減少利用個人數據訓練AI系統,「希望AI能夠認識世界,而非特定個人。」但是,OpenAI沒有詳細透露如何收集數據訓練旗下的AI產品。

  歐盟近年接連出台保護數據和私隱的法律,嚴懲違規行為。歐盟目前正在討論人工智能法規,以應對未來監管AI發展。針對意大利暫時禁用ChatGPT的行動,歐盟委員會發言人表示,「我們希望所有在歐盟範圍內活動的公司遵守法規。實施GDPR是各成員國數據保護機關的責任,希望在歐盟營運的企業能遵守相關的法規。」

三星引入ChatGPT 機密資料外洩

  另外,企業爭先在其產品及應用程式中使用類似ChatGPT的技術,也被發現存在機密內容外洩的風險。據報道,韓國三星電子引入ChatGPT不到20天,近日便曝出「機密資料外洩」的意外事故。據悉,涉及半導體設備測量資料、產品優良率等內容。

  據報道,三星已發生三起可能導致「機密資料外洩」的事故。有員工使用了ChatGPT記錄會議內容,還有員工在處理「設計半導體設備測量資料、芯片優良率的代碼」時,把有問題代碼複製到ChatGPT中尋求優化,或導致機密信息直接存入ChatGPT的數據庫中。

  三星回應稱,已加強ChatGPT的相關安全設置,並將進一步加強內部監管和員工培訓。而三星機密資料外洩的事故也提醒了其他企業,使用AI時需採取相應的策略與措施,以最大限度地減少機密信息的洩露。

ChatGPT面臨監管部門調查

 


  •意大利數據保護局(Garante)發表聲明,ChatGPT「缺乏法律依據」證明其收集及儲存數據的做法適當。

       OpenAI將有20天的時間採取補救措施,否則或根據歐盟《通用數據保障條例》(GDPR),罰款2000萬歐元(約1.7億港元),或全球年營業額4%

  •OpenAI目前已停止讓意大利民眾使用ChatGPT

  •負責AI技術倫理的美國AI和數位政策中心(CAIDP),已要求美國聯邦貿易委員會調查OpenAI是否存在「偏見和欺騙性」。

ChatGPT近期爭議

  數據外洩

  •根據OpenAI發布的官方公告,320ChatGPT開源庫出現錯誤,部分用戶的聊天信息洩露,包括歷史提問的標題、新建對話的首條信息;特定期間內,部分ChatGPT Plus訂閱者的付款訊息也被外界所見,包括姓名、電子郵箱、付款地址、信用卡號末四位數字和信用卡到期日。

  假新聞

  •OpenAI首席技術官穆拉蒂曾公開表示,與其他語言模型AI一樣,ChatGPT可能會「編造事實」。要提防ChatGPT被人利用來生成假消息並進行傳播,甚至騙取信息和財產。

  版權付費

  •在線內容出版商反對人工智能公司利用其投資出產的互聯網內容訓練ChatGPT,並以此獲利;正在研究他們的內容在多大程度上被使用、是否應有付費補償、法律途徑有幾何等問題,ChatGPT目前使用2021年前的數據進行訓練,已對內容網站的瀏覽量、點擊量、廣告費等構成壓力。

  道德風險

  •無法驗證用戶年齡,未成年人可能接觸到超越其發展認知程度的不當資訊;

  •通過海量網絡資訊生成回答,存在延續或強化偏見與歧視,甚至發表仇恨言論的風險。

 

1 則留言:

  1. 如果事件繼續發酵,AI面臨新局面!

    回覆刪除