ChatGPT也納管！歐盟通過世界第一部人工智慧法草案｜國際大風吹 Ep.271

歐盟人工智慧法草案，開宗明義把立法目的講得清清楚楚要確保歐盟的人工智慧系統安全、透明、可追蹤、不含歧視以及環境友善，AI系統應該要由人類來監督而不是自動化管理，以免導致有害的後果。6月14號表決通過的草案依照風險嚴重程度，把AI系統分成四大類。

第一類是風險無法接受，這類AI由於對人類構成嚴重威脅，因此要全面禁止，包括以行為、社經地位、個人特徵為準的社會評分系統，遠端即時生物特徵辨識系統，預測個人會不會犯罪的預防性執法系統等等。什麼樣的風險是高到不能接受的呢？其實引發不少的討論，尤其是能不能為了國安和執法有條件開放即時性的遠端生物特徵辨識系統？但最終辯論結果，連為了抓捕恐怖份子或尋找失蹤兒童都不開放即時辨識，只能允許非即時性的辨識，以免AI系統淪為大規模監控的工具。

第二類是高度風險，也就是有可能損害人身安全或基本人權的AI系統，必須在上市前接受審查，上市後也要持續追蹤，例如交通、醫療、電梯設備等等安全性非常重要的產品。另外關鍵基礎建設、教育職業訓練、邊防移民、司法和民主程序等等，可能牽涉到高度風險，牽涉到歧視或基本人權的領域也屬於這一類。

第三類是有限風險，爆紅的Chat GPT等等生成式AI就屬於這一類。這類的規範重點是資訊透明，必須要標示AI生成的內容，必須讓用戶知道自己正在跟AI互動，目的是希望AI不要被拿來傳播假資訊。另外如果AI系統的訓練過程中，使用任何有版權的文字、影像、聲音作品也必須明確列出。這樣一來，也等於給版權持有人要求分潤的機會。

最後一類則是風險極低的，例如過濾垃圾信件、遊戲軟體等等。其實絕大多數應用應該是屬於這一類，就不需要面對任何的特殊規範了。如果違規的話，歐盟將依照情節輕重和比例原則處理罰款，例如如果推出風險無法接受的AI系統，將面對4千萬歐元或全球營收7%的罰款，而且是取兩者較高的為準。相較之下歐盟為了保護各自的GDP而法規罰款最高是1千萬歐元或全球營收的2%，所以AI法的罰則算是蠻重的。

針對歐盟的AI法草案，微軟和IBM等正在拚命開發AI的大公司都給予正面的評價，表示樂見相關法規規範，但是也是提醒具體要如何劃分風險層級，尤其哪些系統屬於高風險，恐怕需要更細緻的規範。在此同時，Chat GPT開發商OpenAI的創辦人Sham Altman則是表示，歐盟這一份草案的規範可能太嚴格了，還一度放話如果最終認定太難遵守，OpenAI會退出歐盟市場，但不到48小時後他又馬上改口說，目前沒有停止歐盟業務的計畫，雖然在開發先進AI方面歐盟落後給美國和中國，但美國的相關立法工程遲遲沒有開始動工，而歐盟則是從2019就啟動，2021年就提出出版草案，因此才會處在全球領先的地位，接下來人工智慧法草案還要跟歐盟諮詢，還有各會員國討論，才會確定最終版本，預定到今年年底拍板定案。如果到時候表決過關，通常也還要一兩年的緩衝期才會完全生效。歐盟官員透露，正在跟美國討論一套人工智慧的產業行為準則，沒有約束力純屬自願性質，希望邀請業者共襄盛舉，在各國法規落地前的空窗期就幫產業建立一套大家都認可的規範。