歐盟理事會和議會在2023年12月9日就世界上第一個人工智慧規則達成協定
大綱
一、歐盟人工智慧法(AI Act)的立法目的
經過為期3天(2023/12/6~2323/12/9)的“馬拉松式”會談，歐盟理事會主席國和歐洲議會談判代表就人工智慧（AI）協調規則提案達成了臨時協定，即所謂的人工智慧法案(AI Act)。該法規草案旨在確保投放歐洲市場並在歐盟使用的人工智慧系統是安全的，並尊重基本權利和歐盟價值觀。這一具有里程碑意義的提案還旨在刺激歐洲對人工智慧的投資和創新。
《人工智慧法案》是一項旗艦立法舉措，有可能促進私營和公共行為者在歐盟單一市場中開發和採用安全可靠的人工智慧。其主要思想是根據人工智慧對社會造成危害的能力來監管人工智慧，採用“基於風險”的方法( ‘risk-based’ approach)：風險越高，規則越嚴格。作為世界上第一個此類立法提案，它可以像GDPR一樣，為其他司法管轄區的人工智慧監管設定全球標準，從而在世界舞臺上促進歐洲的技術監管方法。
歐盟委員蒂埃里·布雷頓（Thierry Breton）在X上的一篇文章中證實，歐盟理事會和議會已經達成協定，稱其為歷史性協定。他說“歐盟成為第一個為人工智慧的使用制定明確規則的大陸(The EU becomes the very first continent to set clear rules for the use of AI.)，還說《人工智慧法案》不僅僅是一本規則書，它是歐盟初創企業和研究人員引領全球人工智慧競賽的跳板。”(The AI Act is much more than a rulebook–it’s a launchpad for EU startups and researchers to lead the global AI race.)
Thierry Breton在X上的頭像
Thierry Breton還放上一張圖，表示歐盟大陸已經有AI法規了。
歐盟委員蒂埃里·布雷頓（Thierry Breton）開心的在X上貼文
二、歐盟人工智慧法(AI Act)主要內容
(一)風險為基礎的AI分類
依照AI的影響程度(風險程度)，分為通用目的AI系統(general-purpose AI (GPAI) systems)及高風險AI系統
- 通用目的AI系統: 基礎模型
通用目的AI系統在投放市場之前必須遵守特定的透明度義務。 - 高風險AI系統
高風險AI系統係指”使用大量數據訓練的基礎模型，具有遠高於平均水準的高級複雜性、功能和性能，可以沿價值鏈傳播系統性風險”。
對此類系統AI act要求會比較嚴格。例如，
(1)部署者將高風險人工智慧系統投放市場之前，應進行基本權利影響評估；
(2)此外還要提高使用高風險人工智慧系統的透明度；
(3)使用者有義務在歐盟高風險人工智慧系統的資料庫中註冊。(列冊監管)；
(4)情緒識別系統的用戶有義務在自然人接觸到這種系統時告知他們。
(二)違反法規的處罰
對違反《人工智慧法》的罰款按違規公司上一財政年度全球年營業額的百分比或預定金額（以較高者為準）確定。依照違反的嚴重性分為三種:
- 違反被禁止的人工智慧應用程式: 罰 3500 萬歐元或 7%
- 違反人工智慧法案的義務: 罰1500 萬歐元
- 提供錯誤資訊: 750 萬歐元或 1,5%
對中小企業和初創企業的行政罰款有更相稱的上限。
(三)禁止使用的範圍
對於人工智慧的某些用途，風險被認為是不可接受的，因此，這些系統將被歐盟禁止。
例如，臨時協議禁止認知行為操縱、從網路或閉路電視錄影中無目的地抓取臉部影像、工作場所和教育機構中的情緒識別、社會評分(social scoring)(使用指標來確定某人的正直程度)、用於推斷敏感資料（例如性取向或宗教）的生物辨識分類。信仰，以及一些針對個人的預測性警務案例(Predictive policing)。
此外，該法也禁止使用人工智慧來剝削那些因年齡、殘疾或經濟狀況而處於弱勢地位的人。
Predictive policing(預測性警務)是在執法中使用數學，預測性分析和其他分析技術來識別潛在的犯罪活動
(四)使用的例外情況
在AI Act中，嚴格限制面部識別技術的使用，但狹義的執法例外除外。例如，允許執法機構在緊急情況下部署未通過合格評定程式的高風險人工智慧工具
三、AI業者的擔心
歐洲公司表示擔心，對這項技術的過度限制性規則將阻礙創新，該技術正在迅速發展並在OpenAI的ChatGPT普及後獲得牽引力。2023年6月，法國空客（Airbus）和德國西門子（Siemens）等數十家歐洲最大公司表示，這些規則過於嚴格，無法培育創新和幫助當地產業。
一些科技團體對此並不滿意。代表歐洲大陸科技行業的DigitalEurope總幹事塞西莉亞·博內菲爾德-達爾（Cecilia Bonefeld-Dahl）表示：“我們達成了協定，但代價是什麼？我們完全支持基於人工智慧而不是技術本身的基於風險的方法，但最後一刻對基礎模型進行監管的嘗試已經扭轉了這一局面。
新AI Act將佔用大量資源供公司遵守，這些資源將花在律師身上，而不是聘請人工智慧工程師。
四、歐盟人工智慧法(AI Act)重要里程碑
歐盟相關單位花了數年的時間來討論AI立法的相關問題，終於在2023年12月9日塵埃落定，下表詳列此法的重要里程碑及鏈接。
參考資料: