金融業運用人工智慧(AI)之核心原則及政策

為協助金融機構善用AI科技優勢，並能有效管理風險、確保公平、保護消費者權益、維護系統安全及實現永續發展，金管會參考國際作法及業者意見，並透過不同渠道徵詢各界意見後，於2023年10月17日公布「金融業運用人工智慧(AI)之核心原則與相關推動政策」。

金融業運用人工智慧(AI)之核心原則及政策
金融業運用人工智慧(AI)之核心原則及政策

金融機構的經營是否穩健攸關社會大眾的權益，AI雖然已經運用到很多領域，如學術、藝術、音樂等領域，但若要將AI運用於金融業務則須審慎評估，以免引起社會不安與經濟動盪。

今年3月時，非營利組織「未來生命研究所」(Future of Life Institute)在其網站上公開了一封公開信，標題為” 「暫停大型AI實驗：一封公開信」(Pause Giant AI Experiments: An Open Letter)。引起各界關注並出現廣泛的討論。這項呼籲也獲得圖靈獎得主、馬斯克(Elon Musk)及許多AI專家的認同。可見AI的運用，讓人們又愛又怕受傷害。

金管會發布「金融業運用人工智慧(AI)之核心原則與相關推動政策」，有幾個重點，說明如下:

金融業運用AI之6項核心原則

這6項核心原則，前四項屬於比較一般性的規範，至於第5項原則，要落實透明度與可解釋性，這是頗具挑戰性的任務，AI厲害的原因就是因為它的黑箱運算，預測的準確度高，但卻很難做到透明度與解釋性，目前AI產業的專家們都努力思考朝向「能夠比較透明及提高可解釋性的目標邁進」。

而第6項原則納入「時下流行」的永續發展的概念，沾點時尚的味道，也是屬於一般性規定。

基於此6項核心原則金管會將研訂「金融業運用AI指引」，依比例原則及以風險為基礎，訂定金融業宜注意之事項，預計於112年年底前完成，以導引金融業運用可信賴AI，發展更貼近民眾需求之金融服務，深化普惠金融價值。

一、「建立治理及問責機制」：
強調金融機構在使用AI系統時應對內部治理與對消費者的權益保護負責，並建立全面且有效的風險管理機制及確保其人員對AI有足夠之知識與能力。

二、「重視公平性及以人為本的價值觀」：
強調金融機構在運用AI系統時，應儘可能避免演算法之偏見所造成的不公平，並符合以人為本及人類可控的原則。

三、「保護隱私及客戶權益」：
強調金融機構於管理及運用客戶資料時，必須充分尊重及保護客戶的隱私權，並應尊重客戶選擇是否使用AI服務的權利，提醒客戶是否有替代方案。

四、「確保系統穩健性與安全性」：
強調金融機構應致力維護AI系統之穩健性及安全性，並對第三方業者進行適當之風險管理及監督。

五、「落實透明性與可解釋性」：
強調金融機構在運用AI系統時，應確保其運作之透明性及可解釋性，並於使用AI與消費者直接互動時，應適當揭露。

六、「促進永續發展」：
強調金融機構在運用AI系統時，應確保其發展策略及執行符合永續發展相關原則，並盡力維護員工工作權益。

8項配套政策

金管會亦為因應AI發展，推出8項配套政策，後續至少還會有3項規範要出爐，分別是「金融業運用AI指引」、「金融業運用AI系統相關自律規範」、「金融業運用AI系統最佳實務手則」。

(1)訂定「金融業運用AI指引」、
(2)檢視相關規範並適時進行法規調適、
(3)利用AI技術發展監理科技、
(4)與國際組織及其他國家金融監理機關進行交流及合作、
(5)鼓勵金融業積極參與AI的研發與應用及協助導入最佳實務做法、
(6)對金融業者應用AI之實際狀況檢視、
(7)責成各金融業公會制訂金融業運用AI系統相關自律規範及最佳實務守則、
(8)督導金融機構落實公平對待客戶及金融友善準則，以及透過金融知識宣導活動降低數位落差等措施。

AI技術的優點及可能衍生的問題

一、AI技術的優點

  1. 為各領域帶來廣大的經濟與社會效益: 如在環境、健康、公共部門、金融、交通、內政及農業等領域。
  2. AI 運用大量數據資料及運算力，在預測能力、優化營運、資源分配，及客製化服務上，能對人類提供相當大的助益。

二、AI技術可能衍生之問題

  1. AI 系統引發各種新型態倫理問題: 這些問題可能對決策、勞工就業、社交互動、醫療保健、教育、媒體、資訊獲取、數位落差、個人資料或消費者保護、環境、民主、法治、安全與執法，及人權與基本自由等都有影響。
  2. AI 可能加重這些倫理的挑戰: 因為AI 演算法可以複製並強化現有偏見，進而加劇現有形式的歧視、偏誤及刻板印象。以往某些問題由人類處理時，情況較容易控制，但AI 系統具有快速執行任務能力，因此若無妥善的設計與控制，當AI 代替人類執行而出現事先無法預期情況時，可能帶來極大風險。
  3. AI技術亦可能涉及個人資料及隱私洩漏、資訊安全風險及其他法律風險等問題，其快速生成新內容之能力，可能創造大量真偽難辨或不存在的資訊，引發虛假訊息傳播之疑慮。

重要國際組織及主要國家對運用AI 的看法

台灣金融方面的規範大多依循歐美的腳步，相當穩健，通常跑的不會太超前。

年度發布單位內容
2017金融穩定委員會金融穩定委員會於2017 年發布「金融服務業的AI 與機器學習 市場發展與對金融穩定的涵義 (Artificial intelligence and machine learning in financial services Market developments and financial stability implications)，說明AI 與機器學習(
可協助金融機構更有效率地處理訊息，亦可透過法遵科技 (RegTech) 及監理科技 (SupTech )，以確保金融機構的遵法性並增強監管效能。
2019經濟合作暨發展組織 OECD發布「AI 原則(AI P rinciples) 」，推廣運用「創新與值得信賴，且尊重人權與民主價值」的AI 。其並以價值為基礎，列出「包容性成長、永續發展及福祉」、「以人為本的價值與公平」、「透明與可解釋性」、「穩健及安全性」及「問責」等5 項重要原則，建議各國政策制定者採用。
2019/9台灣科技部於2 019 年9 月訂定「人工智慧科研發展指引」，期以「以人為本」、「永續發展」及「多元包容」為核心價值，並兼顧AI 科研人員學術自由、鼓勵AI 研究發展創新及維護人權與普世價值的理念，完善我國AI
科研發展環境。該指引訂有8 項原則，包括「共榮共利」、「公平性與非歧視性」、「自主權與控制權」、「安全性」、「個人隱私與數據治理」、「透明性與可追溯性」、「可解釋性」及「問責與溝通」等。
2020美國美國於2020 年公布並於2021 年施行「國家AI 倡議法(National Artificial Intelligen ce Initiative Act of 2020) 」，目的在確保美國在AI 研發上的領先地位，並在公私部門運用值得信賴的AI 、為現在及未來工作人力與AI 的整合予以準備，並協調聯邦政府各部門持續進行的AI 工作。
2021聯合國教科文組織發布「對AI 倫理的建議(Recommendations on the Ethics of AI) 」，將「尊重、保護及推廣人權、基本自由及人類尊嚴」列為核心價值，並期望各個政策領域都參考「比例原則與無危害」、「安全與防護」、「公平與無歧視」、「永續發展」、「隱私權與資料保護」、「人類的監督及最終決定」、「透明與可解釋性」、「責任及問責」、「覺察與能力素養」、「多元參與、適應性治理及協力」等10 項原則。
2021國際清算銀行國際清算銀行旗下的金融穩定學院於2021 年發布「人類控制AI 對金融業新興的監理期待」(Human Keeping AI in check emerging regulatory expectations in the financial sector)，將金融業運用AI系統的方式依是否面對客戶分作二類，並依照此等分類，希望金融監理機關依循「透明度」、「可信賴性與穩健度」、「問責」、「公平與倫理」等4 個原則給予相關監理措施，同時亦希望在推出政策措施時，依照比例原則來處理可能的挑戰。
2021IOSCO國際證券管理機構組織( 於2021 年發布「市場中介機構及資產管理機構運用AI 及ML 指引 Th e Use of Artificial Intelligence and Machine Learning by Market
Intermediaries and Asset Managers 」，提出6 項金融監理機關可以採取的措施，包含要求金融機構
(1) 有適當的治理、控制與監督架構；
(2) 對AI 與ML 的發展、測試、使用及表現持續監測；
(3) 人員需有足夠知識技能及經驗，以實施、監督及挑戰AI 與ML 產出的結果；
(4) 瞭解本身對提供AI 與ML 服務之第三方機構的依賴性，並建立良好管理與監督機制；
(5) 對投資人、主管機關及相關利害關係人提供妥適的透明度與揭露資訊；
(6) 有妥適控制機制，以確保資料及AI 與ML 的表現能將偏見最小化。
2023/4台灣行政院2023 年4 月核定發布「臺灣AI 行動計畫2.0 」，揭櫫「以AI 帶動產業轉型升級、以 AI 協助增進社會福祉、讓臺灣成為全球AI 新銳」之願景，並從產業端出發，帶動我國整體產業轉型升級，並建構兼顧科技創新及風險治理的可信任AI 發展環境，及因應AI 衍生的各項社會衝擊，以AI 科技發展具包容性的數位經濟，協助解決社會面臨重大挑戰，增進全民福祉。
2022/10白宮白宮於2022 年10 月發布「AI 權利法案藍圖(Blueprint for an AI Bill of Ri ghts) 」，列出「安全與有效的系統」、「運算歧視保護」、「資料隱私權」、「通知與解釋」、「人類替代方案、考量及應變」等5 項原則，據以引導AI 自動化系統的設計、運用及佈署，以保護美國大眾。
2023/6歐盟議會歐盟議會於2023 年6 月通過「AI 法案 Artificial Intelligence Act) 」的草案，以確保在歐洲開發及使用AI可符合歐盟的權利與價值觀。該法案將AI 系統的風險分為「不可接受風險」、「高風險」、「有限風險」及「低風險」等4 類，並依該等風險程度採行「禁用AI 措施」、「法規管制」、「揭露」及「無法定義務」等對應方式。

台灣金融業運用AI 現況

一、金融業採用AI技術的調查情況

依據金管會112 年5 月份調查我國金融機構共175 家，其中有63 家採行AI 技術(約47%)，應用之範疇包含

  1. 客群經營，如智能客服、機器人理財等；
  2. 風險管理及法令遵循，包含洗錢防制、分析可疑交易、開戶案件審查等；
  3. 流程精進，包含影像辨識及後臺流程自動化等；
  4. 數據分析，如客戶屬性及消費等行為數據分析、市場趨勢分析等；
  5. 其他，如利用威脅情資分析資安情境等。

二、金融機構應用ChatGPT 或其他生成式AI 之情形

金管會業於2023年4月以問卷形式完成相關調查，結果顯示目前尚無金融機構導入生成式AI 應用於金融業務或內部作業。惟有2 家金融機構規劃導入應用，並有80 家金融機構及周邊單位評估中。另有95 家金融機構及周邊單位針對內部員工使用生成式AI 進行管制，包括設置防火牆以阻擋公司內網連結至ChatGPT 網站、依機構內部規範控管以防止客戶個人資料外洩等。

參考來源: 金管會公布金融業運用人工智慧(AI)之核心原則及政策