國內外許多金融服務公司陸續將人工智慧(AI)引入其業務，並加速技術堆疊及工作流程的現代化，以減少人工作業並避免人為錯誤，這本身就帶來了諸多挑戰，因為人工智慧從根本上已經改變了銀行的風險狀況，造成了模型操縱等新的漏洞，需要採取戰略應對措施。
大綱
一、AI變革下銀行風險管理的現狀與挑戰
1.1 AI應用的廣泛場景
近年來，銀行業紛紛將人工智慧（AI）技術引入信用評分、詐欺偵測、投資組合優化等領域，以追求更高的營運效率與客戶體驗。然而，隨之而來的複雜度與互聯性，也使傳統風險管理框架難以全面涵蓋新出現的技術風險。
1.2 複雜技術帶來的「技術債」
金融機構在現代化過程中，常要承接大量既有主機、資料庫與中介系統，這些系統往往維護成本高昂且缺乏彈性。這類的「技術債」（technical debt）會因為過度依賴舊有架構、程式碼書寫不良、測試不足等因素累積，並成為服務中斷或巨額誤帳的導火線。
近幾年，英國巴克萊銀行及花旗集團就發生了因為「技術債」的原因而導致意外事件:
- 英國巴克萊銀行
根據英國下議院財政特別委員會的數據 ，巴克萊銀行在 2023 年 1 月至 2025 年 2 月期間遭遇了 33 次系統故障。特別是在2025年早些時候，巴克萊銀由於主機故障，經歷了三天的停電，導致數百萬英國客戶無法獲得最基本的銀行服務。此次中斷不僅損害了該銀行的聲譽，還使其面臨高達 750 萬英鎊的賠償金。 - 2024年，花旗集團向一位客戶的帳戶存入了 81 兆美元，而實際上它只打算轉帳 280 美元，原因是這家華爾街銀行的一名員工在使用帶有繁瑣用戶界面的備份系統時出現了輸入錯誤。
巴克萊銀行和花旗集團近期發生的錯誤與遺留 IT 系統有關，這些系統很可能是在不太成熟的開發週期中開發的。因此擁有更嚴格的開發生命週期並進行適當的漏洞測試，有助於及早發現潛在問題。
1.3 資料孤島與系統脆弱性
多元化的應用與異質系統並存，導致數據分散於各個資料庫與雲端服務，形成資料孤島。缺乏統一的資料治理與跨部門協作，將加劇系統整合的複雜度，提高出錯機率，甚至造成整體營運中斷。
二、建立可信任AI的風險治理框架
2.1 流程治理：監控、審查與回饋
完善的風險管理流程應包含持續的監控（monitoring）、定期審查（review）與回饋機制（feedback loop）。銀行需要在AI模型開發、上線及運行階段，設立關鍵績效指標（KPIs）與警示機制，及早發現異常，並迅速採取補救行動。
2.2 文件化與溝通：透明與可追溯
將風險管理的每個步驟——包含需求規格、模型設計、測試報告、決策依據等——完整文件化，並在內部及監管機構之間保持透明溝通，才能在出現問題時迅速定位責任，同時減少爭議與爭議成本。
2.3 文化嵌入：組織文化與治理整合
風險治理不能只是單一團隊的職責，而應成為整個組織的共同承諾。透過教育訓練、實戰演練與績效目標調整，將風險治理原則深植於企業文化，確保每位員工在日常運作中都能自覺遵循「信任但要驗證」（Trust but Verify）的原則。
三、AI模型的特有風險與防範
3.1 模型操縱與偏見風險
金融業AI模型若缺乏適當的防護，可能遭受對手進行對抗性攻擊（adversarial attack），或者因訓練資料偏差，導致決策結果歧視特定族群。必須在開發階段導入對抗測試和偏見檢測，確保模型在多種場景下的健全性。
3.2 解釋性與可審查性挑戰
許多深度學習模型雖然能帶來卓越預測效果，卻因其「黑盒」特性而難以解釋。銀行需平衡模型性能與可解釋性，對重大決策（如高額貸款審批、風險分級）採用可審查性更高的模型或混合型架構，以符合「負責任AI」的監管要求。
3.3 資料隱私與保護
AI應用必然仰賴大量客戶數據。銀行必須在蒐集、儲存及運算過程中，落實《個資法》與GDPR等法規要求，採用資料脫敏、差分隱私（differential privacy）或聯邦學習（federated learning）等技術，以降低數據外洩風險。
四、雲端與供應鏈安全：新的脆弱點
4.1 混合架構的複雜度
銀行逐步將核心系統遷移至公有雲或私有雲，形成混合雲（hybrid cloud）架構。這種架構雖帶來彈性與擴展性，但也因多家供應商與多重連線而增加管理難度，並使系統整體的安全邊界變得模糊。
4.2 共享責任模式下的模糊職責
在雲端環境中，供應商與銀行各負一半安全責任（shared responsibility model）。然而，當多方服務互相串接，卻容易出現「責任不明」的漏洞。銀行必須與雲端廠商共同制定明確”服務水準協議”(SLA) 與安全協議，切實落實身份識別與存取管理（IAM）機制。
**SLA(service-level agreement)是概述供應商向客戶承諾的服務水準之外包和技術廠商合約。
**身份識別與存取管理(IAM,Identity and Access Management)可讓經過驗證的實體能安全存取公司資源 (例如電子郵件、資料庫、資料和應用程式)，其目標是藉由管理存取權，讓正確的人員可以做好工作，並拒絕像駭客這類不正確的對象進入。需要安全存取的人不只有使用公司機器的員工，還包括承包商、供應商、商業合作夥伴，以及使用個人裝置工作的人員。
4.3 第三方供應商盡職調查
從AI平台、資料處理到系統維運，金融機構依賴眾多第三方。對供應商的安全能力、合規紀錄與韌性準備進行全生命週期管理，並建立事件通報與應變協調機制，才能避免在供應鏈上出現”漏洞與暴露”(CVE ,Common Vulnerabilities and Exposures)。
2024年7月19日科技業發生的事件凸顯了供應鏈風險的現實，當時 CrowdStrike 更新失敗，導致全球 IT 中斷，大約850萬台 Microsoft Windows 個人電腦和伺服器癱瘓 。
五、未來展望：智能化監控與主動預防
5.1 AI驅動的實時可觀察性
透過運用AIOps平臺整合日誌、指標與追蹤（logs, metrics, traces），結合AI技術進行異常偵測與根因分析，實現系統健康與使用者體驗的全時可視化，讓風險管理從「被動反應」升級為「主動預警」。
5.2 自動化提升韌性
將重複性、機械式的檢查與補救流程自動化，例如自動重啟服務、快照回滾、智能流量切換等，可在發生小規模故障時迅速恢復，降低對營運與客戶影響。
5.3 強化基本原則：信任但要驗證
回歸風險管理的核心——「政策（policies）、流程（processes）、人員（people）與驗證（verify）」。在AI與雲端技術日新月異的背景下，持續加強治理、審計與測試，才能讓銀行在複雜環境中立於不敗之地。
結語
AI正以前所未有的速度重塑銀行業的商業模式，也為風險管理帶來前所未有的機遇與挑戰。唯有貫徹「全周期治理＋技術防禦＋文化嵌入」三大要素，並以「主動預防、及時補救」的智能化監控為支撐，銀行才能在動盪的科技浪潮中，實現真正的「可信任AI」與「韌性經營」。
參考資料: Increasing reliance on complex technology leaves banks vulnerable
