金融業運用AI指引草案出爐！AI定義、問責、關閉機制全都露

• 2023.12.28 
 
• 20:51 
 
• 工商時報 魏喬怡  戴瑞瑤

• AI
• 金融業
• 金管會

金管會趕在年底前公布「金融業運用AI指引草案」，總則與6大章節出爐！圖／freepik
已將目前網頁的網址複製到您的剪貼簿！
金管會趕在年底前公布「金融業運用AI指引草案」，總則與6大章節出爐！綜規處處長胡則華28日指出，總則中明訂共通事項，包括AI相關定義、AI系統生命週期等、風險評估框架等，6大章節也對「問責機制」、「補救機制」、「緊急關閉機制」等有明訂，可供金融業相關公會訂自律規範時可參考，性質屬「行政指導」，不具法律拘束力，初期不會有罰則也不會納入金檢。金管會為廣納意見，將發布至公共政策網路參與平臺「眾開講」，並拉長預告期間至60日。
胡則華指出，金管會在2023年5月時曾調查金融機構運用AI的概況，38家銀行中有63％有用AI、40家保險公司中有58％、97家證券期貨投信中有17％有用，主要運用項目為「客層經營、風險法遵、流程精進、數據分析」。
胡則華針對各界對此指引比較在意的幾點進行說明。首先是對AI相關定義沒有採用國際，而是有縮小範圍，例如不會連使用excel函數也納入，而是要有「機器學習」的才算。以AI系統來說，是指透過大量資料學習，利用機器學習或相關建立模型的演算法，模仿人類學習、思考及反應模式的技術。而「生成式AI」定義為指可以生成模擬人類智慧創造之內容的相關AI系統。
另外，外界希望以「風險」為基礎，高風險的AI系統就多分配資源，低風險的就少分配，針對風險較高的AI系統，評估是否採用記錄、監控機制、審查及核准、稽核或評測機制等措施。
在「建立組織架構及問責機制」方面，外界擔心若只有問責足以督導跨部門業務的高階主管，可能不夠，指引中增列「成立委員會」來負責整體監督管理AI系統的運用。
在「重視公平性及以人為本的價值觀」上，本來是訂定金融機構運用AI系統產生的決策，不應對AI產生歧視性結果，但外界認為，對人類也可能產生歧視，因此改為不應對「特定群體」造成歧視的結果。
在「保護隱私及客戶權益」方面，金融機構也建議，宜以「資料最小化」的原則蒐集與處理必要的客戶資料，例如，若是只需要10項客戶資料就可以運作的模型就不要去跟客戶要15項資料，將來有可能洩露風險。另外也要有「補救措施」例如銀行提供一個貸款服務，假設是AI系統提供資料，但客戶若覺得權益受損，要能夠改為真人服務，或有補償機制、申訴管道。
指引也明訂要有「緊急關閉機制」，對民眾影響大的關鍵系統，要有彈性讓金融機構人員強制介入關閉AI系統的權利。