金管會在今日正式發布AI指引，提供金融業運用AI或生成式AI時，落實六大核心原則的處理機制，也提供監督第三方業者的管理方式。
文/李昀璇 | 2024-06-20發表
歷時將近一年，金管會終於在今日發布「金融業運用AI指引」，除了提供AI系統和生成式AI定義，也將AI系統生命周期分為4個階段，提供業者在各個階段中落實六大核心原則的處理機制。
生成式AI爆紅後，催生出各地的AI監理法規。去年6月，金管會就表示，由於國際監理機關針對金融業使用AI的做法主要是訂定指引或原則，因此，金管會也將參考這項作法，先制定內部政策，再研議訂定金融業運用AI的指引或指導原則。
四個月後，金管會發布金融業運用AI的六大核心原則，分別為建立治理及問責機制、重視公平性及以人為本的價值觀、保護隱私及客戶權益、確保系統穩健性與安全性、落實透明性與可解釋性，和促進永續發展。當時僅訂定出原則方向，並未敘述導入AI應留意的實務作法。
如今，金管會發布正式AI指引，涉及AI系統實務作業的操作細節，類似一份AI操作建議書，分別說明了業者在導入AI，或使用生成式AI時，如何在4個階段中，落實公平性、隱私保護及資料治理、系統穩定性、系統安全性、透明性和可解釋性。例如，在導入AI落實公平性的建議作法中，指引分別描述了業者從系統規畫及設計階段、資料蒐集及輸入階段、模型建立及驗證階段，到系統佈署及監控階段時，各階段可採取的措施。其他的核心原則也同樣依據這個方式說明建議作法。
綜合規劃處處長胡則華表示，目前，已有使用生成式AI的金融機構共有29家，銀行業占比最多。使用場景最多是在內部作業，第二是智能客服，第三則是行銷廣告。
草案和正式指引差異
為了讓指引能符合金融業實務操作細節，金管會先在去年12月發布指引草案，開放大眾提供建議。經過六個月的討論時長，金管會才發布了正式指引。
相較草案內容，正式指引提供更多第三方業者的監督管理方式，針對自建、委外和外購等不同部署方式增訂相關內容，也修改風險評估因素的敘述方式，強調指引中的舉例僅供參考，增加指引適用的彈性。
指引針對第三方業者的監督管理方式，明訂金融機構運用AI系統時，可辨識自行監控風險的程度，並對自身較無控制權的部分或事項，透過契約等方式，與合作廠商明訂風險監控的責任分工。例如，金融機構在使用風險較高的AI系統時，可視需要來委託具AI專業且獨立的第三人進行審查、評測。
另外，指引中也明訂，金融機構委託第三方業者導入AI系統相關作業時，可採取的監督管理措施。例如，就停止委託的情形，訂定適當的資料或系統遷移機制等。
針對AI可解釋性的範圍，金管會表示，考量金融機構委外研發或購入AI系統，可能因業者商業機密，無法完全得知AI系統運作細節，因此，指引限縮了可解釋性的範圍，明定金融機構只要清楚說明AI系統運作、預測，或決策過程背後的邏輯，草案內容則需要詳細至說明演算法的運作機制。
不過，指引中也明訂，金融機構使用第三方業者開發的生成式AI服務時，即便無法掌握模型訓練過程，也需要對產出的資訊進行客觀且專業的管控。
另外，指引中也提供六項風險評估因素，供金融業導入AI時辨識、評估系統的風險高低。例如，指引中提及，當AI系統使用的運算模型複雜性較高，或使用參數數量與類型較多，可解釋性可能降低，因而有較高的風險性。
銀行公會已發布AI作業規範，證期、保險相關公會正在評估、訂定自律規範
金管會強調，指引屬於行政指導，不具法律拘束力。他們建議，金融業相關公會如有訂定運用AI的自律規範，可以參考指引，納入相關重點和措施。若金融機構尚未訂定相關自律規範，則建議參考指引導入、使用及管理AI系統。另外，金管會也鼓勵金融業者在運用AI辦理創新業務時，可透過金融科技創新實驗，或金融業務試辦等機制進行測試。
銀行公會已在今年五月修訂並發布「金融機構運用AI作業規範」，指引的AI定義正是參考自這份作業規範。證期局副局長高晶萍在例行記者會上表示，先前已發文給證券、期貨和投信顧公會，請公會在相關規範發布後一個月內制定自律規範，再向證期局進行核備。另外，保險局主秘古坤榮表示，保險相關公會也正在評估、訂定自律規範中。
線