iPAS AI應用規劃師 考試重點
L11102 AI治理概念 (AI Governance Concepts)
篩選主題：
全部主題
治理與問責機制
倫理、公平性與偏見
風險管理與安全性
法規、標準與合規性
透明度與可解釋性
資料治理考量
重要性：
全部重要性
★★★★★
★★★★
★★★
★★
★
搜尋：
搜尋
主題分類
1
治理與問責機制
2
倫理、公平性與偏見
3
風險管理與安全性
4
法規、標準與合規性
5
透明度與可解釋性
6
資料治理考量
#1
★★★★★
AI治理
(
AI Governance
) 的定義與重要性
核心概念
理解
AI治理
是指
建立一套框架、流程、政策和標準，以確保 AI 技術的開發、部署和使用符合組織的價值觀、倫理原則、法律法規和社會期望
。其重要性在於
管理風險、建立信任、促進創新
。 (來源：金融指引、公部門手冊) (對應能力 K10)
#2
★★★★★
建立
治理
及
問責機制
(
Accountability
)
核心概念
金融機構/組織
應對其使用的
AI
系統承擔相應的
內部和外部責任
。需建立清晰的
內部治理架構
，指定
高階主管或委員會
負責監督，明確各部門
角色與職責
，並確保
決策過程和結果可追溯、可歸責
。 (來源：金融指引 核心原則一) (對應能力 K10)
#3
★★★★
AI 系統生命週期
(
AI System Lifecycle
) 管理
核心概念
治理應涵蓋
AI
的
完整生命週期
：
規劃設計、資料蒐集、模型建立/驗證、部署監控
。需針對各階段建立
管理規範和控制點
。 (來源：金融指引 總則、公部門手冊 2.1) (對應能力 K08, K10)
#4
★★★★
第三方
AI
系統的治理
核心概念
若使用
第三方開發或營運
的
AI
系統，組織仍需進行
適當的風險管理和監督
，包括
盡職調查、合約規範、監控供應商
表現等。 (來源：金融指引 總則、核心原則四) (對應能力 K10, K12)
#5
★★★
人員知識與能力
核心概念
確保組織內相關人員 (包括決策者、開發者、使用者) 對
AI
有足夠的知識和能力
，能理解其潛力與風險，並做出
適當的決策與監督
。需提供
持續的教育訓練
。 (來源：金融指引 核心原則一、公部門手冊 3.5) (對應能力 K10, K20)
#6
★★★★★
重視
公平性
(
Fairness
) 與避免
偏見
(
Bias
)
核心概念
在使用
AI
過程中，應
儘可能避免演算法偏見
所造成的不公平。需
識別
潛在的偏見來源（如
資料、模型設計、人類判斷
），並採取措施
減輕或消除歧視
(
Discrimination
)。 (來源：金融指引 核心原則二、公部門手冊 4.2) (對應能力 K10, K12)
#7
★★★★
以人為本
(
Human-Centricity
) 的價值觀
核心概念
AI
的運用應符合
以人為本
及
人類可控
(
Human Controllability
) 的原則，
尊重法治、民主價值、人類自主權與基本人權
。 (來源：金融指引 核心原則二) (對應能力 K10)
#8
★★★★
人類監督機制
核心概念
根據
AI
系統的風險程度，建立不同層級的
人類監督機制
，例如：
人在指揮
(
Human-in-command
)、
人在迴圈內
(
Human-in-the-loop
,
HITL
)、
人在迴圈上
(
Human-over-the-loop
,
HOTL
)。確保在關鍵決策或異常情況下，人類能夠介入干預。 (來源：金融指引 Ch2、公部門手冊 4.2) (對應能力 K10)
#9
★★★
生成式AI
的倫理考量
核心概念
針對
生成式AI
，需特別關注其產出內容的
真實性、偏見、潛在濫用
（如
生成不實資訊
、
侵犯版權
）等倫理問題，並由專業人員進行
客觀管控
。 (來源：金融指引 核心原則二、公部門手冊 4.2) (對應能力 K09, K10, K12)
#10
★★★★★
AI 風險管理
(
AI Risk Management
) 框架
核心概念
建立全面且有效的
AI 風險管理機制
，
識別、評估、監控及減緩
AI
在
整個生命週期
中可能產生的各種風險，並將其
整合至現有的風險管理流程
中。 (來源：金融指引 核心原則一、四) (對應能力 K12)
#11
★★★★★
資訊安全
(
Information Security / Cybersecurity
) 概念
核心概念
理解
資訊安全
的基本要素：
機密性
(
Confidentiality
)、
完整性
(
Integrity
)、
可用性
(
Availability
)。
AI
系統的安全性包含
防禦外部攻擊
（如
對抗性攻擊
Adversarial Attacks
）、
資料洩露
等威脅。 (來源：金融指引 核心原則四、公部門手冊 4.4) (對應能力 K13, K12)
#12
★★★★
系統
穩健性
(
Robustness
)
核心概念
AI
系統應具備
穩健性
，能在
預期操作條件及壓力情境下
（如
異常輸入、環境變化
）
可靠地運行
，並具備一定的
容錯能力
。包含
穩定性、準確性、可重製性
等概念。 (來源：金融指引 核心原則四) (對應能力 K12)
#13
★★★
模型風險管理
核心概念
針對
AI
模型進行
生命週期管理
，包括
開發前的概念審查、持續的驗證與測試、性能監控、定期審查與更新
，以管理模型
失效或表現不佳
的風險。 (來源：金融指引 Ch1, Ch4) (對應能力 K05, K12, S07)
#14
★★★★★
AI 相關法規與原則
核心概念
認識國內外與
AI
相關的
重要法律規範
（如
個資法
、
資通安全管理法
）、
行政指導
（如
金融業AI指引
、
公部門AI參考手冊
）及
國際原則
（如
OECD AI
原則、
EU AI Act
概念）。 (來源：金融指引、公部門手冊 1.6) (對應能力 K15, K12)
#15
★★★★
合規性
(
Compliance
) 要求
核心概念
確保
AI
系統的開發與應用
符合所有適用的法律法規、行業標準和內部政策
。這涉及
持續監控法規變化
並
調整系統與流程
。 (來源：金融指引 核心原則一) (對應能力 K12, K15)
#16
★★★
國際
AI
治理趨勢
核心概念
了解主要國家和國際組織在
AI
治理和監管方面的最新動態與發展方向
，例如對
高風險 AI 系統
的
監管加強趨勢
。 (來源：金融指引 附錄) (對應能力 K15, S02)
#17
★★★★
透明度
(
Transparency
) 的概念
核心概念
透明度
是指
對外提供
關於
AI
系統的
相關資訊
，使其
如何運作、使用何種資料、可能影響
等對利害關係人是
可見且可理解
的。 (來源：金融指引 核心原則五) (對應能力 K10)
#18
★★★★
可解釋性
(
Explainability / Interpretability
) 的概念
核心概念
可解釋性
是指能夠
清楚說明
AI
系統
做出特定決策或預測的原因與邏輯
，特別是針對其
內部運作機制
。 (來源：金融指引 核心原則五) (對應能力 K10)
#19
★★★
透明度與可解釋性的重要性
核心概念
這兩者對於
建立信任、確保公平、促進問責、偵錯與改善模型
至關重要，也是
滿足監管要求
的基礎。 (來源：金融指引 核心原則五) (對應能力 K10, K15)
#20
★★
實現透明度與可解釋性的方法 (概念層級)
核心概念
了解有不同方法可以提高
AI
的
透明度和可解釋性
，例如
選擇本質上較易解釋的模型
、使用
事後解釋技術
、提供
清晰的文件說明和使用者介面
等。 (來源：金融指引 Ch5) (對應能力 K10)
#21
★★★★★
資料治理
(
Data Governance
) 與
AI
治理的關係
核心概念
良好的
資料治理
是
AI治理
的
基礎
。
資料的品質、來源、隱私、安全和使用方式
直接影響
AI
系統的
表現、公平性和合規性
。 (對應能力 K04, K10, K11, K13)
#22
★★★★★
資料品質
(
Data Quality
) 的重要性
核心概念
高品質的資料
（
準確、完整、一致、及時
）是訓練
可靠且有效
AI
模型的
前提
。低品質資料會導致
模型偏見、預測失準
等問題。 (來源：金融指引 Ch4) (對應能力 K04, K11, S08)
#23
★★★★★
資料隱私保護
(
Data Privacy Protection
)
核心概念
在使用資料訓練或運行
AI
時，必須遵守
個資法
等
隱私法規
，保護
個人資料
不被
濫用或洩露
。需採取
去識別化、加密、存取控制
等措施。 (來源：金融指引 核心原則三、公部門手冊 4.3) (對應能力 K13, K15)
#24
★★★★
資料生命週期管理
核心概念
對用於
AI
的資料進行
全生命週期的管理
，包括
資料的獲取、儲存、使用、共享、歸檔和銷毀
，確保各階段
合規且安全
。 (對應能力 K04, K11, K13)
#25
★★★
資料偏見的識別與處理
核心概念
在
資料治理
中需包含
識別和處理
訓練資料中
潛在偏見
的流程，以
減少 AI 模型的歧視性輸出
。 (來源：金融指引 Ch2) (對應能力 K10, K11, K12, S08)
沒有找到符合條件的重點。
↑