生成式 AI 應用帶來潛在風險,需建立健全的風險管理框架。
- 常見風險識別 (數據洩漏、反向工程、提示詞攻擊、對抗性攻擊)。
- 防範措施 (身份驗證、授權機制、加密技術、差分隱私)。
- 倫理與偏見:需確保訓練數據多樣性、使用去偏見技術、建立透明決策流程、引入第三方評估。
- 法規遵循:遵守資料隱私法規 (GDPR, CCPA)、智慧財產權規範,特別注意高風險場景 (醫療、金融、自駕) 的準確性與可靠性要求。
- 風險管理策略 (分析與應對):
- 風險分析:使用風險矩陣 (Risk Matrix) 評估發生概率與影響程度,確定風險權重。(註: Q8 主要目的)
- 風險應對:
- 風險溯源:審核數據來源合法性、可靠性,確保模型生成過程透明。
- 風險文化:提高員工風險意識,建立報告機制。
- 風險接受:針對影響有限或無法避免的風險,制定應急計畫。
- 風險緩解:採取措施降低風險發生機率或影響 (如數據管理、審查發布)。
- 風險規避:暫緩或停止高風險應用。
- 風險轉移:透過購買保險或外包給第三方處理。(註: Q9 正確答案)
- 持續監控與改進:定期審核策略有效性,並根據情況調整。(註: Q10 正確答案)
確保生成內容品質的措施:
適當標注引用來源。(註: Q8 正確答案)
使用
AI 進行圖像生成時需考慮:
解析度、
版權合法性、
推論時間等。(註: Q1 正確答案)
(來源: PDF Page 3-45, 3-46, 3-47, 3-48, 3-49, 3-50, 3-51, 3-27 Q1 Ans, 3-28 Q8 Ans, 3-53 Q8 Ans, Q9 Ans, Q10 Ans)