iPAS AI應用規劃師考試重點整理 - L12202 如何善用生成式AI工具

#1

★★★★★

認知生成式AI工具的能力強項

核心概念

善用工具的第一步是了解其擅長之處。常見GenAI (Generative Artificial Intelligence) 工具的強項包括：

文本生成：撰寫文章、郵件、報告、創意寫作等。
內容摘要：快速提煉長篇文章或文件的重點。
問答系統：回答基於其訓練數據的問題。
程式碼生成：輔助編寫或除錯程式碼。
圖像生成：根據文本描述創作圖像。
翻譯：進行多種語言之間的翻譯。

(公部門手冊P8)

#2

★★★★★

理解生成式AI工具的限制與風險

核心概念

有效使用工具必須認識其限制：

幻覺 (Hallucination)：可能產生不實或捏造的資訊。
偏見 (Bias)：可能複製或放大訓練資料中的偏見。
時效性：知識可能停留在訓練資料截止的日期，無法得知最新資訊。
缺乏常識與深度理解：主要基於模式匹配，而非真正理解。
一致性問題：對相同問題可能產生不同回答。
安全與隱私風險：輸入的資訊可能被用於再訓練或外洩。

(公部門手冊P9, P78-79; 金融業指引P12)

#3

★★★★★

提示工程 (Prompt Engineering) 的基本原則：清晰明確

核心概念

為了讓GenAI工具產生期望的輸出，輸入的提示 (Prompt) 必須清晰且具體。避免使用模糊、歧義或過於簡短的指令。應明確說明任務目標、期望的格式、語氣、目標受眾等。

#4

★★★★

提示工程技巧：提供上下文 (Context)

核心概念

在提示中提供相關的背景資訊或上下文，可以幫助GenAI更準確地理解任務需求，產生更貼切、更具體的內容。例如，要求撰寫信件時，提供收件人背景、信件目的等資訊。

#5

★★★★

提示工程技巧：指定角色 (Role) 與格式 (Format)

核心概念

明確指示GenAI扮演特定角色（例如：扮演一位專業編輯、一位行銷專家），可以引導其輸出的語氣和風格。同時，指定期望的輸出格式（例如：點列式、表格、JSON格式）有助於獲得結構化的結果。

#6

★★★

提示工程技巧：使用範例 (Examples) - 少樣本學習 (Few-shot Learning)

核心概念

在提示中提供一或數個輸入與期望輸出的範例，可以讓GenAI工具學習任務模式，對於較複雜或特定格式的任務特別有效。這利用了大型語言模型的少樣本學習能力。

#7

★★★

提示工程技巧：迭代優化 (Iterative Refinement)

核心概念

很少能一次就寫出完美的提示。有效的做法是從簡單的提示開始，根據GenAI的輸出結果，逐步修改、增加細節或調整指令，反覆試驗，直到獲得滿意的結果。

#8

★★★★★

驗證生成內容的事實準確性

核心概念

由於幻覺風險，絕對不能完全相信GenAI生成的內容，尤其是涉及事實、數據、專業知識的部分。使用者有責任對生成的內容進行事實查核 (Fact-checking)，透過可靠的來源（如官方網站、學術文獻、專家諮詢）進行驗證。(公部門手冊P9, P66)

#9

★★★★

評估生成內容的相關性與品質

核心概念

除了事實準確性，還需評估生成內容是否切合提示的要求、邏輯是否清晰、表達是否流暢、風格是否適當。對於程式碼，需評估其功能正確性、效率和安全性。對於圖像，需評估其視覺效果和原創性。

#10

★★★★

運用檢索增強生成 (RAG) 提升可靠性

核心概念

檢索增強生成 (RAG - Retrieval-Augmented Generation) 是一種結合外部知識庫（例如組織內部文件、特定領域資料庫）與GenAI模型的技術。在生成回答前，先從知識庫中檢索相關資訊，再將這些資訊提供給模型作為參考，能有效減少幻覺，提高回答的準確性和時效性，並能引用來源。(公部門手冊P9, P48)

#11

★★★

善用工具進行內容摘要與重點提煉

核心概念

將長篇報告、會議記錄或文章輸入GenAI工具，要求其生成摘要或列出關鍵要點。設計提示時可指定摘要的長度、重點面向（例如：找出主要結論、行動項目）。注意驗證摘要是否準確反映原文核心內容。

#12

★★★

利用工具輔助寫作與潤飾

核心概念

可利用GenAI進行草稿撰寫、內容擴寫、語句潤飾、風格調整（如改為更正式或口語化的表達）。提供清晰的寫作目標、關鍵字和期望風格，並對生成內容進行修改和編輯，確保其符合要求。切勿直接複製貼上，仍需人工把關。

#13

★★★★★

使用工具時的資訊安全意識：避免輸入敏感資訊

核心概念

絕對禁止在使用公開的GenAI工具（如ChatGPT免費版）時，輸入任何個人可識別資訊 (PII)、機敏業務資料、公務秘密或內部文件內容。這些資訊可能被服務提供商用於模型訓練或因安全漏洞而外洩。應優先使用經過組織核准、有安全保障（如內部部署、具備合約規範）的工具。(公部門手冊P78-79; 金融業指引P15)

#14

★★★★

注意提示注入攻擊 (Prompt Injection Attack) 的防範

核心概念

理解提示注入是攻擊者透過惡意設計的輸入，企圖操控AI行為。善用工具時，對於來自不可信來源的文本，應避免直接將其作為提示的一部分輸入。對於自己設計的應用，需考慮對輸入進行過濾和驗證。(公部門手冊P78)

#15

★★★★

負責任使用：明確標示AI生成內容

核心概念

在使用GenAI生成的內容（尤其是對外發布時），應適當揭露其來源，讓讀者知曉部分或全部內容由AI輔助生成。避免將AI生成內容偽裝成人類原創，這有助於維持透明度和建立信任。(公部門手冊P67, P75)

#16

★★★

尊重智慧財產權與避免抄襲

核心概念

GenAI生成的內容可能基於受版權保護的資料。使用者應避免直接複製貼上生成的內容用於正式發表或商業用途，除非能確認其原創性或已取得授權。應將AI視為輔助工具，最終產出仍需經過人類的修改、重組與原創性貢獻。

#17

★★★

保持批判性思維

核心概念

即使GenAI工具非常強大，使用者也應保持獨立思考和批判性判斷能力。不應全盤接受AI的建議或產出，需結合自身專業知識和經驗進行評估。了解工具的限制，知道何時該質疑其結果。

#18

★★

持續學習新工具與新技巧

核心概念

GenAI技術發展迅速，新模型、新工具、新應用不斷湧現。有效的善用者需要保持開放心態，持續關注技術發展趨勢，學習新的提示技巧和應用方法，以最大化工具的效益。

iPAS AI應用規劃師 考試重點

iPAS AI應用規劃師考試重點