隨著代理式人工智慧（Agentic AI）應用場景愈來愈具體，被業界公認為AI發展的核心主流。這與過去的AI版本有何不同？前國立臺灣大學資訊工程學系教授、玉山金控張智星科技長清楚地界定：生成式人工智慧（Generative AI）可接收問題，並回覆建議，頂多稱得上AI的基本雛型，直到代理式AI問世，才擁有某種程度的「自主權」，能夠根據指令目標方向，自動化完成任務。他舉例說：「以前AI聊天機器人只能對話、給建議，現在只需要一個指令，AI可以幫你完成。」包括撰寫郵件、整理檔案，完成多步驟任務。
試著用擬人化視角看待代理式AI，張智星科技長設想，如果業務開發到法務遵循各個角色，都能被AI代理人接手，就算人類員工休假歇息，AI代理人還能接替，繼續開會調整，加速工作上線的效率。

由於金融業涉及客戶資產、交易安全與法規遵循，每一項AI決策都可能影響民眾權益，因此在導入代理式AI時，不僅追求效率，更必須同步建立治理與風險控管機制。
為了讓代理式AI順利被納入金融圈架構，在金管會主導下，多家指標性金融機構共同組成「金融科技產業聯盟」（TFA），並設立金融科技應用研發、數位金融實務規範、金融科技投資交流及異業生態共創等工作圈，共同推動金融科技發展。
聯盟成員更攜手共建「金融大語言模型」（FinLLM）專案，共同發展「AI管AI」的治理架構，努力發展金融科技應用以及相關實務規範。
在治理架構逐步建立的同時，金融業也開始將代理式AI導入不同應用場景。有金融機構結合生成式AI與代理式AI，讓客戶辦理轉帳、存提款等簡單業務時，可透過文字或語音直接對AI下達指令，大幅縮減臨櫃登打流程；也有業者導入代理式AI框架，訓練金融業務AI代理人（AI Agent），期望未來能協助處理更複雜的金融服務。
國際金融機構則開始部署全天候AI虛擬助手，結合雲端運算與AI模型技術，提供即時的財務諮詢與客戶服務；國內金融機構近年也陸續將代理式AI導入內部作業流程。例如有金融機構已利用AI代理協助資訊彙整，向主管提供市場動態、同業策略及金融投資事件分析，作為決策支援工具之一。
環顧國內金融業，目前代理式AI仍處於發展初期，大多先應用於內部作業流程，以提升工作效率。就目前的觀察，AI代理人仍處於實驗與驗證階段，因此現階段多半負責風險較低、以輔助為主的工作，例如協助進行投資方案的前期驗證（Proof of Concept, PoC）、資安驗證，以及客戶身分確認（Know Your Customer, KYC）等流程，協助金融機構更有效率地完成風險管理。若未來技術持續成熟，預期可望應用於更多金融服務。
像是風險屬性評估、智能徵信報告、公司融資貸後管理等，甚至信貸案件最後的議價階段，張智星科技長認為：「未來代理式AI能勝任的工作，多得不得了！」

理想上，面對客戶在語音客服端提出的各種疑難雜症，金融業都期待能立刻啟動AI代理人，做到「聰明客服」，協助解決問題。這背後卻默默透露一件重要大事：既然AI愈來愈有自主執行能力，該如何讓它「安全」達成階段性任務？
所謂AI代理人的決策，並非像人類憑直覺做判斷，而是根據使用者設定的目標、可使用的規則與權限，以及對情境的分析，逐步決定下一步該採取哪些行動，因此當AI擁有愈多自主決策能力，也代表每一步判斷都可能影響最終結果。然而，若要成為真正的「聰明客服」，AI必須面對各式各樣的客戶需求，並判斷該如何回應或採取後續行動。這些決策是否符合既定規則與風險控管？一旦AI開始幫人類做決定，其實就存在著許多風險。
尤其牽涉客戶買賣資產，若完全交由AI代理人決定將會非常危險！看目前代理式AI發展路線，張智星科技長認為，AI還無法完全自主，必須透過規則與權限管理，在重要流程保留由人類介入確認的機制，也就是常說的「Human in the Loop（HITL）」。例如設定僅使用者能刪除硬碟，或在重要決策前設置點選「同意／不同意」的人工確認門檻。「交由人類做最後決定，才能真正降低風險。」畢竟AI機器人難免有謬誤，現階段AI代理人還必須倚賴大型語言模型，才能清楚知道下一步該怎麼走。

從目前金融業發展來看，代理式AI正逐步從「規劃」走向「執行」，不少金融機構也開始建立各領域的大語言模型與小型專業模型。張智星科技長認為，未來發展可概略分成三個階段：
趨勢1》代理式AI崛起
趨勢2》訓練專家模型
趨勢3》培養負責任的AI
所以很快地，必須正視下一個問題，AI數位大腦該如何被治理、被問責？
以金融圈來說，面對AI代理人趨勢來勢洶洶，雖然已逐步採納AI協助代理蒐集彙整資料，不過對於核心的財務交易操作，仍抱持保守態度；對銀行而言，但凡觸碰客戶資產權益，就算是高風險。
張智星科技長認為，人類必須好好踩住規則權限的底線──不能輕易放手，設防AI理財機器人（Robo-advisor）直接代理完成交易。
「接下來，還必須有一套完整的治理規範，養成負責任的AI，才將風險降至最低。」
為了讓AI在金融業的應用兼顧創新與安全，金管會近年提出AI治理原則，要求金融機構建立風險管理與問責機制，並兼顧客戶權益、系統安全、透明性與可解釋性等面向，希望在推動AI創新的同時，也能降低決策風險，建立值得信任的AI。

以「數位金融實務規範建議工作圈」為例，目前正嘗試將公平、透明等抽象原則，轉換成程式邏輯，也就是常說的「可程式化的AI治理」（Programmable AI Governance），大致可被理解成「AI管AI」。至於AI該如何判斷？又如何串聯技術指標？前期需要許多案例佐證。尤其進入AI代理後，張智星科技長表示：「AI機器人每執行一個步驟，就會形成一個情境，每個情境都存在不同風險。」
為了讓風險評估更符合實際情境，案例最好能涵蓋愈多、愈完整，也具備愈多面向，目前多家銀行共享AI應用情境，做為案例模型，訓練AI從大型語言模型辨識情境、理解客戶意圖，採用適合的指標來評估風險，再透過AI不斷自我修正、重新檢視問題，慢慢養成負責任AI（Responsible AI, RAI）。
眺望代理式AI的未來願景，理想上希望能夠做到「聰明客服」，距目標還多遙遠？張智星科技長概估至少還要2年才能成熟落地。在這之前，他再三強調，「每個重要的決定點，仍要有人來做、有人負責。」