「每月的高階主管會議，我都得向董事長報告GenAI效益。」華南銀行副總經理陳晞涵說：「最新數據是，產生50多名數位勞動力，相當於一年千萬元的價值。」

2022年，華南銀行啟動數位轉型計畫，儘管起步稍晚，但他們正積極追趕，甚至成為生成式AI的先前者。在華南，生成式AI成了高層最關注的一項技術。每個月，統籌金融科技與資訊系統發展的陳晞涵，都得在高階主管會議中，更新這項技術的推動情況。

甚至，「等不及我的報告，總經理就天天敲門問我，生成式 AI 的進度如何」高層的關注，讓他們更積極的投入。早在去年6月，華南銀行就開始發展生成式AI，5個月後公開了導入生成式AI原則和藍圖。

華南生成式AI戰略不靠自建LLM

華南銀行兵分兩路發展AI，一條路線是延續傳統的機器學習，包含華南自行開發的AI防詐模型、防洗錢模型，和客戶貼標模型等，另一個新方向則是生成式AI。

如何發展生成式AI，「我們很快就決定要上雲端。」陳晞涵解釋，規畫初期評估後發現，落地型生成式AI系統的初期基礎建設成本十分龐大，光是GPU運算叢集，就需要2,000萬至6,000萬元不等。「初期開銷龐大，卻沒辦法展現效益，對科技長或資訊長而言，都會是辛苦的過程。」陳晞涵說。

不只考量成本，人才也是一大考量因素。陳晞涵解釋，訓練模型，除了昂貴的設備，還得設法招募懂得調教LLM人才，「這並不實際。」他坦言，目前這類人才稀缺，即便勉強找到人，也可能快速被挖角。因此，他更傾向和雲端業者合作，才能更專注在GenAI應用開發。

去年6月，華南銀行和雲端廠商完成簽約，運用地端AI平臺介接雲端LLM，三個月後，華南銀行內部完成了第一支GenAI服務的POC驗證，連接各部門的數據和文件，提供一站式的知識管理平臺服務，並在去年12月正式上線。目前，這個知識管理平臺上架了兩本實務手冊，分別是人資和存匯實務手冊，涵蓋了這兩類作業最重要的參考資訊。陳晞涵表示，今年預計再上架5本實務手冊，包括財富管理產品資訊，和授信相關內容。

生成式AI雙軌應用模式

華南銀行生成式AI發展還細分成兩種應用模式，第一種是AI平臺應用，包括去年12月正式上線的知識管理平臺，今年第四季預計上線多國語言翻譯功能，和語音轉文字服務。

針對知識管理平臺服務，陳晞涵解釋，過往傳統上，銀行內部實務手冊多以PDF形式供員工查閱，例如，人資工作須知、存匯作業流程、手續費規定等。這類文件動輒數百頁，行員手動翻找規範時，往往需耗費不少時間。因此，華南想到的第一項生成式AI應用，就是知識管理。他們將內部實務手冊等文件導入雲端生成式AI平臺，由LLM進行摘要和應答，供行員快速查找相關規範。

「剛上線、不做任何調教，就有六成左右準確率。」陳晞涵指出，在開發初期，團隊僅將文件上傳，就已展現不錯的應答能力。為了進一步優化，團隊設計了回饋機制，讓員工標示無幫助的回答內容。上線初期，標示無幫助的訊息比例約15%，隨著模型持續調教，這類訊息的比例降至3%至5%，目前，知識管理平臺準確率也提升至約九成。在平臺使用量上，陳晞涵也表示，每月互動量超過1萬筆，半年以來累積總查詢也達到6萬筆以上。

除了用於優化平臺，知識管理平臺的回饋機制，也成為改善實務手冊資料的依據。陳晞涵解釋，團隊重新檢視被標示無幫助的實務手冊內容，發現部分資料存在錯誤或矛盾。例如，同樣是颱風天作業規範，卻因前人和後人分別書寫，導致規範內容前後矛盾。因此，華南也建立一支小型團隊，負責將需要精進的內容分派到不同業管單位，讓各單位自行修改知識內容。

起初，華南僅聚焦在通用型應用，挖掘適合全行8,000名員工使用的服務。不過，隨著應用取得一定進展和效益後，華南今年開始發展第二軌生成式AI應用模式—AI代理人（AI Agent），包括生成產經徵信研究、授信報告，和投資研究報告，或是使用GitHub Copilot來輔助IT人員。

陳晞涵坦言，AI代理人應用模式尚在實驗階段，團隊已啟動多項嘗試。例如，針對銀行授信人員需要撰寫的產經研究下手，從網路上取得鎖定研究的產業領域資料，來自動生成報告。不過，「到上月為止，我們認為不太成功。」陳晞涵解釋，由於模型從網路抓取的雜訊過多，導致報告品質不穩、內容不夠精準。為了解決這個問題，最近，他們開始轉變作法，改以華南內部訂閱的高品質資料作為模型素材，例如專業財經資訊源或信評機構等資訊服務平臺。

授信報告和投資研究報告生成，是陳晞涵看好的AI代理人應用場景。他表示，團隊目前積極尋找其他AI代理人應用，「提供模型部分資料後，讓模型協助生成一份報告，或是提供某份報告的回應。」陳晞涵預計今年底舉辦全行黑客松，希望能產生8至10件AI代理人落地案件。

華南目前較成熟的AI代理人應用，是採用GitHub Copilot來輔助IT團隊。陳晞涵表示，目前IT團隊已訂閱這項工具，應用在弱點修補、系統手冊撰寫，和生成測試腳本。

他解釋，過去IT人員需要花費許多時間處理弱點，而Copilot應用能根據程式上下文，自動提出修補建議，且多數建議內容幾乎可直接套用。不只如此，陳晞涵表示，過往少數IT撰寫的系統手冊品質較低，甚至完全忽略撰寫註解，導致後續維運不易。Copilot能自動分析程式碼來補充註解。最後，華南IT也運用Copilot生成測試腳本，從原先的人工測試，改為AI輔助測試。

陳晞涵粗估GitHub Copilot的投資報酬率，每投入1元的成本，可帶來7到9元的回饋。所以，華南準備擴大規模，預計再添購至少70至100套授權供IT團隊使用。

生成式AI應用方向：輔助人員、資料生成為主

相較於優先發展AI的金融同業，華南銀行偏向將AI定位在輔助員工工作，「更像是一名內部超級助理，而非主要執行者。」陳晞涵認為，以AI現今的穩定度而言，「還難以單獨依賴AI來完成任務。」因此，華南發展的生成式AI應用方向，更著重在輔助現有系統或人員，協助生成部分資料，而非發展代理型AI。

延續這個應用方向，華南進一步根據生成式AI擅長的任務，來尋找應用場景。陳晞涵認為，生成式AI的潛力，是能進行資料蒐集、推理，和依樣化葫蘆，「只要提供足夠的訓練資料，就能生成類似作品。」他解釋。例如，華南正在發展一款授信助理，就是一個可以同時發揮三項潛力的應用場景。當行員要撰寫客戶的授信報告時，只要內部有客戶的完整資料，或是擁有和客戶業務型態、規模相似的授信報告資料，生成式AI就能依據這些過往資料，協助行員生成相似的報告內容。

除了根據生成式AI潛力來評估應用場景，華南也用了「數位勞動力」概念，來衡量每一項AI應用帶來的效益。陳晞涵舉例說明，若要立刻關閉華南所有AI工具，必須額外增聘約50人，才能處理相同工作量，就等於這些AI工具可以帶來50名數位勞動力。「並不是真的取代人，而是看AI創造了多少數位員工。」他解釋，還可以進一步換算出產值，一個作法是將人力換算成薪資，「一年大概有千萬元的效益。」陳晞涵說。

未來，華南預計會發展更多AI代理人應用，例如授信審核和履歷資料審核助理，前者協助審核員建立一致的授信文件審核標準，後者則是輔助人資從大量履歷資料中篩選合適的求職者。

在基礎建設上，為了更方便透過API存取內部訓練資料，華南也正在建立物件型儲存空間（object storage），來提升既有資料架構。

針對生成式AI技術發展，陳晞涵表示，他正在密切觀察小型語言模型的發展，關鍵是，「要分辨出，哪些才是真正可以落地的模型。」他強調。文⊙李昀璇