近日，日本三菱日聯銀行（三菱UFJ銀行）在一場活動上揭露內部如何運用生成式AI提升向企業客戶銷售產品的效率，並且，透過一步步加強應用功能，三菱UFJ銀行的AI/ML團隊慢慢發展出一套GenAIOps流程。三菱UFJ銀行AI/ML團隊負責人堀金哲雄表示，內部從今年開始發展一個專門提供給全球市場業務部門使用的GenAI平臺，要用生成式AI，加速該業務部門人員整理和研究企業客戶資料，協助生成企業報表資料，或趨勢分析草稿等任務。三菱UFJ銀行全球市場業務，主要協助企業客戶分析金融風險，提供一套顧問服務。這個業務團隊超過2,000名人，服務範圍涵蓋全球100萬名企業客戶。堀金哲雄解釋，這項業務的銷售人員為了協助客戶制訂有效的風險控管措施，往往需要耗費大量時間分析數百、甚至上千頁文件，才能深入了解不同客戶應對的金融市場風險，「可能要花上數小時，甚至數十天的時間。」堀金哲雄也提到，這是一個高度依賴技能的作業流程，「需要多年的經驗才能制訂出合適的解決方案。」為了提高業務員閱讀速度，三菱UFJ銀行AI團隊第一步，先用GenAI快速從PDF和HTML檔案萃取出關鍵資訊。不過，堀金哲雄表示，直接將原始檔案匯入LLM會增加不少處理成本，「特別是HTML檔案中包含許多重要性不高的標籤資訊。」團隊開發了一套數據處理管道，能在檔案匯入 LLM 前自動移除低關聯性的標籤，成功提高萃取關鍵數據的能力。第二步，是要協助銷售人員能共享彼此的想法或邏輯，並生成趨勢分析草稿。在這個步驟中，AI團隊和業務銷售團隊合作撰寫提示詞，不僅如此，三菱UFJ銀行的AI團隊也打造了一個Chatbot，讓銷售人員隨時都能測試提示詞。「業務人員和開發者之間密切合作非常重要，GenAI不僅僅是技術人員的工具，它應該為每個人服務。」堀金哲雄強調，由於銷售人員非常繁忙，因此提供一個易用性高的工具，對於加速業務和技術人員協作提示工程十分重要。完成前兩項步驟後，這項應用已經能協助銷售人員統整資訊和生成草稿。但是，三菱UFJ銀行的AI團隊仍持續提升這項應用的能力。堀金哲雄表示，為了持續改進提示詞，三菱UFJ銀行的AI團隊主要蒐集兩種數據，一種是銷售人員和AI間的對話紀錄，另一種是實際提供給企業客戶的簡報，以及來自客戶的回饋。透過整合這些資料，MUFG銀行的AI團隊持續比對AI生成結果和實際展示給客戶的結果，再根據觀察的結果來改進提示詞。這套反覆改進提示詞的過程，也被堀金哲雄稱為GenAIOps流程。堀金哲雄表示，目前團隊仍是採用人工的方式檢驗 AI 生成內容與期望成果的差距，「但我們的目標是盡可能實現自動化，以協助銷售人員減少更多時間。」目前，三菱UFJ銀行的AI團隊為全球資本市場業務開發的GenAI應用，能在10到20秒內回應銷售人員的提問，同時提供單一企業的趨勢分析和報表資訊。相比過往銷售人員需要數小時到數天準備單一企業客戶的資料，用來撰寫趨勢分析文件，如今，銷售人員平均只需要1至2分鐘，就能單一企業客戶的趨勢分析文件草稿。三菱UFJ銀行為全球資本市場業務銷售人員開發的GenAI平臺名為Marketing DX，使用者只需選擇公司名稱、分析類型以及一些前瞻性數據，平臺左側就會顯示 AI 的輸出結果。使用者也可輸入問題，AI能在 10 至 20 秒內給出答案。(圖片來源:AWS)
