過去幾年來，台積電積極邁向全球化製造，統計到2024年，台積電全球有9座12吋的超大晶圓廠、6座8吋晶圓廠和7個晶圓級封裝測試廠，分布在臺灣、中國、日本和美國，員工數也從2020年時的5萬多人，今年達到84,000人，增加了近3萬人。台積電IT發展戰略，從數位轉型邁向全面性的數位卓越，就是為了因應全球化製造的挑戰。
如何將臺灣成功的製造經驗，帶到日本、美國，甚至是歐洲，台積要邁向全球製造，面臨了三大課題，第一是橫跨三大洲的時差，造成人員交流和經驗傳承的困難，尤其是新廠需要培訓大量新人，其次如何因應不同國家、文化、族群帶來的工作型態差異，最後一項是如何轉移複雜的製程知識到跨國廠區。
台積晶圓廠分散全球，橫跨三大洲不同時區，如何促進跨國員工的溝通和傳承，因應不同國家文化的工作型態差異，將複雜製程轉到跨國廠區都是挑戰。（圖片來源／台灣積體電路製造股份有限公司）
在今年台積IT日活動中，台積IT揭露如何從四大方向提供方案，來解決台積全球化製造的課題，更用生成式AI來克服這些課題背後的三大挑戰。
台積IT因應全球製造的第一個方向是「AI強化自主化製造」。目標是讓工廠製造，更全面地自動化和自主化，減少人為介入，讓所有工廠、生產盡可能靠IT系統來處理。第二個發展方向是「善用邊緣運算即時反應和防禦」，若能即時搜集全球各地工廠最細緻的資料，就能即時反應，也能協助當地員工處理。
第三個IT解決方向則要打造「現代化數據平臺，推動數據驅動決策」。隨著資料量越累積越多，工廠也升級到更高程度的自動化作業後，工程師需要處理的問題其實更加的複雜，因此，需要一個數據平臺和分析平臺，協助產線工程師更有效地分析工廠狀況。最後一個方向是，「靠IT打造更好協作的數位工作環境」，讓全球員工串連到單一平臺中協作，消弭跨地理區域、跨組織的邊界。
台積IT從四個方向發展IT解決方案，來因應全球製造的三大難題。（圖片來源／台灣積體電路製造股份有限公司）
為何台積IT特別重視運用AI來強化自主製造？因為台積電的半導體製造發展了二三十年，在工廠自動化，從傳送、搬運到派貨作業，都已經做到極致。幾年前，台積更導入大數據和機器學習演算法，一天可以自動派工上百萬張工單，也能同時兼顧生產力、良率、品質和生產周期來做最佳化。透過工作流程自動化，可以自動處理許多重複性的人工作業，也能用AI偵測設備錯誤，協助故障排除。
台積電已經善用AI來強化半導體製造，從工廠自動化、工作流程自動化、設備控制等都大量運用AI，但還是許多傳統AI技術難以解決的課題，需要真人工程師處理。（圖片來源／台灣積體電路製造股份有限公司）
但是，產線仍有許多情況，需要靠真人工程師處理。最困難的挑戰是，如何用AI捕捉半導體生產知識，特別是要將資深工程師處理複雜問題的多年經驗，傳承給其他國家的工程師，讓全球各廠的製造知識可以對齊，這是台積目前最積極想解決的課題。要靠AI強化自主化製造，其中的關鍵技術之一，就是現在熱門的生成式AI技術。
全球擴廠這三大難題，台積IT要用GAI來因應
台積IT這兩年大力發展生成式AI應用，其中就包括了用來因應前面提到的製造全球化、工廠分布全球的三大難題，分別是技術知識交換的挑戰，跨語言和文化的理解門檻，以及新人培訓和上手成本昂貴的問題。
專業知識交換挑戰、跨語言和文化的理解門檻，新人培訓和上手成本昂貴，這是台積全球擴廠當前的三大難題，而且會互相影響。（圖片來源／台灣積體電路製造股份有限公司）
因為半導體生產知識高度複雜，光是在臺灣跨廠區交換就有一定的挑戰，更何況全球化擴廠要將製造知識交換到不同國家的廠區，這是第一個難題，再加上不同國家的語言溝通也是挑戰，擴廠更暴增了大量新人需求，如何提供更有效率的培訓，這些都是台積當前的難題。
跨廠交換知識的痛點是，這些專業知識過去分散各自獨立，而且因為缺乏集中式保存，可能隨著時間而流失。一座成熟的晶圓廠有大量複雜的技術性知識，轉移到跨國新團隊的效率很慢且代價昂貴。部分知識的文件和標準作業流程甚至有時效性問題。員工要在如此龐大且分散的知識文件找到特定資料，也非常困難。
台積IT分三階段打造知識管理系統
台積IT花了不少時間，用生成式AI打造一套知識管理系統，可以提供知識建置（結構化和集中化）、知識管理及知識運用，也在這次台積IT日活動分享背後的實戰經驗。
台積IT分三階段運用生成式AI，來打造出自己的知識管理系統，因應三大難題。（圖片來源／台灣積體電路製造股份有限公司）
在知識建置階段上，知識管理平臺最好採取集中式的線上共同編輯平臺，而非像過去分散儲存在個人硬碟。台積要實現知識共同編輯的困難是，累積幾十年的檔案不只量大而且格式非常多樣化，得先將這些文件格式標準化，AI才能進一步介入。從實際經驗中，台積IT最推薦的標準格式是Markdown格式，因為這是對AI最友善的資料格式。針對不同領域的知識，台積IT也預先定義了各自適合儲存知識的文件範本。
而且不只要靠真人共編產生知識，人與系統的協作過程，也非常值得保留，像是人員進行系統分析或處理告警背後的數位足跡。台積IT也有一套系統化的知識捕捉機制，運用AI來抽取每一個應用系統中，員工日常工作中的常見用法。
為了提高RAG應用的回答品質，台積IT用AI設計一個品質檢查模組，可以提醒哪些內容的品質不夠好，AI還會提供修正建議，來確保知識的正確性和一致。
第二階段是知識管理階段，這個階段的第一要務是權限控管。針對每個員工、不同單位和特定團隊各有不同的存取權限，而且是採取最小必須知道原則（Need to know），只授權這個團隊給予最少需要的知識權限就好。再來，還要有一套知識品質確保流程，尤其是正式或組織性的文件，得有一套簽核流程，讓相關利害人員來確保文件的品質。為了提供使用者更友善的搜尋方式，建置這些知識時，還要設計一套標籤與後設資料欄位。還有一點很重要，台積IT自己的經驗發現，KM要建立系統性的自動確認機制，定期檢查和註記哪些知識已經過時。
有了這一套知識管理系統和內容後，最後一個階段就是要知識應用階段。現在非常成功且廣泛使用的RAG（檢索增強生成）做法只是台積知識管理應用的起點，像是設備AI、流程AI、良率AI都可以善用知識管理系統來優化。
像是工程師有知識需求時，系統自動觸發搜尋，找出過去處理機臺問題、製程告警、良率下滑等問題的做法，結合AI代理呼叫其他工具來提供改善建議，在真人工程師介入下執行，甚至可以授權自動執行部分較無風險的行動等，有了一套好的知識管理系統，可以發展出很多延伸的知識應用方式。
善用知識管理時，還要考慮使用者資訊行為的差異，像是針對重度搜尋需求、重度摘要需求、深度研究搜尋這三種資訊需求的使用者，彼此的資訊行為差異很大，使用者體驗的設計也會截然不同。RAG模式很適合需要摘要的場景，但若是需要大量深入研究的情境，則需要不一樣的設計考量。
台積IT產品經理打造這類知識運用類的應用時，會採取JTDB（Job-To-Be-Done）原則，以「用戶需要完成的任務」為優先，來設計用戶體驗，而不是跟著潮流一定要用Chatbot形式。
如何善用知識，台積IT還分享了一項寶貴的實戰心法，必須打造出一個知識的資料飛輪，在知識、App跟人之間要形成一個互動的閉環關係（close-loop）。
舉例來說，製造業常見做法是設立值班中心來處理告警的工單，每一張工單解決後，也會留下數位足跡。可以用GAI分析這些數位足跡提供改善建議，真人參考建議來處理後，會再次留下數位足跡，又可以成為新的GAI資料來源。讓這些知識自動在原本的工作中，逐漸累積下來，才可以讓整套KM系統可長可久。
台積GenAI知識管理系統的六大核心技術
台積IT首度公開了這套生成式AI知識管理系統的核心技術架構，包括六大類技術。包括了基礎模型、模型微調客製化技術、RAG和各種代理技術框架、知識捕捉和處理機制、知識儲存和呈現機制、LLMOps和監控技術。
台積IT運用生成式AI打造知識管理的技術架構，主要有六大類技術。（圖片來源／台灣積體電路製造股份有限公司）
第一類核心技術是基礎模型，像是商用或開源的LLM、VLM或LMM等，台積IT只用達到SOTA等級的模型來測試，減少因模型能力不足的干擾。第二是要有一套模型微調客製化技術，可依據不同應用來優化模型。第三類技術是RAG和各種代理技術框架。
第四類核心技術則要有一套知識捕捉和處理機制，像是ETL處理流程、OCR技術、NLP技術、文件排版分析等，才有能力將既有資料整理成AI看得懂的形式。知識捕捉後，要搭配一套知識儲存和呈現機制，像是向量資料庫、知識圖譜（Knowledge Graph）、知識萃取層等機制，這是第五項核心技術。最後還有一套LLMOps和監控技術，包括模型生命周期的管理工具和系統效能監控機制，尤其日後越來越多AI代理的互動，API和LLM間的互動會更加複雜，需要及早建立一套監控機制。
透過這套用GAI打造的知識管理系統，不只能降低知識查找時間，也可以大幅縮短SOP標準作業流程的建立和更新周期，也會提高知識管理系統的採用，GAI助手可以加速員工解決問題的時間。更重要的，台積IT覺得用GAI輔助KM最重要的價值是，可以更完整地保留企業的核心知識資產。
除了因應跨廠知識交換難題外，全球製造的第二個挑戰是如何強化全球跨廠的溝通。這類的溝通門檻，包括了不同語言的隔閡，不同文化細微的差異和文件內容的在地化，最費工的是第三項。
現在的GAI技術，可以做到開會溝通用的即時口譯和文本翻譯，也能因應不同文化的細微差異，對文本或語音內容提供調整建議，來輔助跨國員工彼此的溝通。但是，對GAI來說，文件內容的在地化的技術難度，比前兩項更難，更費工，但卻是非常大的需求。
因為台積許多部門，都有大量文件翻譯需求，營運部門有大量機臺操作手冊，供應鏈文件，標準作業程序文件等，需要翻譯成英文、德文、日文等不同國家的語言。人資部門也有許多公司政策、薪資酬勞制度需要翻譯，連IT部門都有許多系統的操作技術文件需要翻譯。或像是大量新人培訓影片，不只字幕，連聲音都需要翻譯。
翻譯最大的挑戰是特定領域用語，越是高度專業的領域，翻譯的難度就越大，半導體製造就是這種高度專業的領域，甚至台積有許多內部專業術語，翻譯的挑戰更大。
讓LLM更懂專業術語的關鍵，要有一套系統性的術語管理方法
台積內部專業術語主要有四大類，第一是製造專業術語，如FinFET指鰭式場效電晶體。第二是內部自訂用語，像是平臺工程處簡稱PLED。第三類則是半導體製造領域的慣用語（Idioms），像是「產品ramp up」指產品進入量產階段。最後一類是行話(Slang/Jargon），像是「洗衣板」指波浪形石墨，「卡哩卡哩」不是零食而是五金工具的棘輪扳手。
要訓練GAI模型來理解這四類專業術語的難度，各有不同。第一類產業專業術語的難度最低，外部已有大量這類知識可用，第三類領域慣用語是所有半導體廠都會使用，LLM訓練難度居中。第二類內部自訂用語和第四類行話的訓練難度最高，因為這類資料最少，甚至台積內部有些單位有自己偏好的行話。GAI最難翻譯的就是內部自訂用語和行話這兩類術語。
用LLM來理解台積四類專業術語的難度各有不同，內部自訂用語和部門行話，因為資料量最少，LLM訓練難度也最高。（圖片來源／台灣積體電路製造股份有限公司）
台積IT第一步先建立一個企業術語資料庫，來統一和維護這些用語。不只鼓勵員工提報、部門定期盤點擴充，也會用AI探勘文件來搜集。也有一套標準化的術語定義文件和結構化的標籤和分類，像是按照組織，製程，業務流程來分類，或是標記出術語的生命周期，也有一些優化進階搜尋或語意連結用的關鍵詞。尤其一些專業領域行話會有過期問題，需要這些術語的可用狀態，像是活躍，等待審查，歸檔等，還要搜集這些術語的同義詞關係。
台積IT用AI發展出了一套系統性管理行話（Jargon）的做法，主要有四大步驟。（圖片來源／台灣積體電路製造股份有限公司）
建立了一套集中式，可以動態更新的企業術語資料庫還不夠，台積IT還搭配了一套細緻的使用權控制。因為不同部門的有些行話，可能屬於機敏性內容，因此，這個內部的企業術語庫，也需要角色權限控管（RBAC）機制，提供更精細的術語存取控制。使用者查詢這些行話時，還會依據他的權限來呈現個人化的檢視畫面，更搭配AI主動推薦用戶所從事活動的相關數據。行話會隨著使用過程和技術發展產生變化，術語資料庫也具備版本控管，可以追蹤行話的演變。
有了這樣一套企業術語資料庫後，就可以結合生成式AI來優化專業文件的翻譯準確度和效率。
一般常見優化專業用語翻譯的做法是微調大型語言模型，但不同部門對於行話會有各自的安全控管策略，機敏行話不適合用來訓練通用模型，成本考量上很難為不同部門微調專屬模型版本。
第二個常見翻譯做法是用提示指令輸入專業用語來改善翻譯品質，但遇到成千上萬個用語時，就難以用提示工程來輸入所有術語。
台積IT推薦的是第二種做法的改良版，先即時查詢翻譯目標句的相關術語庫，再將少量的相關用語以提示指令的方式，輸入大型語言模型來翻譯，就可以解決大量半導體製造的行話翻譯挑戰，他們形容這是搭配核心檢索策略的翻譯優化（Retrieval as a core strategy）。
有一套系統性的翻譯做法，還需要建立持續改進的文化和流程。台積設立了一個企業術語委員會，定期檢視這些用語的更新和淘汰，來確保品質。也提供員工通報機制，來搜集新出現的行話，提高翻譯能力的新穎度。
半導體製造是一個高度專業化、技術密集的產業，台積內部所用的溝通語言，非常的多樣性和複雜化，台積IT希望建立一套專業術語的管理做法，在正式的文件或會議上盡量採用標準的說法，來消弭全球跨廠溝通的藩籬。
如何用GAI解決大量新人培訓難題，靠四層次的金字塔策略
全球擴廠三大難題的第三項，也就是台積IT也想用GAI攻克的挑戰是，大量新人培訓。目前，台積新人從上手到可以進入生產環境作業，需要一段很長的時間，不同單位的訓練教材可能不一致，培訓路徑難以個人化，再加上，資深人員需要花很多時間撰寫教材和帶新人。這些都是新人培訓常見的挑戰。
.jpeg)
台積IT未來希望用生成式AI打造一個新人的隨身教練，可以全天候解答各種問題。另外，也能用生成式AI從企業知識管理系統中，自動產生互動式培訓教材，提供資深人員參考和修改，不用從無到有自己寫。進一步再搭配AR/VR設備提供逼真的模擬培訓環境，在辦公室就能操作，來降低培訓成本。搭配這些數位化的培訓做法，就可以依據員工背景、職位和學習效率等，來量身定做各自的學習路徑。這是台積IT善用AI來培訓新人的金字塔策略。
台積早在兩年多前就開始大量運用GAI，這些善用GAI解決全球擴廠三大難題的做法，只是台積IT運用GAI的一部分，他們下一階段更計畫雙倍加碼AI，要讓AI應用到更深、更廣、更多的半導體製造和業務場景中。
繼續看更多【台積電IT卓越新戰略】
【台積電IT卓越新戰略1】台積IT數位轉型下一步，四大原則加速邁向數位卓越
【台積電IT卓越新戰略2】台積IT怎麼用GenAI?生成式AI發展路線圖首度大公開
【台積電IT卓越新戰略3】全球擴廠三大難題，台積IT如何善用GenAI因應的關鍵（超長文)
