【因應GAI啟動集團AI 2.0戰略布局】中華電信打造AI虛擬助理提升千萬客戶服務品質

身為國內老牌電信公司，中華電信約2萬名員工中，其中不少是中高齡的資深員工，他們正面臨一波龐大的員工退休潮，光是2023年，退休員工超過1,300人，更有4千人將在5年內屆齡退休。大量有經驗的員工退休，如何補充新血，傳承經驗是一大難題。如何提高員工生產力，成了中華電信持續成長的重要挑戰。

中華電信這幾年致力於運用科技，提升員工生產力、內部營運效率，例如5年前他們啟動新一波策略轉型，業務及組織面調整，從電信供應商角色，轉型為以客戶為中心，畫分個人家庭、企業、國際三大分公司，並整合集團資訊及技術研發資源，支援業務發展。在IT方面，也通過資訊系統改造，向現代化、雲化發展，降低成本，增加資源彈性運用，加快軟體開發、更版、部署，推出資通訊服務來迎合市場需求。

中華電信也導入數位科技來提升營運效率，由於旗下業務涵蓋行動網路、固網、寬頻上網、市話、MOD、海纜、衛星等眾多通訊業務，這些業務更擁有數百萬，甚至上千萬用戶，龐大的用戶需求帶來大量工作負擔，因此在E化、M化後，自動化、智慧化是這家老牌電信公司下階段發展的重要目標，一方面提高員工生產力，提升整體營運效率，一方面克服退休潮及新進人員可能帶來的經驗傳承不及問題。

AI就是中華電信近幾年積極導入的新科技，作為老牌電信公司，中華電信的AI發展史可以分為5個階段，第一階段從1950到1990年，以規則為基礎，從1991年到2009年開始以統計方法為基礎的大數據分析應用，2010年到2017年，中華電信開始投入發展神經網路的監督式學習，這些都是中華電信自己形容是AI 1.0的應用，舉凡運用AI模型辨識語音、文字、影像，例如語音轉文字、文字轉語音技術，還有準確辨識影像中的車牌號碼、人流、人臉辨識等等。

2017年到2021年發展語言模型，包括預訓練、參數微調，2023年則從AI 1.0向2.0發展，也就是生成式AI。

成立AI策略委員會，從AI 1.0進化到2.0

去年7月中華電信總經理林昭陽上任後，曾多次對外表示看好生成式AI的應用潛力，2023年更成立AI 2.0企業策略委會員，推動全集團的AI 2.0策略布局。

該委員會由中華電信管理高層擔任，由董事長督導，總經理擔任主委，4位總公司執行副總擔任委員，顯示集團對於GAI應用發展的重視。策略委員會底下又分為業務及技術推動兩大分組，其中技術推動組涵蓋技術、平臺、資料、治理4個小分組，業務推動組分為業務及應用兩個小分組，對內推動AI 2.0應用擴散，提升員工業務效率，內服外用，進而對外提供相關服務。

中華電信在2023年下半年設立AI 2.0企業策略委員會，啟動集團的GAI布局，該委員會由董事長督導，總經理擔任主任委員，大力推動GAI的技術、業務應用。其中技術包含治理、資料、平臺及技術，業務應用則推動內部GAI應用及外部服務。（圖片來源／中華電信）

在AI應用之前，需要先擬定原則，因此該委員會也參考國內外的相關規範，包括行政院提出的公關機關生成式AI應用規範等，訂定AI治理原則，例如透明、不可侵權、可回溯性等等，這些原則不只作為中華電信內部AI治理準則，也涵蓋提供外部客戶的AI相關服務。

中華電信執行副總經理兼技術長黃志雄認為，過去使用的辨識型AI由於並非多模態，且需要專家訓練，多為單一領域的應用，而生成式AI的創作能力帶來更大的想像，其應用幾乎涵蓋產銷人發財，各行各業幾乎都能夠使用，應用的潛力更為廣泛。

全力發展AI算力、平臺到應用

「IT轉型是打造數位神經系統，AI則是這個數位神經系統的大腦，通過以AI作為數位神經系統的大腦，強化我們內部營業效益或是對外業務擴展，帶來非常突破性的進展」，黃志雄說明，AI在中華電信轉型過程中的重要性。

中華電信從3個層次推動，在底層的基礎建設層次，建置內部或外部可以使用的GPU as a Service，即AI算力雲，而在IDC方面，中華電信也規畫因應企業建置AI機房的需要，計畫建置AIDC機房，提供代建代維。

至於中間的平臺層次，廣泛支援各種開源或付費大型語言模型，近幾年中華電信號召相關的人才加入，提高對大型語言模型的深度瞭解，以推薦客戶適合的模型，可運用多年累積經驗，協助調校大型語言模型參數。

首先發展智慧客服等6項GAI 應用

而在上層應用方面，發展各種垂直領域的AI 2.0內外部應用，中華電信設立AI策略委員會後，提出6個觸媒計畫發展GAI應用，這6個子計畫包括智慧客服、智慧櫃臺、法律助理、SDLC、M365 Copilot、算力雲，其中智慧客服與智慧櫃臺主要提升客戶服務能量，法律助理則是協助法務人員撰寫法律契約，M365 Copilot則提供員工個人生產力。中華電信期望通過6項生成式AI應用能夠快速見效，並吸引更多內部單位加入，進一步擴散應用。

以客服為例，中華電信現有2千多位客服人員，24小時服務上千萬行動用戶、數百萬寬頻用戶、近千萬市話用戶，如此龐大用戶為客服帶來相當大工作負荷，客戶提出的需求五花八門，可能是與帳務有的問題，或是某個服務的申請或技術障礙解決有關，不只是用戶，非用戶也會進線提出問題，例如舉辦行銷活動，造成短時間內大量客服電話進線，這些都增加客服工作量。

為了減輕客服的工作負擔，他們在幾年前就發展問答機器人，推出智慧文字客服，讓民眾的問題可以透過問題機器人完成，來提高用戶的自助服務率，而不需進到真人客服。現在，他們更進一步結合生成式AI，在客戶與客服對談中理解客戶的意圖，針對客戶的問題找到相關資訊，並且協助客服人員妥善應答處理。

中華電信董事長郭水義也曾對外說明自家的AI 2.0應用，他以智慧客服作為範例，整合AI知識庫Copilot技術，以生成式AI模型，加上Prompt Engineering，AI訓練師建置和更新知識庫，縮短7成的人工建置時間。

另外，在軟體開發方面，他們也應用生成式AI在軟體開發生命周期（Software Development Life Cycle,SDLC），以軟體開發的前期為例，訪談客戶的需求後，過去人員要撰寫客戶需求書、系統規格書等，主要以人工登打，現在透過生成式AI輔助生成需求書、規格書，縮短花費的時間。

不只是軟體開發的前期規格文件，程式碼撰寫方面，他們也利用生成式AI虛擬助理來協助，例如AI虛擬助理生成網頁，AI虛擬助理依照開發人員的要求調整，再生成Code，送到測試環境，再來回調整優化。

中華電信資訊技術分公司總經理楊慧琪表示，今年中華電信才開始運用生成式AI在SDLC，用於提高軟體開發生命周期各階段的工作效率，目前測試結果獲得不錯的反應，具體的效益還有待時間來驗證。在SDLC整個流程試著導入生成式，目標是將整個生命周期的工作效率提升30%以上。

從成立AI 2.0策略委員會，到6個應用觸媒計畫，中華電信結合長久以來累積的知識庫及專業領域的專家推動生成式AI應用。除了提升員工的工作效率，也能緩解退休潮造成的人才斷層、經驗傳承問題。

「生成式AI生成內容看似無中生有，實際上背後海納百川，運用多年下來累積的大量歷史資料才能做到，發展生成式AI應用能力，同樣需以資料作為基礎，建構特定領域的KM，再發展相關應用」，黃志雄說。

中華電信執行副總暨技術長黃志雄表示，生成式AI生成內容看似無中生有，實際上背後海納百川，運用多年下來累積的大量歷史資料才能做到，發展生成式AI應用能力，同樣需以資料作為基礎，建構特定領域的KM，再發展相關應用。（攝影／洪政偉）

用生成式AI處理用戶漫遊紙本帳單

現在不只是6項應用，其他單位也感受到GAI帶來的好處，發展更多GAI應用，例如用戶到國外旅遊使用國際漫遊，國外漫遊合作的電信商提供中華電信該用戶所使用漫遊服務的帳單，然而這些帳單可能形式不一，可能是紙本傳真、電子郵件等不同形式，中華電信需要投入大量人力處理。

為了讓整個處理過程自動化，他們利用OCR辨識漫遊紙本帳單，再由生成式AI去解讀，生成標準化的帳務重點資訊，再送進資訊系統。但是，仰賴生成式AI來處理漫遊紙本帳單，替代過去人工作業的方式，這樣做雖然能夠節省時間，仍要建立多種機制，以提高生成式資訊的正確性。

中華電信運用長久以來所積累的領域知識、經驗，並投入領域專家，運用RAG、Prompt Engineering等技術，讓GAI生成內容「有所本」，提高生成內容的正確度、可被信賴，並且克服退休潮導致有經驗的員工大量流失，新手員工專業領域知識經驗不足的問題。

以客服為例，客服人員流動率較高，少子化招工不易，客服人員代表公司對外服務客戶，新進客服人員都需要經過一定訓練，但是，中華電信底下行動網路、寬頻網路、市話、MOD等各種業務龐雜，面對客戶提出各式各樣的問題，新進人員往往不容易快速找到資訊，因此他們在客服人員值機應答工作，將過去累積的問答知識庫，結合生成式AI，幫助客服人員快速找到資訊。

在生成式AI的值機應答協助之下，加快新手客服人員的養成速度，客服應答也能達到一定的水準，並且降低客服對於難以回答的疑難雜症，進入1.5線尋求資深或技術人員支援的比例，同時縮短客戶等待回應時間。

同樣的情形也在網路維運管理，電信事業屬於關鍵基礎建設，中華電信投入大量人力維護網路基礎建設的正常運作，設備如果出現異常導致服務中斷，可能影響廣大用戶的生活，或是工程人員到用戶家中進行安裝檢修，網路維護工作高度仰賴人員經驗，雖然新手可以查詢相關資料，在缺乏領域經驗之下，反覆查找耗費時間，並不容易找到需要的相關知識。

中華電信運用生成式AI發展家用寬頻安裝維運虛擬專員，當工程維護人員到客戶家中維修，如果遇到疑難雜症，透過App與虛擬專員對話，相當於多了一位助手，幫助工程人員快速查找知識庫中的相關資訊，傳承維運專家多年累積的知識經驗。

黃志雄表示，過去在網路維運上，利用AI監控及預測設備的劣化，當預測即將發生故障前，及早汰換設備避免客訴產生，但是生成式AI應用在數位孿生（Digital Twin），對網路維運、韌性提升也相當重要，例如當發生災害時，研擬不同的行動方案，利用Digital Twin模擬環境，藉此觀察不同行動方案產生的效果，能夠提升網路韌性。

建立算力池、算力雲服務

由於AI需要大量的算力，因此在AI2.0的策略中也包含了基礎建設部分，中華電信已有全盤布局。他們已盤點全國各地機房資源，計畫建構算力池，先滿足內部AI應用需要及外部客戶應用的需要打造AI算力雲，考慮到目前GPU供貨問題，採用Nvidia DGX，採用8片H100，結合原先已構建的GPU資源，以建立可滿足模型訓練需要的AI算力。

至於IDC機房，中華電信集團下的IDC機房，在國內IDC市場占有一席之地，因應客戶建立AI機房的需要，該公司計畫建置AIDC機房，符合AI運算伺服器需要的高用電、地板載重、充足機房空間，提供代建代維或顧問服務。

應用平臺工程概念快速擴散內部GAI應用

在歷經約一年時間發展，為讓AI進一步擴大應用領域，今年建置共用平臺，讓產銷人發財不同領域員工，即使不會AI相關技術，也不會軟體開發，只要將他們的業務資料整理好後，通過該平臺產生自己業務上的小幫手。

運用平臺工程的概念，將跨領域業務共用的功能，例如權限管理、資料庫納入共用平臺，搭配No-code、Low-code工具，即使不會軟體開發的員工也能簡單地產生他們業務上需要的AI助理。

楊慧琪表示，中華電信投入發展平臺工程基本功已有一段時間，考慮到生成式AI近幾年發展相當快，未來可能成為每位員工業務上都需要的基礎幫手，今年將生成式AI納進平臺工程，希望能擴散產生更多的AI 2.0應用。

而對使用單位而言，業務工作上如果想要使用生成式AI，透過該平臺，能夠簡單打造其業務領域的AI助理，這個概念不只是內部，也計畫推向外部，例如基於AI算力基礎架構的AI Factory平臺，讓客戶可以通過AI Factory的生產線概念打造垂直領域的GAI應用。

中華電信資訊技術分公司總經理楊慧琪表示，中華電信投入平臺工程基本功已有一段時間，生成式AI近幾年快速發展，未來每位員工可能需要基礎AI助理，運用平臺工程概念，希望擴散更多的生成式AI應用。（圖片來源／中華電信）

 相關報導