【先行者經驗：台灣大哥大副總經理暨資訊長蔡祈岩】不只IT人人能變全端工程師，ChatGPT更有企業5大層次應用

從今年1月開始，台灣大哥大資訊群開始在內部試用ChatGPT，「真的運用到工作上，才知道會帶來什麼影響。」台灣大哥大副總經理暨資訊長蔡祈岩強調。

台灣大哥大怎麼用ChatGPT

蔡祈岩開始嘗試讓開發人員用ChatGPT輔助寫程式，在內部九大工種，包括了iOS、Android、後端（Java、非Java）、前端（Javascript、.NET)、PL/SQL、雲端工程以及QA等工種團隊中，各挑選一些先期種子，有資深人員，也有新手工程師，實際在開發場域使用ChatGPT。從2月開始，更在每周工程師分享時間中，找來這群ChatGPT實作者，分享在他所屬工種情境中的測試報告跟使用狀況。

台灣大哥大去年就曾嘗試程式碼AI幫手Copilot，這次也列入與ChatGPT程式碼生成的比較。目前結論是：ChatGPT比Copilot強很多。蔡祈岩解釋，ChatGPT所用的模型更新，涵蓋的語言種類更多，對開發者描述語的理解也比較深，因此，ChatGPT所產生的程式碼的正確率也較高。

不過，他觀察，目前ChatGPT自動產生程式碼的作法還是有局限，第一，沒辦法幫忙修改現有較大的系統，因為它還沒有能力理解系統架構，也就沒辦法幫忙依照需求修改老舊系統。

對IT團隊來說，舊有系統修改是更大的關鍵需求，若能將舊系統整套匯入，AI讀完能夠完整理解全局邏輯，甚至能幫助工程師新增或修改部分功能而不會改A弄壞B，但目前的ChatGPT無法做到這件事。

目前可以幫助之處，像是快速生成原型系統、撰寫自動化腳本、協助單元測試，或是陌生技術開發，例如更快串接新API或新資料庫等。

另外，它可能會讓軟體工程師打破工種分工，例如：若工程師只熟悉A技術，而不熟悉B技術，過去這類工程師要開發B技術應用相對痛苦，蔡祈岩表示，ChatGPT可以扮演一個熟悉B技術的助手，「能讓工程師會更有自信，開發速度比較快，也能夠減少嘗試錯誤的次數。」

甚至，進一步來說，熟悉iOS的工程師，借助ChatGPT也能夠開發Android程式，甚至後端工程師也能開發前端應用，而且不只Web應用，還可以開發iOS或Android應用。

「根據我們目前的實驗，未來有可能，所有的工程師都會人人變成全端工程師。」蔡祈岩強調。

蔡祈岩認為，從ChatGPT開始，AI正式揭開序幕，往後會出現更多種大型語言模型或其他類人性的AI模型，「AI會開始大量介入每個人、每家企業的日常。這是ChatGPT真正的影響。」

ChatGPT的企業五大層次應用

從台灣大哥大的試用經驗中，蔡祈岩更提出ChatGPT的企業五大層次應用，一是提高員工生產力；二是強化企業內外的數位平臺與服務；三是微調出企業需要的客製化ChatGPT ；四是訓練出企業自己擁有的GPT-like模型；五是打造或投資AI算力池。

ChatGPT對提高員工生產力的效果，已經有很多應用實例，像是IT用來協助撰寫程式，行銷企劃用來產生素材、寫文案，或者台灣大哥大也有員工用來翻譯、提案或學習新事物。「員工學習新事物，ChatGPT是很好的助教。」蔡祈岩說。

到了第二個層次，企業應該要思考，現有對內或對外的數位平臺或服務，是否能串接ChatGPT來提升原本平臺的能力，尤其3.5版API開放後，成本比上一版低了九十%，另外也提供了開源的Whisper API，企業可以用來將過去客服錄音檔轉成文字。

更進一步，企業可以評估要不要微調出一個客製化的ChatGPT，這是第三個層次的應用。蔡祈岩解釋，微調出自己的客製化模型，是ChatGPT背後大型語言模型的關鍵設計，稱為PPLM（Plug and Play Language Model）。

 PPLM是一種架構設計，在大型語言模型底層有一個基礎模型（Base Model）或稱基石模型（Foundation Model）。需要龐大資料量，每次訓練宣稱要價千萬美元的模型訓練，就是指對基礎模型的和龐大資料的模型訓練，因為這個基礎模型的參數多達上千億個。

在這個基礎模型上還有一個屬性模型（Attribute Model），可以用來改變或調整模型輸出結果，更接近使用者對結果的需求或期待。蔡祈岩解釋，屬性模型和基礎模型最大的不同就是，屬性模型是一個可以更換（Plug and Play）的模型。

換句話說，就像AI大腦中有大量知識，當要開口講的時候，再透過一個小型的神經網路模型來判斷，該說什麼更符合使用者喜歡的答案。

「ChatGPT講起話來很像人話，非常流暢的關鍵，就是屬性模型用了大量的人工標示資料，來進行增強式學習的訓練。」蔡祈岩表示，企業打造客製化ChatGPT模型時，所微調（FineTune）的就是這個屬性模型。

屬性模型就像是一個外掛模組一樣，企業微調出自己的客製化模型，不會改變或影響到原本的基礎模型，但很容易切換成不同的外掛。蔡祈岩比喻，就像是製作奶油蛋糕上的壓花，只要更換壓花接頭，就可以擠出不同形狀的形狀，但更換接頭不能改變奶油的本質，只能改變輸出的形狀。

蔡祈岩指出，屬性模型是一個重要設計，關鍵是可以用相對小非常多的參數量，可能只要十萬分之一的參數量，就可以對基礎模型的輸出，產生翻天覆地的變化。在第三個層次應用中，企業可以用自己的語料和資料，訓練出一隻行銷大軍或客服大軍。蔡祈岩提供一個加速微調客製化模型的訣竅是，可以用另一隻ChatGPT產生大量新語料，例如用AI產生一句話的1千種說法，來微調訓練新的AI屬性模型。

如果企業有更大的企圖心和財力，蔡祈岩建議，可以進入第四個層次，訓練自己的基礎模型，例如使用已經釋出原始碼和預訓練模型的類GPT 3模型，如BLOOM或GPT-Neo 3.0 或GPT 2來訓練，或是企業可以參與國際大型模型的研究計畫。

最後一項打造或投資AI算力池的層次，則需要龐大財力，但是，「就像是過去要擁有超級電腦的概念，未來AI算力池會成為戰略性的資源。」他強調。

對臺灣企業而言，蔡祈岩認為，所有企業都應該做到第一個層次的應用。而大部分稍具規模或擁有數位平臺的企業，如擁有網站、App、或內部資訊系統，則可以考慮發展到第二個層次。

若企業顧客數龐大，或擁有龐大的客服團隊或業務團隊，「只有其中一個團隊規模超過數百人，企業就應該想辦法做到第三層次的ChatGPT應用。」蔡祈岩建議，因為ChatGPT的價值不是用來減少人力，而是可以增強這類對話情境的服務深度和顧客滿意度，例如24小時提供具有平均水準的客服或業務人員，不只解答還能推薦產品來行銷。「只要訓練出一支這種AI，就是千軍萬馬。」

蔡祈岩表示，台灣大哥大已經開始推動第一層「提高生產力」的應用，任何企業都應該做到第一層應用，「而第二層到第五層，對台灣大哥大來說，也是會考慮的開放選項。」

要建立AI可用資料分級資安規範

在大力擁抱ChatGPT的同時，蔡祈岩提醒，需要有配套的資安規範，尤其對機敏資料的管理，他建議，企業要開始對資料進行分級，將AI視為外人，凡是不可以對外人說的資料，都不能放到ChatGPT上，可以比照企業對雲端儲存的機密控管規範做法一樣。

 更多相關報導