【iThome 2024 CIO大調查系列4｜GAI趨勢】93位CIO與CISO如何因應生成式AI挑戰（上）

「AI創新」，這是多數資訊長和資安長今年最重要的目標，也是對生成式AI浪潮最大的期待，但要如何找出GAI的機會，克服種種背後的挑戰。93位來自一般製造、高科技、服務業、金融、政府學校的資訊主管和資安主管，分享了他們看到的GAI機會與挑戰。

企業已不能只將生成式AI視為新技術，而是一個千載難逢的良機，讓企業能夠雇用一群博覽群書、擅長論述、能操各國語言、會寫程式、已達常春藤名校等級的機器人大學畢業生。如何「訓練微調」這群機器人員工，進而重塑企業文化及工作流程，賦能而非取代人類員工，將是企業的嶄新挑戰。 ── 第一銀行執行副總暨資訊安全長 劉培文

 五個機會  1. 創新應用和產品開發。2. 個性化和定製。3. 效率提升。4. 實現創意。5.數據增強決策。

 五個挑戰  1.數據隱私和倫理問題。2.技術壁壘。3. 不確定性，需要監控和調整。4. 安全風險。5. 文化適應。── 百億IC設計公司資訊主管

GAI是新藍海，IT在企業決策的角色越來越重要 ── 半導體製造業資深副總

當前GAI迅速發展，各廠商爭相提供各式各樣的服務，今日公認最好的Solution，可能數月後有更強大的替代方案，這種情況非常普遍。在這樣的大趨勢下，企業面臨著雙重挑戰：一方面，他們必須時刻保持與潮流同步，避免落後於競爭對手。另一方面，初期投入大量資源後，又擔心技術發展太快速，初期投入技術還未能發揮綜效，就馬上落伍了。

面對各種GAI的行銷及社交媒體上的宣傳攻勢，企業不應該隨波逐流，讓這些技術左右我們的步伐。相反地，企業應以自身的核心競爭力為出發點，利用GAI工具提高工作效率，協助解決自己的問題。就像計算機發明數十年了，但，全世界國小學童還是要學數學的四則運算。工具雖然可以幫我們提昇效率，更重要的關鍵是，必須知道如何利用工具來解決我們的問題。

所以在導入GAI時，不必期望它能解決所有問題，初期只需要投入很少量的資源進行實驗，找出真正能夠顯著提升效益的工具，等取得一定程度的成效後，再決定是否投入新的資源到下一個應用場景上。關鍵在於保持靈活性，引入GAI工具來提升效率，配合自身的核心競爭力和資源優勢，來創造新的機會。── 第一網站研發部副總經理 劉勉志

【挑戰】 GAI仍是發展中的技術，具有無限的應用可能性，但還有許多不確定性。企業對外服務或對內使用GAI，考驗企業對導入新興科技的治理成熟度。

【建議】 我認為導入GAI前，是否明確定義使用的目的及預期效益、是否有內外部人力對GAI技術有一定了解及掌握、是否定義達成目標及退場方案等，都會影響導入GAI所帶來的效益及風險。其他包含自動化的正確性、資料品質、資料隱私、智財、以及後續的持續監控應對，都是導入GAI的重要議題。── 大型金融平臺資安長

【四大機會】1. 提升效率：AI可以自動化許多繁瑣且重複的工作，如數據分析、報告生成等，從而提高企業的工作效率。2. 創新業務模式：AI可以用於開發新的產品或服務，如推薦系統、智能客服等，為企業帶來新的業務機會。3. 優化決策：AI可以透過大數據分析和預測模型，提供更準確的商業決策支持。4. 提升客戶體驗：AI可以在客戶服務、個性化推薦等方面提供更精準的服務，從而提升客戶滿意度和忠誠度。  

【四大挑戰】1. 數據安全與隱私：AI技術的運用可能會涉及大量的數據收集和處理，這將對數據安全和隱私保護提出更高的要求。2. 技術與人才短缺：AI技術的快速發展，需要大量的專業人才來開發和維護，這可能會導致人才供不應求的情況。3. 法規遵循：隨著AI技術的應用越來越廣泛，相關的法規也不斷出爐，企業需要確保其AI應用的合法性。4. 技術整合與適應：對於許多企業來說，將AI技術與現有的IT系統進行整合，以及讓員工適應新的工作模式，也是一大挑戰。── 百億營收公司資訊協理

【機會】 員工能力提升與知識經驗傳承：1. 將生成式AI視為虛擬助手，靈活運用於各部門的各類不同工作場景中，能有效提升同仁們的能力。2. IT資訊部門應跳脫既有框架，成為企業內同仁們的「數位教練」。3. 以生成式AI為核心的企業KM知識庫，將如同企業的大腦。KM活化與RAG檢索增強生成，是生成式AI於企業的重要應用場景與技術。除了效用與便利性之外，更可以解決企業困擾的問題-人的經驗傳承。

【挑戰】 資安風險評估與管理：企業欲活化與利用數據，同時會面臨機敏資料保護問題，需做好風險評估並準備相應的風險控管機制。── 旭榮集團總管理處IT系統專案部資深經理 林宗霖

科技的進步帶來了很多便利，AI工具的發展從簡單的自動識別和OCR辨識等進步到人工智能客服，AI工具運用到重覆工作內容可以減輕員工的作業繁瑣， 但AI工具也是個雙向刃享受科技進步的同時，也要思考AI工具帶來的風險， 過去已發生多起ChatGPT沒有安全的管控，自動搜尋公司的敏感資料而外洩，未來，公司會跟著AI潮流發展，但在過程中會同步思考AI的風險及應變措施── 台灣牙易通資安經理 吳紫語

生成式AI可為企業增加創新應用、提升效率及競爭優勢，亦可改善業務流程提升客戶滿意，在健康醫療領域也可利用加強式檢索，提供更多醫療輔助，改善部分醫療人力短缺及不足的問題。

挑戰方面，普遍問題是專業AI人力的短缺，一般企業無法自己雇用專門的AI人才及經費不足以建置地端的運算能力，因此，企業大部分都採用雲端的AI應用，容易衍生資安議題，加上資訊技術整合能力普遍不足也是一個大問題。── 國軍高雄總醫院資訊室主任 鄭重男

潮流帶動，讓許多企業主「聽說到」生成式AI與應用是甚麼，讓他們能有些許的概念與認識；加上許多軟體應用爆發，更快速讓他們直接體會並使用到此技術的應用，這遠比用說的、想像的、畫夢式的給他們介紹好太多了。相關應用上能順理成章的順勢推動，是很好的機會！但因百家爭鳴，應用程度與價格相對的非常混亂，要如何從中找到好的！需要的！自然成為潮流中選擇的一大挑戰。── 大倉久和大飯店資訊部 林峻正

如何透過法規、資安、保密、倫理與資料只能對內部應用狀況下，如何讓生成式AI透過資料庫資料的訓練，自動生成相關臨床醫護病歷資料，減輕臨床醫護人員負擔。這樣才能有效讓新時代臨床醫護人員投入醫療照護工作，讓臨床醫護人員有更多時間照顧病人。── 衛福部彰化醫院醫務行政室主任 黃冠凱

生成式AI技術應用改變了我們使用機器與科技的方式，有很多的題目，可以思考如何透過生成式AI的應用，降低成本甚至激發出更多的創意，將是資訊團隊非常好的機會點。同一時間，現有人員因為重複性的工作被AI取代後，要如何轉型會是另一個挑戰。── 全國電子資訊管理處協理 黃漢傑

資訊單位需要透過生成式AI技術，開始幫助公司各部門思考自己的職務內容，如何做到更升級的工作產出，而公司各單位也需要認知，資訊技術含AI的導入及應用，需要各單位放入年度計畫才能達成業務升級的目標。── 全盈支付資訊長 鍾明峰

【機會】 醫療流程有許多需要參考各資料來源做結論或是統整的作業，應該有機會可以使用生成式AI解決。

【挑戰】 醫療資料多屬機敏資料，去識別化不易，難以使用外部GAI服務── 臺大醫院資訊室主任 陳權忠

有效降低員工耗費在影像判讀、病歷記載所花費的時間。員工對資訊系統整合生成式AI功能會有更多期待── 大千綜合醫院副院長室資訊副院長 林禎裕

AI的iPhone 時刻，改變工作本質學能，提升普羅大眾善用AI能力，增進創造力與生產力。── 玉山證券資訊長 郭健男

【機會】 過去窒礙難行的想法，透過生成式AI技術會有不一樣的機會實現。

【挑戰】 找尋適用場域落地應用── 中菲行國際物流商業智慧科技部總監 陳立人

生成式AI若沒妥善使用，可能引發智慧財產權等相關爭議，需要建立處理機制。── 阿官國際餐飲集團資訊總監 涂榮宗

【機會】 節省人力，提升效率。

【挑戰】 隱私保護，內容正確性，人員專業程度下降── 臺中榮民總醫院資訊室主任 賴來勳

生成式AI可大幅度減少中小型企業利用和開發AI的門檻── 聯新國際醫院數位發展部部長 徐偉倫

GAI提升員工生產力，但也讓資料管理更困難── 新光吳火獅紀念醫院資訊部主任 林璟淑

挑戰是如何利用AI導入進行決策── 新海瓦斯研展室課長 林宗建

GAI加速數位轉型── 南僑集團資訊處資深經理 謝永輝

挑戰是人力、技術── 嘉南療養院資訊室主任 吳郁

靜觀其變── 禾伸堂企業資訊中心協理 郭建中

GAI六大挑戰，包括了1. 內容自動生成但結果未必正確，符合現在快速彈性化應對的世代，造成了兩難的問題。2. 對於機敏資料無意識上有可能不自覺洩露，而不自知，或許資料很難界定可以或不可以。3. 資安範疇太過於廣闊，資安硬體或軟體成本投入無法即時跟上？4. 企業對於培育專業專職的資安人員有所顧慮，無法真正落實。5. AI要符合一間公司企業與文化，其實需要大量投入時間與成本，但高層希望立即產出有效結果，還要用極低的成本。6. 版權無法有效確認圖像、文字是否無意識盜用── 連鎖餐飲品牌資訊主管

GAI實戰經驗：生成式AI的建置硬體環境成本需用高速運算的伺服器，相對於我們公司所用AI模型環境，成本高出很多。因此，前置的研究投入成本，是入門研究的重要門檻。雖有小型的生成式AI模型，不過經測試效果沒有大型的AI生成式雲端服務好。若要將公司專業知識做為雲端訓練，又有資料外洩的風險。目前維持在小量不具機敏性的資料，進行雲端的驗證測試，確認其可行性，再提出具可行性的計劃預算正式導入生成式AI專家系統。── 高科技業資訊兼資安協理

目前因生成式AI技術具體應用情境，在我們所屬產業尚未有實務運作之實際導入案例可參考，但我相信未來生成式AI技術更趨成熟，帶給企業的機會是可優化及簡化公司所有相關作業流程，提升員工工作效率，及強化上下游廠商客戶關係及服務，我還是非常期待AI應用爆發潮的到來.面臨的挑戰目前可想到的是人才養成與人才短缺問題── 百億半導體業資訊處長

生成式AI可以加速業務看成，改善工作效率，讓提案或創意內容更加容易且輕鬆達成，可大大提升辦公室人員的效率。但AI幻覺與樣本偏差容易造成產出資料正確的不確定性，可能對後續決策造成影響，或得花更多時間來驗證，現階段先用於資料文件的生成── 百億製造業資深IT主管

企業內部快速運用生成式AI於每日各方面的工作中，可節省成本及時間，成為員工的好助手，CIO可以領導收集好的商業應用分享好的案例，尤其用於創造營收為第一優先。挑戰則是，要建立企業內部ChatGPT，得保護公司資料並確保資料正確性及可信度，並持續改進── 大型藥廠IT主管

【機會】 使用者及公司高層具備AI概念，卻又模糊。有想法不一定成熟，對於商業應用層面得以擴大，若願意投入資源，可以得到相對的報酬。

【挑戰】 技術人員經驗不足，大家都在摸索。技術與實務結合需要時間驗證，需要大量投入資源，產生大企業有AI更強，中小型企業挑戰更大。── 老牌營造業資訊部主管

在政府部門有較多的資料與文件不適合對外開放，行政院已公佈GAI的使用指引，政府部門也將依該使用指引方式，使用GAI相關應用，所以對CIO會需要更多客製化的GAI服務，不對外公開或私有雲的部分連接ChatGPT，這才是後續GAI最大量服務── 政府機關IT主管

【機會】 企業內知識分享應用，增加生產力，可用生成式AI快速應對與處理資安事件。

【挑戰】 設計、設定、權限管理不當造成資料外洩（包含內與外部）， 駭客對AI系統本身的攻擊，駭客也能以生成式AI快速發展自動生成詐騙和攻擊工具── 上市公司集團資安長

身為金融業，在主管機關的要求及公司預算下，因為產業特性，需要比較多的時間才能將生成式AI技術應用於客戶所需的服務上。但是像程式撰寫的輔助如GitHub Copilot，本公司將會先行導入，觀察其帶來的成效── 金融科技公司技術副總

學習新AI工具，尚不知道應用的C/P值如何。如同每一段時間的新技術，實際運用上是否適合中小企業的環境。生成式AI是資訊安全的挑戰，不管是生成式AI造成的資訊外洩，生成式AI對協助惡意程式碼產生都降低了網路攻擊的門檻。── 金屬製造業IT課長

產品生命周期循環越來越快，資訊工具輔以產品開發，如何運用資訊工具的優勢，帶入公司的產品開發是必然趨勢，資訊人員學海無涯，將不再局限於資訊工程上，而得延伸至多面向的商品產品開發，提升自我能力增加自身附加價值在所必然。── 一般製造業IT副理

【機會】 GenAI用在資安維運如Threat Hunting或Log分析、事件應變等，加速人員處理效率。

【挑戰】 目前已有WormGPT、FraudGPT等服務，攻擊者可能應用類似此類服務加速攻擊速度與成功率── 金控資安長

【挑戰】 1. 如何分辨出哪些業務適用性最高，而非一味盲從跟隨風潮，要能有說服力地與提出需求的各業務單位溝通。2. 在不洩漏公司機敏資料的前提下，如何適當應用來提升工作效率層面。── 傳統製造業IT

尚在觀望，以傳統產業來說，實際應用層面還是未知數，畢竟1. 客戶數據樣本不夠多。2. 應用層面尚未有明朗的方向。3. 傳統產業業主對於資訊的投資相對較少，皆以維穩為主。── 飯店業資訊主管

在良好的資料準備與提示工程下，可快速發展出高品質的醫療服務產品，GAI降低資訊門檻，讓一般非資訊人員都可能規劃與開發許多資訊需求。小規模的企業都可能發展出有特色的服務。── 私立醫院資訊室主任

生成式AI技術應用要看產業是否有應用場域或環境。中長期，生成式AI勢不可擋。應用於企業環境目前僅限於測試環境，中小企業還是觀望的態度。── 3C零售業資訊經理

1. 資安疑慮與成本高。2. 似乎可以提高個人工作績效，但難以評估。3. 較少有企業方案，或需要高額成本建置企業專屬方案，個人認為GAI 還需要時間── 老牌製造業協理

 相關報導