高雄市擬今年合併研考會及資訊處成立一級機關，力推燈塔計畫發展主權生成式AI強化智慧治理

儘管市府組織已滿額編制，高雄市政府在2024年10月啟動內部組織小幅調整，將原本的資訊中心提升為資訊處，雖然仍是市府底下的二級機關，但人力及預算較原本的資訊中心增加，市府計畫2025年再將資訊處與研考會合併為新的一級機關，藉此擴編資訊人力、預算經費，更積極導入新興資訊科技，近期積極和民間業者合作共同發展主權AI，期望以此加強高雄城市治理。

過去幾年政府機關推動數位轉型發展，地方政府重視資訊科技發展，以六都為例，臺北市較早由資訊中心改制為資訊處，2012年升格為資訊局，近幾年在經歷COVID-19全球疫情衝擊，減少面對面接觸下，不論是政府或企業都認識到面臨營運危機下，善用數位科技強化營運韌性的重要性，政府也提升資訊單位編制；桃園市政府先前將資訊中心升格為資科局，2023年再將資科局與研考會合併為智慧城鄉發展委員會，以市府整體思維帶動各機關的數位科技思維；台中市政府也在2022年將資訊中心改制為一級機關成立數位治理局，結合資通訊科技加速台中市政府整體的資訊化發展。

提升資訊單位組織位階

高雄市也不落人後，早在行政院計畫成立數位部作為數位政府轉型推手之時，高雄市便有意將資訊中心升級為市府一級機關，但由於市府組織編制已滿，資訊單位直接升級一級單位，將牽動市府整個組織變動，而且需要議會審核同意，相關準備工具況日費時，但是提高資訊單位位階不能再拖，市長陳其邁決定分為2階段組織調整，先將資訊中心於2024年第三季提升為資訊處，增加人力及預算，2025年上半年計畫再與研考會合併為一級市府單位，進一步擴大組織編制。

原本擔任高雄市政府資訊中心主任，現為資訊處長的劉俊傑表示，市府決定提升資訊單位位階有三個考量，首先是數位科技的重要性日益增加，AI例如生成式AI興起如何推動市政轉型，其次是地緣政治使得市府面臨資安威脅增加，最後是過去市府各局處根據業務需要有自己的IT人員，但是發展AI需要跨局處、跨領域的資訊整合，提升市府資訊部門位階，有利於跨機關、跨領域資料及人員、資源的整合。

過去高雄市各機關基於業務各自推動資訊發展，未來資訊處與研考會合併，他認為未來研考加上智慧及算力將是未來高雄市政府數位轉型的助力，過去資訊發展為分散的點狀發展，「合併後的新組織將負起串接整合各機關的人力、資料、資源，從點連成線並進一步形成面」，劉俊傑說。

倡議城市級的主權式AI

高雄市各局處機關各自推動AI發展，未來新的組織負起市政智慧化發展的推手，劉俊傑指出，未來市府希望打造各局處共同的AI模型，分為兩個大腦，其中一個大腦對外服務民眾，例如線上1999客服、市民卡等，讓民眾和生成式AI對話來獲得協助或服務，另一個大腦負責對內，成為內部的AI業務助理，針對各機關的業務優化，例如協助產生都市計畫書等等。

按高雄市政府的規畫，將採落地部署的主權式AI概念打造兩個大腦，一方面能避免內部機敏資料、知識財產外洩，劉俊傑認為未來不論是企業或政府都需要發展主權AI，另外，目前雲端部署的AI模型如ChatGPT為全能型模型，必需什麼都會，導致模型的規模相當大，用於訓練的費用相當高昂，而採用主權AI概念，使用比較小的參數規模，發展領域型的AI，需要的GPU算力也比較小。

另一個發展主權式AI的原因是適地性，必需能適應當地的法規習慣，劉俊傑指出，目前生成式AI多為美國發展，除了語言文化差異，以交通為例，美國的交通號誌及標線和臺灣不同，需要針對臺灣的法規、標線、號誌重新微調模型，是發展主權AI的另一個重要原因。

然而，高雄市政府積極發展主權AI、生成式AI，資訊處欠缺足夠的人才。

高雄市政府資訊處長劉俊傑

劉俊傑直言，現行的高普考制度並未將AI納入考試項目，資訊人才雖然熟悉IT，但很難跟上現今AI發展速度，透過市府資訊部門組織調整，擴大編制預算，對外網羅AI人才，以外聘雇的方式招募相關人才進來，協助市府發展及應用AI。相同地，面對愈來愈多的資安威脅，通過組織調整也能招進需要的人才。

目前高雄市府優先以約聘雇方式招進需要的人才，除了AI需要的人才，還有大數據分析等領域，資安方面則需要具有白帽駭客能力的人才，此外，還需要具備資料整合、資料池，熟悉混合雲方面的人才。

發展文字型生成式AI客服及業務助理

如同前面所說的，高雄市政府規畫發展兩個大腦，一個大腦對外服務民眾，另一個則是AI業務助理，提升內部業務工作效率。市府計畫結合生成式AI，發展LLM的文字型AI，目前與不同AI服務業者合作測試Hugging Face上不同的模型及方案，以發展對外服務民眾的AI客服及對內的AI業務助理。

劉俊傑表示，市府目前仍在測試合適的模型，針對臺灣的語言、法規、文化用詞進行微調，除了測試Hugging Face上面不同的模型，還有國內資訊服務商為本地業者微調的模型，以及國科會計畫下發展的繁中大型語言模型TAIDE，透過各種測試尋找符合需求，且能撙節成本的模型。

然而政府機關在對民眾服務運用生成式AI，考量到民眾對政府服務應具有公信力、高度正確性等期待，如果政府服務出錯就很容易導致外界的批評，因此高雄市對於政府服務運用生成式AI相當謹慎。劉俊傑表示，為避免生成式AI給出錯誤的答覆，將運用RAG技術將語料源限制於32個局處的網站文字，同時也會接受第三方驗證生成式AI，包括可解釋性、透明度等指標，民眾使用服務之前先聲明驗證結果。

「儘管服務採用生成式AI很難避免百分百不會講錯，但透過事先的聲明，仍希望更多人的使用，讓生成式AI在微調之後能夠變得更準確」，劉俊傑說。

不論是對外服務的AI客服或內部使用的AI業務助理，市府並沒有給出明確的服務上線時間，但強調每年都會檢視需求進行調整。

發展影像型生成式AI提高城市智慧治理能力

除了文字型LLM模型之外，高雄市近期還啟動一項前瞻性的計畫，智慧高雄燈塔計畫，高雄市政府和Nvidia合作，與業者合作租用Nvidia GPU算力服務，還有CUDA的軟體應用方案，包括影像分析方案metropolis、可打造數位孿生的Omniverse，以發展影像型生成式AI。

不同於一般生成式AI以文字提示產生圖像，影像型生成式AI能夠「看懂」CCTV或空拍機等市府類監視器的影像資料源，生成對影像畫面狀態或事件的描述，並將其報告給市政府，協助市府能快速掌握狀況、決策應變、資源調配。

劉俊傑表示，以先前山陀兒颱風為例，造成高雄市區內大量路樹被吹倒，傳統上，由里長、居民、民意代表打電話反映，大多只有口語、位置的描述，未來影像型生成式AI，通過無人機空拍影像，就能掌握不同地區的路樹被吹倒的情形，供市府決策哪些地區優先處理樹倒情形，在災後快速恢復交通，和傳統打電話反映相比，在生成式AI協助下提供市府更客觀、科學的方式進行決策。

未來該影像型生成式AI將會以高雄市府各局處的資料為基礎，以高雄市在地的資料作微調，讓影像型生成式AI能夠適應高雄在地的語言文化及法規，從影像中辨識狀態或事件，即時向市府回報情報，以輔助市政決策。

未來更進一步結合影像型生成式AI對類監視器影像的分析，還有以物理引擎作為基礎建立的高雄市數位孿生平臺，將實體世界與虛擬世界連結，通過虛擬的數位孿生，當真實世界發生特殊事件時，例如哪個地區淹水，如果沒有即時處理應變，在虛擬數位孿生平臺裡預測可能為真實世界帶來的影響，輔助市府調度決策，提高城市智慧治理。

為了發展影像型生成式AI、主權AI需要大量算力，高雄市在智慧高雄燈塔計畫中，參考營建類常見的政府與民間聯合開發案例，市府和資服廠商合作也採聯合開發模式，由市府與廠商共同制定目標，雙方共同投入資源，由高雄市政府投入1億元，主要用於資料的標註、模型訓練等等，合作業者投入價值1.5億元的設備及服務，包含需要的一年算力服務（計畫預估將使用32片B200及16片L40S，滿足訓練及推論用途），最後由市府與業者彼此共享智財等成果。

智慧高雄燈塔計畫發展的大腦為PaaS層，預計於2025年12月底完成，劉俊傑表示，未來亞灣2.0計畫將會在PaaS層之上發展SaaS應用試辦，包括高雄市政府交通局、捷運局、工務局等機關，和中鋼、台電、港務公司國公營企業合作申請SaaS計畫，在公部門運用方面，例如交通管理、人流分析、場管等市政問題，如何運用PaaS發展生成式AI應用，至於國公營企業，包括港區的貨櫃交通運輸、燈桿管理、管線維護管理等等也會發展相關應用。

「從公私合作建置PaaS層，到同樣由公私合作發展SaaS層應用，才是更完整的智慧高雄燈塔計畫」，劉俊傑說。這項計畫展現了高雄市政府對於導入生成式AI改善城市智慧治理的企圖心，未來不只是高雄自己使用，因法規、文化的接近性，國內其他城市或企業未來也能使用 PaaS，市府正研究後續可行的商業模式。