由於ChatGPT受到外界注目,企業或政府機關也開始思考如何運用ChatGPT,希望提升內部工作效率,不只是資訊部門,這股ChatGPT旋風也吸引企業高層或政府部門首長的注意,從上而下指示IT部門研究ChatGPT應用的潛力,例如臺北市長蔣萬安近期也在內部會議裡,要求資訊局研究評估ChatGPT應用可能性。
儘管ChatGPT看似無所不能,擅長機器學習、深度學習技術的臺北市政府資訊局長趙式隆認為,ChatGPT目前開放免費使用,仍處於對外展示技術的階段,從創造的效益來看,是很好的技術展示,但距離商業化的應用仍有許多問題待克服。
必需落地降低權限控管風險
趙式隆指出,目前ChatGPT部署在公有雲,背後依靠龐大運算量,才能支援各種使用者的提問,背後所花費成本相當高,應用部署在外部資料中心的ChatGPT,上傳客戶或民眾隱私資料,無法知道Open AI會不會取得這些資料,對資料的權限控管就會出現問題。因此,對重視資料安全的政府機關或高度監管產業而言,使用外部系統會有權限控管風險。如果將ChatGPT拿到市府內部落地使用,以ChatGPT目前的結構,包括建置成本、耗電、機房規模,公務機關也無法負擔,因此要落地到機關內部使用,必需降低運算量需求才有機會。
儘管因應政府或重視資料安全的企業,公有雲業者提出主權雲,解決公務機關或企業的資料安全疑慮,趙式隆仍認為,主權雲仍然在公有雲上,如何保證擁有完整權限的公有雲業者無法看到這些資料,權限必需完全由政府掌握,第三方不能擁有Root權限。使用ChatGPT必需落地,才能滿足政府機關的資安要求。
至於如何降低運算量,落地至政府機關,趙式隆認為,可借鏡邊緣運算概念,目前的ChatGPT在公有雲提供全功能,可針對公務機關的特定應用需求可以推出特化版本的ChatGPT,特化版本的運算需求低於公開版本,可落地在政府機關內使用,ChatGPT產出的內容,需經過人工審核校正,讓它不斷訓練,精進特化版本的公務應用。
必需建立規範
不過,趙式隆也強調,AI在使用上應建立配套措施,由於AI無法為決策負責,加上生成式AI產出的內容缺少信心值,使用者難以辨識其產出的內容真偽,因此需要經過人工檢閱,以AI作為公務人員的輔助應用,並建立究責機制,當發生問題時才能確認責任歸屬,否則沒有人員敢於使用。
趙式隆指出,政府機關內部採用新科技,技術難題可交由廠商解決,政府或企業可以建立規範,設立標準流程或範本,確保內部人員使用,有配套措施,究責時有責任歸屬,同時透過建立指引,讓樂於使用新科技提升效率、發揮創意的人有適當的規範,讓擔心風險而不敢使用人,在依據之下安心使用。
趙式隆表示,對公務機關而言,法遵相當重要,運用AI能夠發揮創意,增進工作效率,但應先由專業單位,例如資訊局與法務局合作,共同檢視是否有潛在的道德或法律問題,對於灰色地帶,可訂立自律規範,確保公務工作符合SOP 。
未來在AI的輔助下,趙式隆引用「擴增智能」(Augmented intelligence)的人機協作概念,人類處理小數據問題,由機器來處理大數據問題,機器將許多的訊息匯整歸納為一個公文,由公務人員進一步檢閱公文是否有問題。
儘管ChatGPT從技術展示發展到商業化仍有許多問題待解決,企業或政府機關尚未決定是否採用ChatGPT之前,因ChatGPT開放所有人使用,在尚未禁止使用之前,樂於接受新科技的員工可能已在工作中嘗試使用生成式AI,除了文字的ChatGPT之外,還有生成圖像的Midjourney、Stable Diffusion等等。
趙式隆指出,在政府或組織評估是否採用之前,比較重要的是先定出指引規範,告訴人員哪些使用方式可能會有風險,例如將工作透過公有雲完成,可能的潛在風險。目前市府已準備邀請相關領域的專家,舉辦訓練營等活動,讓市府員工了解使用AI的優點及缺點。
熱門新聞
2024-09-29
2024-10-01
2024-09-29
2024-10-01
2024-10-01
2024-09-30
2024-09-30