台北捷運
台北捷運提供的AI智慧客服,協助真人客服減輕工作壓力,提供旅客24小時AI客服,不過,近期有網友測試後發現,北捷AI智慧客服竟然可以提供程式碼範例,引發其他網友測試,事件發生後,台北捷運接獲通報,已緊急要求廠商斷開串接Azure Open AI,讓AI客服回到旅客搭乘捷運相關問題的應答功能。
台北捷運是在2022年11月推出AI智慧客服,提供乘車旅客即問即答的客服服務,後續還提供事件通報功能,讓旅客可以通報飲料打翻、車站或車廂內有髒污等事件,北捷估計每月使用量超過10萬人次。今年3月,北捷AI智慧客服升級,串接Azure Open AI,讓旅客可以和AI智慧客服對話,提供搭乘台北捷運相關資訊。
然而,有民眾近日測試後發現,北捷AI智慧客服功能遠不只如此,該民眾要求AI協助提供程式碼範例,AI客服雖然沒有提供完整程式碼,但仍提供一段程式碼範例,該民眾在Threads發文後,在網路上發酵,吸引不少網友跟進測試,以各種不同請求測試AI客服,甚至釣出AI客服的應答規則,更有人調侃網友熱心幫台北捷運AI客服除錯。
下圖截自Threads:
台北捷運表示,接到通報後,已要求廠商立即斷開串接Azure Open AI功能,回歸到提供旅客常見問答題庫,以回應旅客詢問,目前旅客詢問捷運相關資訊,像是首末班車諮詢、遺失物協尋服務等等皆正常服務。
由於事件發生後,吸引大批網友測試,導致該服務使用的Token量爆增,可能導致使用生成式AI費用激增,對此,台北捷運強調,接到通報後已立即要求廠商斷開串接Azure Open AI,因發現異常即立即處置,並無明顯費用產生。
台北捷運初步研判原因為,網友以程式語言測試捷運AI智慧客服,超出原先設定的資料庫範圍,系統透過Azure OpenAI回應,因此台北捷運立即要求廠商斷開串接功能,回到北捷已建置的旅客常見問題應答。
由於沒有對民眾提出的問題請求設限,擋掉和台北捷運旅客服務以外的無關問題,如果長時間遭到外界濫用,可能導致生成式AI鉅額的收費外,有心人士可能測試各種提問方式,還可能設法騙取AI客服回應企業內的敏感資料,可能衍生出資安的風險。
對此,台北捷運回應,此次一發現異常就立即處置,所幸沒有明顯費用產生,但後續將邀請相關單位召開會議,研議AI智慧客服精進做法,並請廠商提出檢討報告,由台北捷運公司的資安長督導應用單位建立檢核機制。
生成式AI帶動一波AI應用浪潮後,不少公司期待運用生成式AI帶來的效益,特別是在客戶服務方面,因少子化缺工問題,為減輕真人客服的工作壓力,導入生成式AI精進AI客服能力,此次台北捷運AI智慧客服,反映企業使用生成式AI對外提供服務,類似應用在上線前應該謹慎檢測,避免使用者提出服務以外的請求,可能導致被濫用,甚至產生資安的風險。
熱門新聞
2024-12-08
2024-12-10
2024-12-10
2024-12-10
2024-11-29
2024-12-10
2024-12-08