雙11購物節,是臺灣電商的大日子,不只是業務團隊年度最大銷售戰場,更是考驗電商IT架構和團隊能耐的時刻。但對跨國集團旗下的台灣樂天來說,這反而是展現全球性IT架構優勢的機會。
尤其像是去年雙11,各電商業績屢屢刷新高,但也因短時間內,龐大流量湧入,而面臨網站當機的窘境。而台灣樂天再度安然度過,沒有發生大規模當機事件。
台灣樂天市場電商開發本部本部長張惠凱指出,背後的關鍵就是,台灣樂天的電商架構是比照日本樂天的擴展規模,以全球性思維來設計,而且是部署在日本的樂天雲上,等於是由日本樂天的全球IT維運團隊來服務臺灣系統。「臺灣購物節的規模仍較日本和美國的規模來得小,台灣樂天市場的流量還沒有達到極限。」他說。
回顧去年,張惠凱提到,去年雙11流量再度打破台灣樂天的歷年記錄,流量尖峰出現在熱門商品的限時銷售時段,足足比平日流量,提高了4至5倍。不過,雙11是年年固定日期的活動,臺灣也舉辦了好幾年,早在活動開跑前一個月,樂天IT團隊就開始備戰,根據過往的經驗分階段來進行。
第一階段先規畫需求量,依照活動過去流量變化的情況,IT先與負責全球的內部DevOps團隊討論,來預估出潛在需要承載的查詢量(QPS)。下一階段,再依此查詢量預估值,來設計當年度購物活動所需的運算資源需求,而DevOps團隊會在指定時間點,將所需數量的伺服器,開放給台灣樂天使用。
因為各地大型促銷活動時間不同,例如日本是5月,而美國則是11月黑色星期五,伺服器資源在雙11期間多半會有預留,不過,每次在銷售活動前,台灣樂天還是小心翼翼地再次檢視了樂天雲可供動態調配的容量。張惠凱解釋,雖然樂天已經採取了多項低延遲機制,來確保網站交易的順暢,但流量尖鋒往往會瞬間暴增,沒有事先開啟運算實例的資源,根本來不及。
等到優惠活動開跑後,不只台灣樂天IT要提高警覺,樂天位於印度的線上支援團隊也會即時監控臺灣網站的流量,一旦出現尖峰,立刻通報臺灣開發團隊。臺灣根據後續業務活動和尖峰流量變化,再請求印度維運團隊直接手動調度運算資源。張惠凱強調,有些活動的尖峰流量只是短期效應,新增的伺服器可能都還未到位,尖峰就已經消失了,所以,「監控才是因應尖峰爆量的關鍵。」他表示。
樂天不僅在日本是最大規模的電子商務平臺,且在全球30國都設有營業據點,全球會員數達13億人。而臺灣,則是日本樂天集團第一個海外據點,早在2008年就正式開始營運,至今,在臺灣的樂天商城及行動會員數也達到600萬個。
樂天在臺的開發團隊超過60人,其中有三分之二的成員,負責全球電商平臺服務的開發工作,另外,三分之一的成員,才是負責臺灣在地服務,像是電子票券平臺樂天Pickup、點數交換機制,以及臺灣電商服務等。這樣的團隊分工模式,也凸顯了台灣樂天與樂天集團的緊密關係,而且,即使在臺灣,張惠凱強調,任何開發工作也都得從全球性架構的出發點來思考。
樂天各地據點在成立之初,都各自建立了在地機房,不過,隨著日本樂天業務快速成長,在2013年時,正式啟用了樂天雲,緊接著,要求全球各地據點,開始將部署於本地機房的系統,搬遷上樂天雲。台灣樂天也不例外,則於2015年完成了上雲工程,除了少數臺灣本地專用的內部流程處理系統、人資系統等以外,前臺系統像是店家系統、點數系統等,都搬到了日本樂天雲。
不論是日本、美國或台灣樂天的電商業務,都有大量服務使用同一朵樂天雲和相同的平臺,張惠凱說明,不只可以全球性相互調度資源,日本當地更設有專門資安團隊,資安架構也相較安全。
雲端環境全面擁抱容器架構,以支撐業務快速地成長
開發過程講求速度,但重點是,快速找到方向,而非快速做出成果。──台灣樂天市場電商開發本部本部長張惠凱 (攝影/洪政偉) |
不過,隨著樂天業務不斷成長,樂天從2016年開始,也展開架構翻新的工程,擁抱容器架構,以支撐營運發展,張惠凱指出,尤其要解決虛擬機器開啟時間過長,甚至不只數分鐘而要數十分鐘的痛點。
樂天這項IT架構翻新工程歷時了兩年,樂天雲在去年正式全面轉換為容器架構,而系統也已全面更新,大量採用了微服務的設計。
導入容器架構,雖解決了虛擬機器調度太慢的痛點,然而,大量微服務的部署工作,也帶來開發團隊管理上的新挑戰,張惠凱指出,樂天全球約70種服務,由各地不同團隊負責,因為這些服務橫跨了近十年來樂天的技術進展,也因應各階段技術和需求,採用了不同的程式語言架構,有些服務使用Java,而有些則是Rails,又或是其他技術框架,所以,上雲後得有一套API設計,來串接各種服務伴隨的微服務。
將原有應用系統拆解成微服務時,他表示,台灣樂天也參考了日本的標準作法,先以業務別劃分了幾大項目,包括了支付、身分、點數、產品、店家等,再進一步切割出更細小的微服務。
70服務如何形成單一生態圈?API串接是技術關鍵
台灣樂天成立逾10年,不僅隨著集團IT的發展腳步,業務面上,也隨著集團在日本逐步擴展服務項目,在臺提供的服務也越來越多元。除了創始業務電商之外,更跨足了金融、旅遊、數位內容等市場,並且將會員、大數據與品牌三者,緊密相連後,打造了生態圈,這更是樂天在競爭日趨白熱化和全球化的電商市場上,與其他品牌競爭時,最強而有力的利器。
API就是串起生態圈背後各項服務的關鍵,而台灣樂天開發部在樂天API團隊中,扮演了舉足輕重的角色。該API團隊由日本和臺灣成員共同組成,約有11人,其中就有6位來自臺灣。張惠凱表示,樂天全球電商API系統的相關開發,有一半是由臺灣團隊支援。張惠凱在2018年加入樂天之前,於Mozilla有許多的API開發經驗,也成了他率領台灣樂天團隊的參考。
面對管理模式及規模的改變,由過去管理上百個虛擬機器,和上千個應用系統,到管理數千個,甚至數萬個微服務,樂天有一整套管理作法,來支撐API開發工作。
張惠凱表示,臺灣團隊在開發API時,除了得掌握全球各地業務團隊的需求,也得與各地IT團隊合作,他進一步說明,例如開發相關文件得和日本團隊討論,而系統管理工具和儀表版,則來自印度DevOps團隊。
除了全球共同的API開發規範之外,樂天每一支API,都指派了一位負責的產品經理,換句話說,樂天將API視為網路服務來管理。產品經理除了要收集全球的API需求,也需思考全球業務未來發展的可能性,進而規畫API的彈性。張惠凱說明,API產品經理需對開發作業有一定了解,所以不少是由工程師轉任,但他坦言,這樣的人才不容易尋得,多由樂天自己培養。
樂天開發API三大設計原則
張惠凱表示,設計API時,彈性、性能和資安是樂天最重視的三大原則。第一個彈性原則,考量樂天的全球性架構,任何一個API開發完成後,多項服務都可能會使用到該API,這些服務甚至是分散於樂天各國據點。因此,API要採用高度彈性的設計架構,才容易讓各地因應改版或後續調整。
他舉例,當某據點要為擴充一項服務的特性時,要求對應的API也要修改,但API改版工作必須同時兼顧新服務,又相容原有API的功能,才能繼續支援既有API的使用地區。「API機制要具備彈性的關鍵,才可因應各地需求的變化。」他說。
再者,樂天也相當注重API架構的整體性能,在設計API架構時,軟體工程師必須思考,當查詢量超過API定義數值該如何因應,以具擴展性能的能力,張惠凱強調,開發者必須從整體架構來考量,因為單一API呼叫,後面還串聯了許多個API。日本樂天就有一組專門的QA工程師負責模擬、測試API的效能瓶頸和極限。
第三個關鍵原則是資安,當API設計完成後,會由日本樂天資安部門的稽核小組,審核架構設計,進行弱點分析、程式碼審查、漏洞分析等,以及了解使用的系統和系統的版本,來確保每一個環節都安全無虞。
像是歐盟GDPR個資保護規範,雖與臺灣無直接關聯性,但因樂天為全球性架構,所以台灣樂天開發團隊的設計,也需完成自我評估報告,以確認每個系統與GDPR間的適用性,再將結果往上彙整給樂天總部的資安部門。
而根據GDPR,樂天資安部門設計了一套嚴謹的架構和流程,作為各地團隊依循的依據,每一個系統都得符合。
今年,樂天資安部門將在臺灣建立在地團隊,因樂天在臺服務越來越多元,生態圈逐漸擴大,再加上樂天也參與了臺灣純網銀執照的申請,考量日後純網銀服務的發展規模,台灣樂天也決定,在臺成立資安團隊,提早做準備。
該資安團隊由日本總部主導成立,引進日本資安作法,而且由樂天全球資安部門統一發配工作,張惠凱說明,該團隊如同樂天全球資安團隊一樣,也同要要協助樂天在全球各據點的資安事宜,不過,一旦,臺灣服務有需要,這個團隊就能優先接手,快速支援在地業務。
因臺灣開發團隊多數的任務是,支援全球性服務,因此張惠凱指出,需格外注重開發項目的穩定性,須遵循更為嚴格的全球規範,才可確保各地的隱私性。所以面對不斷推陳出新的新技術,他強調,在新舊技術轉換的同時,必須要確保服務可穩定運作。
雖有嚴謹的框架要遵循,才可確保服務的穩定性,但張惠凱也十分重視工程師可接觸新技術的機會,所以從去年底開始,他於每個季度舉辦開發本部技術分享會,讓自願分享試作的工程師,透過實際演示,分享近期掌握的新技術,他表示,工程師若沒有機會接觸新技術,一直沿用舊技術,時間久了,會感到無力,覺得被掏空,該活動不僅可讓工程師接觸新技術,也讓他們思考如何將技術與計畫結合。
雖走敏捷開發,張惠凱指出,設計時,開發者得不斷思考使用者的需求,這正是樂天内部經常強調的「自走文化」,尤其他強調,講求速度的重點應該是,在開發過程中,快速找到方向,而非快速做出成果。
CIO小檔案
台灣樂天市場電商開發本部本部長張惠凱
學歷:交通大學資訊工程學系碩士
經歷:逾18年軟體開發經驗,曾任職於明基電通、技嘉科技,2008年進入鴻海擔任資深軟體副理,負責Android專案開發,2012年進入Mozilla任職長達6年,擔任研發總監。2018年5月進入台灣樂天市場,擔任電商開發本部本部長,帶領60名開發人員,負責開發樂天電商平臺
公司檔案
台灣樂天市場
● 在臺地址:臺北市民生東路3段49號11樓
● 網址:www.rakuten.com.tw
● 在臺成立時間:2008年
● 主要業務:電子商務平臺,發行樂天超級點數,陸續提供金融、旅遊、數位內容等服務,積極打造生態圈
● 總部:日本東京
● 董事長:小林正忠
● 執行長:羅雅薰
● 資本額:約17.5億元(2018年)
● 員工數:約360人
● 科技部門名稱:電商開發本部
● 直屬主管:羅雅薰(臺灣)/Akihito Kurozumi(日本)
● 科技部門主管:張惠凱
● 科技部門人數:逾60人
● 部門分工:產品管理、App開發、全球電商平臺API開發、臺灣網頁開發、在地維護和臺灣樂趣買(Rakuma)開發,共6個組別
公司大事記
● 2008年:台灣樂天市場成立,為日本樂天株式會社在海外成立的第一家子公司
● 2009年:在臺灣推出樂天旅遊服務,及啟動樂天超級點數回饋機制
● 2013年:樂天雲於日本啟用
● 2015年:台灣樂天市場完成上雲工程,及台灣樂天市場App上線1
● 2016年:樂天KOBO及樂趣買服務,在臺上線
● 2017年:樂天超級點數全球發行量可繞地球三圈,啟動臺日樂天跨境超級點數兌換機制
● 2018年:樂天雲全面轉換為容器架構,取代傳統VM架構
● 2019年:在臺成立資安團隊,與臺灣在地電商啟動點數互換機制
熱門新聞
2024-11-25
2024-11-25
2024-11-25
2024-11-25
2024-11-24
2024-11-25
2024-11-22