去年,由國研院國網中心開始打造的AI超級電腦「台灣杉二號」,以實測計算效能9 PFLOPS,躋身全球超級電腦500強第20名,在5月16日,科技部國研院國網中心正式宣布,基於這臺超級電腦,所提供的臺灣計算雲服務(Taiwan Computing Cloud,TWCC),將於今年6月開始試營運,7月正式上線,首先開放給學研界使用。
而依照先前的計畫,TWCC會將一半的運算資源,供產業界使用,目前計畫是在8月啟動夥伴方案,邀請業界參與,10月再正式開放給產業界申請。
關於這臺AI超級電腦的硬體規格與效能,去年已經多次對外公開,今日由科技部國研院國網中心、華碩、廣達、台灣大哥大等國內業者,共同舉辦的臺灣計算雲的啟動年會上,則是揭露更多架構與軟體方面的資訊。國家實驗研究院國家高速網路與計算中心主任史曉斌表示,為了便於各個領域應用,在TWCC台灣杉二號的系統架構中,採用了OpenStack的IT基礎架構,提供Kubernetes與Singularity等容器服務,底層的網路環境,也配置高速的100Gb InfiniBand EDR,讓多節點的運算更有效率。
而且,TWCC已經提供了相當彈性的架構,不僅是平臺上的容器服務選擇,他也公布了Singularity與Docker的效能現況,在TWCC的平臺上,前者的效能要比後者還高10%。也因此,若要轉換成Singularity這樣更有效率的工作環境,也是可行。
對於AI超級電腦到來,有不少用戶表示期盼,史曉斌也介紹參與先期版本的用戶經驗。例如,專注在病理切片的醫療影像AI公司雲象科技,他們過去面臨的挑戰,是在病理影像標註方面,由於過程往往需要病理師花上很長時間來作業,才能建立人工智慧模型,而在新AI超級電腦的幫助下,將可大大加速此一過程,減少半年的影像標註作業時間。
在先期版本的用戶經驗中,除了雲象科技,還有像是HTC子公司DeepQ為實現精準醫療,以及盾心科技對智慧安防領域的不同應用,也都是借助TWCC之力來加速AI計算。
服務包含4大類型,介面設計強調易於上手
特別的是,尚未發表的TWCC使用者網站介面,也在此次大會展示。史曉斌指出,TWCC新提供的使用者介面(UI),以快速、簡單與易用為目標,而為了快速建立服務環境,UI也要簡潔易懂。
從這次公布的TWCC使用者網站介面來看,當使用者在登入帳號之後,即可控管帳戶使用情形,包括像是計畫資訊、服務項目、基本設定、帳號管理,以及客服資訊與FAQ等。目前網站上提供的服務項目,共分成下列4大類、13項:
● 運算:虛擬機器、開發型容器、任務型容器與HPC高速運算任務。
● 虛擬運算雲:大數據叢集、容器叢集、資料庫。
● 儲存:雲端物件儲存、虛擬機器儲存服務。
● 網路:虛擬網路、虛擬私有網路(VPN)、負載平衡器、網路安全、Auto Scaling。
同時,在TWCC啟動年會的現場,也實際示範建立開發型容器的過程。當我們進入容器管理頁面,在一開始新建立容器時,用戶將可以根據需求選擇合適的AI框架列表,像是Tensorflow、Caffe2、Caffe、CNTK、CUDA、MXNet、pyTorch、TensorRT等,操作並不複雜,介面上也提供了線上手冊供使用者參考。而且,這裡的管理介面,還提供Jupyter與SSH連線,用戶可透過遠端桌面連線程式進到容器,輸入指令執行程式。
基本上,在目前這個TWCC的使用者入口網站中,首頁提供了平臺4大基本功能的介紹,包括虛擬機建立、GPU容器快速部署、高速運算與資料彙集的項目。例如,在GPU容器一項提供了多樣的AI框架,讓用戶可以快速部署容器節省時間,而高速運算一項,則提供跨節點多GPU的分散式平行處理環境,可大幅提昇運算效能。
TWCC打造的使用者介面,以快速、簡單與易用為目標,也就是希望讓使用TWCC平臺的用戶,對於AI主機的使用可以更易於上手,例如能夠快速建立服務環境,使用者介面也要簡潔易懂,即便是初次登入網頁的使用者,目前平臺上也規畫了初學使用導覽,可幫助用戶熟悉操作介面。
在TWCC提供的使用者網站上,用戶登入後可以看到主要的服務分為4大面向,包括運算、虛擬運算雲、儲存與網路。
在建立開發型容器的過程時,用戶將可以根據需求選擇合適的AI框架列表,包括像是Tensorflow、Caffe2、Caffe、CNTK、CUDA、MXNet、pyTorch、TensorRT等多種。
TWCC(Taiwan Computing Cloud)雲端平臺的系統整合、軟體架構一覽
在今日論壇現場,不僅帶來了TWCC先期版本使用經驗分享,像是盾心科技、雲象科技與HTC DeepQ,同時也有多名華碩電腦雲端架構軟體中心的專家,帶來TWCC系統軟體相關經驗的深入分享,包括開源系統軟體研發與整合等。
熱門新聞
2024-12-02
2024-11-29
2024-12-02
2024-11-30
2024-12-02