| google | TPU | 機器學習 | 叢集

Google發表採用新一代Cloud TPU v4晶片的高效能機器學習叢集

Cloud TPU v4機器學習叢集提供高達9 exaflops的峰值聚合效能,Google表示是目前最大的公開機器學習中樞

2022-05-12

| Look and Talk | 機器學習 | Nest Hub Max | Google assistant | Google I/O

不必再說「Hey Google」,看著螢幕就能呼叫Google Assistant

Google為自家語音助理新增結合機器學習技術的「Look and Talk」功能,讓Google Assistant學會察言觀色,Nest Hub Max用戶不必再說出Hey Google等喚醒詞,就能直接對Google Assistant下達指令

2022-05-12

| AWS | SageMaker | 機器學習 | 無伺服器 | 推理

AWS正式推出SageMaker無伺服器推理服務

用戶可以選擇以無伺服器的形式,將模型部署至SageMaker機器學習服務,在不需要配置伺服器的情況下執行模型推理

2022-04-24

| 永續 | 加速運算卡 | 伺服器 | 減碳 | 機器學習 | GPU | 耗電 | 散熱

高功耗資料中心時代來臨

除了CPU與GPU,為了提升特定應用程式或服務的執行效能,伺服器搭配各種加速運算卡的機會也越來越多,隨著這些元件所承擔的運算工作日益吃重,接踵而來的耗電量、散熱需求增加狀況,勢必也將浮上檯面,成為企業在考量IT整體能源使用效率時,所無法忽視的因素

2022-03-25

| 封面故事 | ML | AI | 機器學習 | SRE | ML可靠性戰略 | google | 服務可靠性工程 | ML當機

10多年Google ML維運經驗,歸納19種ML當機情境要注意

Google ML維運團隊分析近百起大型ML當機事故後發現,系統出錯原因不盡然是ML本身問題,而是與系統管理方式有關

2022-03-15

| 封面故事 | ML | AI | 機器學習 | SRE | ML可靠性戰略 | google | 服務可靠性工程

十多年ML系統SRE經驗,Google練出4大ML可靠性戰略

13年前,Google在匹茲堡設立了第一個ML SRE團隊,開始將累積了好幾年的SRE經驗,開始運用到ML系統,先從改善搜尋引擎關鍵字廣告投放精準做起,後來擴大導入到各式各樣的ML服務,甚至要發展成可以支援多模型類型多租戶架構的ML維運平臺

2022-03-15

| google | 機器學習 | 碳足跡

機器學習系統遵守4Ms最佳實踐可大幅減少碳排

Google研究發現,當機器學習技術採用4Ms最佳實踐,改進包括模型、機器、機械化以及地圖最佳化4個項目的效率,將可大幅減少能耗和碳足跡

2022-02-21

| google | 機器學習 | 神經網路 | 基因組

Google與加州大學合作,運用神經網路技術加速基因定序

Google與加州大學共同開發的PEPPER-Margin-DeepVariant,這是一種以遞迴神經網路為基礎的基因推理模組,為當前最快的商業基因定序技術

2022-01-18

| Apache | Flink | 機器學習 | Python

Flink ML 2.0改進演算法可用性,還新增Python支援

機器學習函式庫Flink ML 2.0.0擁有重新設計的API,並且因應開發者的需求,開始加入Python支援

2022-01-17

| google | 聯合學習 | 機器學習 | Federated Learning | 聯合重建 | Federated Reconstruction | Gboard | 內容推薦

Google在行動鍵盤Gboard使用聯合重建技術改進推薦品質

聯合重建技術能夠在保有用戶隱私的情況下,使用本地端參數個人化模型,達到大規模進行部分本地聯合學習的目的

2021-12-22

| ONNX | 機器學習 | 模型推理 | ONNX Runtime | Xamarin

ONNX Runtime 1.10支援Xamarin,供開發者建構AI行動應用程式

開發者現在可以使用ONNX Runtime,藉由Xamarin來建構跨Android和iOS平臺的人工智慧應用程式

2021-12-20

| 雲端服務 | AWS | re:Invent | Graviton | Inferentia | Trainium | 自研晶片 | Outposts | SageMaker | ML | 機器學習

硬體自主是公有雲擴張不可忽視的助力

這幾年以來,隨著AWS推出VMware Cloud on AWS,以及日益增多的Arm架構執行個體服務,甚至是今年初出現的高效能儲存Volume搭配,他們正一步步展露自己設計多款晶片的用意

2021-12-20