【re:Invent 2024現場直擊】AWS執行長揭運算服務新亮點，專為GAI設計推P6、Trn2和Trn2 UltraServer執行個體

在今日主題演講中，AWS執行長Matt Garman揭露一系列運算新亮點，包括採用Nvidia Blackwell GPU的P6系列EC2執行個體、AWS自研晶片Trainium2的EC2 Trn2執行個體，以及由4個Trn2執行個體組成的Trn2 UltraServer執行個體，可用來訓練兆級參數模型。另外，新一代Trainium3晶片將於明年推出。

2024-12-04

新聞 | Charming Kitten | Mint Sandstorm | APT35

伊朗駭客APT35鎖定航太及半導體產業，利用假徵才網站發動攻擊

威脅情報業者ThreatBook揭露伊朗駭客APT35最新一波攻擊行動，並指出這起事故相當不同的是，駭客攻擊範圍涵蓋美國、泰國、阿拉伯聯合大公國（UAE）、以色列，而且針對航太及半導體產業而來

2024-12-04

新聞 | Amazon Nova | AWS | 多模態模型

Amazon公布多模態AI模型家族Nova

AWS發表該公司首款多模態模型Amazon Nova系列，於Amazon Bedrock平臺上提供給企業用戶

2024-12-04

產品快報 | Nvidia H100 GPU Server | Nvidia H200 GPU Server | AMD Instinct MI300X server

支援AI加速器品牌坐二望三，聯想推出8U、8加速模組的伺服器

聯想推出兩款支援多廠牌AI加速器的8U伺服器，目前均能搭配8個Nvidia H100、H200，或是AMD Instinct MI300X，未來可能搭配AI加速器Intel Gaudi 3，兩款機型的區分在於搭配的中央處理器為英特爾或AMD

2024-12-04

新聞 | Fortinet | AI | 生成式AI | Joe Sarno

AI帶動資安市場加速成長，Fortinet揭露自我轉型最新進度

Fortinet利用AI技術應對資安挑戰，探索AI如何驅動資安技術發展，應對複雜網路威脅，應對新興威脅，並推動全球資安教育與平臺整合策略強化全球企業的安全韌性

2024-12-04

新聞 | re:Invent | AWS | 資料中心 | PUE | 多模態冷卻

AWS公布資料中心AI節能技術，新增支援液冷的多模態冷卻系統

在re:Invent大會上，AWS公布新的資料中心基礎架構元件，包括簡化電子電機設計和多模態冷卻系統，提高AWS執行AI的能源效率

2024-12-04

新聞 | Rust | const | 常數

Rust 1.83擴充const上下文功能，強化其編譯時期靈活性

Rust開發團隊在Rust 1.83大幅拓展const上下文功能，允許引用靜態變數並支援可變參照，增強編譯時期程式的邏輯處理能力

2024-12-04

新聞 | AWS | re:Invent | Trainium 2 | 晶片 | UltraServer | Claude 3.5 Haiku | Project Rainier | 加速 | 推論

【re:Invent 2024現場直擊】AWS揭Bedrock AI推論加速功能，能讓Anthropic最新模型推論加速60%

在今年re:Invent年會中，AWS揭露Trainium 2 UltraServer主機，也推出全託管AI平臺Amazon Bedrock的AI推論加速功能預覽版，可加速Llama 3.1模型和Claude 3.5 Haiku模型的推論速度。Anthropic共同創辦人暨運算長Tom Brown還透露，下一代Claude模型將由數十萬顆Trainium 2晶片來訓練。

2024-12-03