Microsoft 推出 Maia 200 晶片 為高速、高效，以及具成本效益的 AI 推理系統設立新標準
Microsoft 最近宣佈推出 Maia 200 晶片，為其端到端的 AI 基礎建設發展立下重要里程碑。
晶片效能的重大突破
Maia 200 是 Microsoft 至今部署過最高效能的 AI 推理系統，每美元效能較現有系統高出 30%。
其 FP4 推理效能是亞馬遜第三代 Trainium 的三倍， FP8 則超越 Google 第七代 TPU。
Maia 200 的單一節點能輕鬆處理目前規模最大的 AI 模型，全賴以下技術基礎：
- 為大規模 AI 工作負載而設的台積電 3 納米製程
- 提升低精度運算效能的原生 FP8／FP4 張量核心
- 配備頻寬達 7 TB/s 的 216GB HBM3e 和 272MB 片上 SRAM 的記憶體系統，
以及能讓大型模型保持快速且高利用率運行的數據傳輸引擎
統一的高速網絡架構
Maia 200採用統一的乙太網絡架構，為各節點、
以實現與數據中心無縫整合為設計核心
Maia 200 自研發初期已着重與數據中心的無縫整合，
Microsoft 已開始在其 AI 生態系統中部署 Maia 200。
Microsoft超級智慧團隊將率先利用 Maia 200 進行合成數據生成和強化學習，其後亦會陸續用於為 Microsoft Foundry 及 Microsoft 365 Copilot 提供運算能力，最終將服務延伸至全球客戶。
