白皮書 云基礎設施技術需求( 四 )


然而,在邊緣基礎架構中部署云服務要求運行云服務的設備能夠容忍邊緣環境,因為邊緣環境不一定擁有與典型云數據中心相同的物理空間、環境控制或電力供應 。因此,允許的延時越短,服務就越需要部署到邊緣,而且允許的功耗也可能越低 。

白皮書 云基礎設施技術需求


人工智能最后,用于數據分析的人工智能已成為云數據中心的重要功能 。人工智能加速器在設備中和云端無處不在 。人工智能加速器支持執行卷積、遞歸、尖峰和其他深度神經網絡,以支持大量應用 。針對云環境的人工智能加速器一般針對 TOPS進行了優化,以提供最高的性能 。這些加速器的設計支持擴展,以縮短訓練時間并適應最復雜的人工智能算法(支持超過 80 億個參數) 。由于人工智能加速器傾向于處理大量數據,因此,內存接口通常是瓶頸所在,這使得高帶寬內存對于這些設備特別有益 。
白皮書 云基礎設施技術需求


針對邊緣計算(尤其是聚合器和網關應用)的人工智能加速器通常針對每瓦性能 (TOPS/W) 進行了優化,以解決邊緣基礎架構和服務的功耗與延時問題 。這些設備具有較高的計算能力和相對簡單的軟件模型,能夠提供快速響應能力 。它們往往為實現低成本和低功耗而進行了優化,而這通常會要求使用低功耗 DDR (LPDDR) 內存 。
為了支持人工智能解決方案的擴展,加速器必須包含一個高速接口,例如 56Gbps 或 112Gbps SerDes 或 HBI 。芯片間的高速接口提供了加速器縮放和擴展能力,可滿足苛刻的人工智能應用的需求 。
云基礎架構的IP解決方案新思科技提供了高質量且經過硅驗證的全面 IP 產品組合,使設計人員能夠開發支持當前和未來云計算應用的 SoC 。新思科技的 DesignWare? 接口 IP、處理器 IP、安全 IP 和基礎 IP 針對高性能、低延時和低功耗進行了優化,同時支持從16nm 到 5nm FinFET 的先進處理技術 。新思科技針對云 SoC 的全面 IP 產品組合包括:
● DDR5/4 內存控制器和 PHY:提供一流的性能,數據速率高達 DDR5-6400,引入了 DDR5 相位感知調度引擎,與競爭對手相比,面積減少了 15%,功耗降低 10%
● HBM2/2E 內存 PHY:具有業界領先的面積和功耗,并且功耗比競爭對手的 IP 低 80%
● 112G 多協議 SerDes:以 <5.5pJ/ 比特的速率支持多種數據速率(1.25 至 112 Gbps)
● 112G USR/XSR SerDes 和 HBI 接口:針對芯片間接口進行了面積優化
● 高速以太網解決方案,包括原型設計套件和 IP 子系統,可加快產品開發速度,并縮短上市時間
● PCIe 5.0 解決方案:經過硅驗證,并已被 90% 的領先半導體公司使用
● CXL 解決方案:基于新思科技經過硅驗證的 PCIe 5.0 IP 而構建,可降低集成風險,其中包括用于驗證 I/O、內存訪問和一致性協議功能的 VC 驗證 IP
【白皮書 云基礎設施技術需求】● ARC HS 處理器:提供從 1 到 12 個 CPU 內核的業界領先的擴展性,并支持多達 16 個用戶硬件加速器,以適應極端工作負載
● 高能效 CCIX PHY 和最低 延時的控制器
● USB 3.0、USB 3.1、USB 3.2 和 USB4 解決方案:具有行業領先的低功耗和小面積實施能力,在數百萬 SoC 中提供了經驗證的互操作性,并且降低設計風險
● 高質量、經過硅驗證的基礎 IP:包括內存編譯器和非易失性存儲器 (NVM)、邏輯庫、通用 I/O (GPIO) 和測試解決方案,使片上系統 (SoC) 設計人員能夠 降低集成風險,并加快產品上市速度
● TCAM 和多端口內存:支持用于網絡和其他應用的高速、低功耗網絡解決方案

推薦閱讀