簡介：近日，阿里雲推出了彈性加速計算例項（EAIS）家族及產品彈性加速推理例項（簡稱EAIS.EI），首次實現了GPU與CPU/記憶體的解耦，可在提升AI推理效率的同時大幅降低成本。

人工智慧推理場景下，EAIS.EI讓使用者可以自定義GPU算力規模。據介紹，該產品可節省最高達50%的推理業務成本，目前EAIS.EI例項支援Tensorflow、Pytorch等主流深度學習框架，最高支援FP32 19.5 TFlops、FP16 混合精度312 TFlops的運算。

釋出會傳送門

產品詳情

無論你是在逛淘寶還是刷抖音，人工智慧都在背後瘋狂計算，短視訊推薦、拍照AI美顏，就連點外賣，人工智慧都在幫外賣小哥優化路線。

人工智慧崛起的燃料之一，就是跟通用處理器CPU有著不同專長的GPU異構加速器。在計算能力方面，如果說CPU是通才，GPU就是專才，非常擅長深度學習和影象處理，因此在人工智慧、直播和短視訊火熱的今天大放異彩。

然而，不同的深度學習應用所需要的CPU、GPU和記憶體等計算資源的比例並非完全一樣，雲伺服器受限於規格，往往只有特定數個比例。在某些情況下，就會造成資源閒置，尤其在推理場景中尤為明顯。深度學習應用分為訓練和推理兩個過程，推理計算需求由於跟業務量緊密相關，往往是總運營成本的大頭，最高佔到90%成本。

EAIS為客戶提供了一個異構算力池，使用者可以將需要的GPU資源附加到任何一款阿里雲ECS伺服器中，根據不同應用需求靈活優化CPU/記憶體與GPU之間的比例，匹配適合的資源組合，有效提升資源利用率。

另外，AI推理計算業務通常伴隨著業務的週期性的峰谷變化，EAIS.EI例項配合彈性伸縮ESS快速感知業務變化，實現高效的業務運維，提升業務彈性。資源的精準組合加上雲服務的彈性，將大大降低成本。

阿里雲異構計算產品負責人透露，除了推理場景之外，未來，彈性加速計算例項還將覆蓋圖形影象與多媒體計算編碼場景，甚至實現含光800與CPU/記憶體的解耦。

彈性加速計算例項，將與神龍AI加速器和cGPU容器技術，一起組成阿里雲異構計算的三大特色優勢，為使用者提供靈活高效、效能超群的異構計算基礎設施。

原文連結：https://developer.aliyun.com/article/775645?

版權宣告：本文內容由阿里雲實名註冊使用者自發貢獻，版權歸原作者所有，阿里雲開發者社群不擁有其著作權，亦不承擔相應法律責任。具體規則請檢視《阿里雲開發者社群使用者服務協議》和《阿里雲開發者社群智慧財產權保護指引》。如果您發現本社群中有涉嫌抄襲的內容，填寫侵權投訴表單進行舉報，一經查實，本社群將立刻刪除涉嫌侵權內容。