您现在的位置是:探索 >>正文
高通 AI200 開放客戶雲端測試!攜 Cirrascale 搶攻 AI 推論市場_公共海外ios apple id登录切换App Store教程 iOS应用下载
探索65人已围观
简介隨著生成式 AI 從模型開發邁向大規模部署,推論效能、功耗與成本已成為雲端服務供應商及企業的重要考量。Qualcomm Dragonfly AI200 專為因應這些挑戰而設計,結合大容量記憶體、機架級 ...
隨著生成式 AI 從模型開發邁向大規模部署,高通攻推論效能、開放客戶功耗與成本已成為雲端服務供應商及企業的雲端重要考量。Qualcomm Dragonfly AI200 專為因應這些挑戰而設計,測試場結合大容量記憶體、論市機架級運算效能、高通攻公共海外ios apple id登录切换App Store教程 iOS应用下载以及針對推論最佳化的開放客戶軟體堆疊,協助客戶以優異的雲端成本效能與每瓦效能,部署大型語言模型、測試場多模態模型及其他 AI 工作負載。論市
透過此次合作,高通攻Cirrascale 現可為特定客戶提供 AI 雲端環境,開放客戶讓客戶使用自身模型與工作負載評估及驗證 AI200。雲端雙方亦提供平台驗證、測試場工作負載特性分析、論市国区apple id转港区 港区Apple ID转换教程 App Store使用效能基準測試及概念驗證(PoC)等技術支援,這次合作將為高通未來多世代資料中心 AI 推論產品藍圖的持續合作奠定基礎。
Cirrascale Cloud Services 執行長 Dave Driggers 表示,AI 的整體經濟效益,正日益取決於推論階段的成本與效率。客戶需要兼具效率與擴展能力的基礎設施,以支援日益複雜的模型,同時避免電力與營運成本成為發展瓶頸。透過與高通合作,客戶能實際評估專為新一代AI推論打造、極具吸引力的全新架構。
AI200 每張加速卡支援768 GB LPDDR記憶體,提供大規模 AI 推論所需的記憶體容量與彈性。其架構專為支援兆級參數規模的新一代基礎模型推論而設計,提供先進AI應用所需的效能與效率。此機架級解決方案亦整合直接液冷、PCIe向上擴充(scale-up)、乙太網路向外擴展(scale-out)及機密運算技術,並搭配Qualcomm AI Management Suite,同時獲得主流 AI 框架生態系的支援。
除了通用型基礎設施外,特定客戶現在也能透過 Cirrascale 的雲端環境,評估專為 AI 推論打造的平台。Cirrascale 具備專用AI雲端基礎設施與託管服務的營運經驗,並提供透明的固定費率商業模式,不收取資料傳入或傳出費用。
高通執行副總裁暨資料中心部門總經理Tony Pialis 表示,AI 推論正成為資料中心規模最大、最重要的運算工作負載之一,產業需要更有效率的解決方式。AI200 將在高效能、低功耗AI運算方面的優勢延伸至機架級基礎設施,其架構針對推論的效能、記憶體及成本需求而設計。透過與 Cirrascale 合作,客戶可直接使用自身工作負載評估這項技術,並實際了解由此帶來的資料中心整體經濟效益。
(首圖來源:高通)
延伸閱讀:
Tags:
相关文章
远洋山水杀妻自缢案开庭
探索远洋山水杀妻自缢案 2010年11月21日晚8:40左右,北京远洋山水小区29号楼发生命案。家住该楼11层的住户段碧海在家将妻子王娟利砍杀后,自己从楼外墙攀着空调架爬到该楼楼顶上吊自杀。此起命案中的 ...
【探索】
阅读更多衣柜外侧面装镜子效果图-三维家
探索衣柜外侧面装镜子效果图衣柜外侧面装镜子是一种常见的装饰方式,不仅可以增加空间的明亮感,还能提升整体的美观度。本文将介绍衣柜外侧面装镜子的相关概念、知识和使用经验,帮助读者更好地了解和运用这一装饰技巧。 ...
【探索】
阅读更多募资48亿与上市首日领涨 大悦城控股填补西南消费REITs空白
探索核心提示:据悉,大悦城商业REIT发售价格3.323元/份,募集基金份额10亿份,拟募集资金规模为33.23亿元。 撰文:潘玲宣不到一个月,消费类基础设施公募REITs再次上新。9月20日,华夏大悦 ...
【探索】
阅读更多