12月2日,2018年神經信息處理系統大會NIPS(Conference and Workshop on Neural Information Processing Systems)在加拿大蒙特利爾國會大廈舉行,大會上百度重磅發佈X-MAN3.0,專為深度神經網絡優化的超強AI計算平臺。該方案由百度與浪潮合作研發,每秒可完成2000萬億次深度神經網絡計算。
面向深度神經網絡優化的超強AI計算平臺X-MAN3.0亮相NIPS2018
NIPS是機器學習領域的頂級會議,大會的內容涵蓋了機器學習、神經科學、認知科學、心理學、計算機視覺、統計語言學和信息論等156個領域。深度學習是AI發展的主要動力,也是大會最熱門的話題之一,目前,在深度學習三要素計算、演算法和數據中,除了演算法創新外,計算技術的創新成為深度學習發展的主要動力。
兩級交換,GPU資源統一池化
浪潮是百度在數據中心領域最重要的戰略夥伴,一直與百度聯合研發包括X-MAN3.0在內的各類AI專用計算平臺。X-MAN是百度用於超大規模AI訓練的專用平臺,第一代産品發佈于2016年,每年更新一代,此次發佈的是第三代。
X-MAN3.0高度為8U,由兩個高度分別為4U的獨立AI模組組成,每個模組可支持8顆最新的NVDIA V100,兩個AI模組之間通過高速互聯背板連接。GPU之間通過NVlink Switch鏈路通信,全局單向通信總頻寬為2400GB/秒。
同時,X-MAN 3.0專門設計了兩級AI加速晶片互聯交換體系,CPU與GPU之間的邏輯關係可以通過軟體定義的方式任意指定,更為靈活的支持不同負載的AI應用,避免系統瓶頸。這是X-MAN3.0與業界其他産品的區別之處。
專為深度神經網絡優化的超強AI計算平臺
現在AI訓練對於計算平臺的挑戰越來越大,為了提高AI模型的精準度,訓練數據集規模平均增長了300倍以上,Google Open Image在2017年末就已經達到了900萬標記圖片,模型規模高速膨脹,一些互聯網公司的AI模型已經達到千億參數的規模。
這不僅需要用戶部署更大規模的GPU計算平臺,而且需要部署具有更大縱向擴展能力的GPU計算平臺,因為後者能夠解決日益嚴峻的GPU之間的通信瓶頸。以AI模型常用的三維快速傅裏葉變換演算法為例,這種演算法在GPU並行環境,每三次運算就需要一次全局性通信,對於GPU間的交互頻寬高度依賴。
X-MAN3.0是目前擴展GPU數量最多的計算平臺之一,而且採用了NVlink Switch技術,可以很好地緩解通信瓶頸問題,可以為互聯網公司的超大規模AI訓練帶來超出預期的應用價值。
當前AI訓練晶片領域競爭激烈,眾多方案將在19年相繼落地應用。X-MAN3.0整體採用模組化設計,能夠快速、高效的支持各種AI訓練晶片,這為百度快速引入更有競爭力的AI訓練晶片方案奠定了關鍵技術基礎。
深度佈局AI
根據 IDC數據,2018年前兩季度,浪潮在中國GPU伺服器領域的銷售額份額為52%,遠遠領先於其他廠商。近年來,通過JDM模式創新,浪潮一直為互聯網公司提供定制化的計算平臺方案,除了X-MAN系列,浪潮與百度聯合研發了很多業界領先的産品,比如ABC一體機,單物理集群支持64塊GPU的超強擴展平臺SR-AI整機櫃,以及天蝎整機櫃伺服器冰山冷存儲節點,都已經在百度批量部署應用,極大地提升百度數據中心的計算力和可擴展性。
NIPS2018現場,浪潮展臺
目前,浪潮是全球領先的AI計算力廠商,從計算平臺、管理套件、框架優化、應用加速等四個層次致力於打造敏捷、高效、優化的AI基礎設施。浪潮已成為TOP級互聯網客戶最主要的AI伺服器供應商,並與科大訊飛、商湯、曠視、今日頭條、滴滴等人工智能領先科技公司保持在系統與應用方面的深入緊密合作,幫助AI客戶在語音、圖像、視頻、搜索、網絡等方面取得數量級的應用性能提升。
1、“國際在線”由中國國際廣播電臺主辦。經中國國際廣播電臺授權,國廣國際在線網絡(北京)有限公司獨家負責“國際在線”網站的市場經營。
2、凡本網註明“來源:國際在線”的所有信息內容,未經書面授權,任何單位及個人不得轉載、摘編、複製或利用其他方式使用。
3、“國際在線”自有版權信息(包括但不限于“國際在線專稿”、“國際在線消息”、“國際在線XX消息”“國際在線報道”“國際在線XX報道”等信息內容,但明確標注為第三方版權的內容除外)均由國廣國際在線網絡(北京)有限公司統一管理和銷售。
已取得國廣國際在線網絡(北京)有限公司使用授權的被授權人,應嚴格在授權範圍內使用,不得超範圍使用,使用時應註明“來源:國際在線”。違反上述聲明者,本網將追究其相關法律責任。
任何未與國廣國際在線網絡(北京)有限公司簽訂相關協議或未取得授權書的公司、媒體、網站和個人均無權銷售、使用“國際在線”網站的自有版權信息産品。否則,國廣國際在線網絡(北京)有限公司將採取法律手段維護合法權益,因此産生的損失及為此所花費的全部費用(包括但不限于律師費、訴訟費、差旅費、公證費等)全部由侵權方承擔。
4、凡本網註明“來源:XXX(非國際在線)”的作品,均轉載自其它媒體,轉載目的在於傳遞更多信息,豐富網絡文化,此類稿件並不代表本網贊同其觀點和對其真實性負責。
5、如因作品內容、版權和其他問題需要與本網聯繫的,請在該事由發生之日起30日內進行。