avav588con,最近2019中文免费字幕在线观看,欧美一道本一区二区三区,九九热在线观看,经典好看免费AV

移動版

當前位置：智慧城市網(wǎng)資訊中心行業(yè)標準

新發(fā)產(chǎn)品更多
《人工智能 服務器系統(tǒng)性能測試規(guī)范》國家標準征求意見
2024年04月09日 14:42:12來源：儀表網(wǎng)點擊量：41029
導讀本文件規(guī)定了人工智能服務器系統(tǒng)，完成深度學習訓練及推理任務的性能（運行時間、能耗、實際吞吐率、能效、效率、彈性、承壓能力等）測試方法。
　　【智慧城市網(wǎng) 行業(yè)標準】近日，由中國電子技術標準化研究院 、華為技術有限公司 、中國科學院軟件研究所 、北京航空航天大學 、浪潮電子信息產(chǎn)業(yè)股份有限公司等單位起草，TC28(全國信息技術標準化技術委員會)歸口的國家標準計劃《人工智能 服務器系統(tǒng)性能測試規(guī)范》征求意見稿已編制完成，現(xiàn)公開征求意見。
 
　　當前具有代表性的通用 AI 測試基準、HPC 性能測試基準或服務器技術規(guī)范，如 MLPerf、AI Benchmark、benchcouncil、AI-HPL、Linpack、DAWNBENCH、T/CESA 1043-2019《面向深度學習的服務器規(guī)范》、GB/T 9813.3《計算機通用規(guī)范 第 3 部分：服務器》《人工智能芯片 面向云側的深度學習芯片測試指標與測試方法》以及 AIIA DNN benchmark 等，在 AI 服務器系統(tǒng)性能測試方面，仍存在一些未解決的問題。
 
　　1) 通用服務器技術規(guī)范對 AI 服務器系統(tǒng)的性能測試的規(guī)定不深入、而且存在同質化傾向。在測試指標方面，僅端到端運行時間、能耗等不能準確反映AI 服務器系統(tǒng)。系統(tǒng)內(nèi)部運行時效能方面，尚不存在標準化的測試方法。
 
　　2) 通用 AI 性能測試，使用公眾可獲得的模型、數(shù)據(jù)集。它們與行業(yè)(如金融、醫(yī)療)實際使用的模型、數(shù)據(jù)有較大差異。通用測試的結果，對行業(yè)指導意義不強，行業(yè)業(yè)務在 AI 服務器系統(tǒng)計算設施上的運行效果，無直接評判依據(jù)。
 
　　3) 當前的測試基準對測試科學(test technology)理論的實踐相對較薄弱。這些測試基準對性能的理解、解釋及測試方法僅限于穩(wěn)定狀態(tài)運行時間，而未考慮真實運行環(huán)境及系統(tǒng)自身現(xiàn)實狀態(tài)。
 
　　針對以上問題，該標準擬結合測試技術，在通用及行業(yè)應用兩方面，研究并標準化測試方法、用例，達到較為全面、準確的測試效果。
 
　　人工智能服務器系統(tǒng)，包含人工智能服務器、集群和高性能計算設施等形態(tài)。人工智能服務器系統(tǒng)，是各類深度學習模型(包含大規(guī)模預訓練模型)的訓練和推理的核心載體，是各行業(yè)應用人工智能技術提升生產(chǎn)效率的核心工具。人工智能服務器系統(tǒng)專為處理人工智能計算任務設計，在架構、運算方式和用途用法上，與通用服務器系統(tǒng)有較大差別，其測試過程、負載和指標等，皆有獨特性。本文件提出人工智能服務器系統(tǒng)性能基準測試的方法，并對基準測試工具提出技術要求。
 
　　本文件規(guī)定了人工智能服務器系統(tǒng)，完成深度學習訓練及推理任務的性能(運行時間、能耗、實際吞吐率、能效、效率、彈性、承壓能力等)測試方法。本文件適用于人工智能服務器系統(tǒng)的性能評估。
 
　　本文件內(nèi)容框架如下：
 
　　1. 測試類型
 
　　a) 開放測試
 
　　b) 封閉測試
 
　　2. 訓練
 
　　a) 訓練過程；
 
　　b) 測試控制要素(含準確率門限、機器學習框架、混合精度訓練、訓練結果精度要求、數(shù)據(jù)讀入要求、數(shù)據(jù)預處理過程、數(shù)據(jù)遍歷要求、目標模型要求、超參選取規(guī)則、優(yōu)化算法技術要求、損失函數(shù)技術要求、操作系統(tǒng)及環(huán)境要求等)；
 
　　c) 結果符合性(含元數(shù)據(jù)、結果模型一致性、訓練代碼要求、日志要求等)
 
　　d) 場景(含通用及行業(yè)專用場景)；
 
　　e) 指標及獲取方法(含通用指標、測試學相關指標、行業(yè)專用指標等)；
 
　　f) 測試工具要求(構架、功能要求、公平性保障要求)；
 
　　3. 推理
 
　　a) 推理過程；
 
　　b) 測試控制要素(含作業(yè)到達控制、準確率、機器學習框架、量化、重訓練、數(shù)據(jù)預處理、數(shù)據(jù)后處理、數(shù)據(jù)遍歷、數(shù)據(jù)緩存、作業(yè)延誤及丟失控制、操作系統(tǒng)及環(huán)境要求等)；
 
　　c) 結果(含元數(shù)據(jù)、模型一致性要求、代碼技術要求、日志要求等)；
 
　　d) 場景(含通用及行業(yè)專用場景)；
 
　　e) 指標及獲取方法(含通用指標、測試學相關指標、行業(yè)專用指標)；測試工具要求(構架、功能要求、公平性保障要求等)。
 
　　更多內(nèi)容詳情請見附件。
關鍵詞 人工智能服務器系統(tǒng)
相關閱讀更多
版權與免責聲明：

凡本網(wǎng)注明“來源：智慧城市網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡有限公司-智慧城市網(wǎng)合法擁有版權或有權使用的作品，未經(jīng)本網(wǎng)授權不得轉載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權使用作品的，應在授權范圍內(nèi)使用，并注明“來源：智慧城市網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關法律責任。

本網(wǎng)轉載并注明自其它來源（非智慧城市網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉載時，必須保留本網(wǎng)注明的作品第一來源，并自負版權等法律責任。

如涉及作品內(nèi)容、版權等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關權利。

正在閱讀：《人工智能 服務器系統(tǒng)性能測試規(guī)范》國家標準征求意見
我要投稿
  • 投稿請發(fā)送郵件至：(郵件標題請備注“投稿”）afzhan@foxmail.com
  • 聯(lián)系電話0571-87756384
智慧城市行業(yè)“互聯(lián)網(wǎng)+”服務平臺
智慧城市網(wǎng)APP

功能豐富 實時交流

智慧城市網(wǎng)小程序

訂閱獲取更多服務

微信公眾號

關注我們

抖音

智慧城市網(wǎng)

抖音號：afzhan

打開抖音 搜索頁掃一掃
i

視頻號

AF智慧城市網(wǎng)

視頻號ID：sphF7DOyrojJnp8

打開微信掃碼關注視頻號

小紅書

智慧城市

小紅書ID：2537047074

打開小紅書 掃一掃關注
反饋