太平洋电器网站索尼r1太平洋评测,在行业内基准测试
海潮NF5488A5在体系拓扑上接纳了超低提早设想,撑持PCIE 4.0全链路极致优化,高频通讯单位接纳一级拓扑近来毗连,最大限度提拔处置器到AI芯片间的通讯机能……
海潮NF5488A5在体系拓扑上接纳了超低提早设想,撑持PCIE 4.0全链路极致优化,高频通讯单位接纳一级拓扑近来毗连,最大限度提拔处置器到AI芯片间的通讯机能。
海潮NF5488A5创下了数据中间22个赛项中的13项机能记载以绝对劣势抢先,NVIDIA DGX获得了5项数据中间机能记载。而在此前的MLPERF锻炼榜单中,NF5488A5在最中心的RESNET50锻炼使命中也创下了机能记载,单机机能高居榜首。
RESNET50是评价AI计较体系和AI芯片机能的环球最普遍承受的尺度。在此基准的RESNET50培训使命中,海潮利用了NF5488A5效劳器,该效劳器装备了8个NVIDIA A100 GPU和2个AMD EPYC 7742处置器索尼r1承平洋评测。仅用33.37分钟便可完成RESNET50模子培训,该效劳器在单效劳器机能方面排名第一。
不只多GPU卡的机能良好,在单GPU卡均匀机能方面(单卡均匀机能=整机测试成果/搭载GPU卡个数),横向比力13家效劳器厂商提交MLPERF 的53个设置测试成果显现,X640 G30效劳器均匀单卡机能得到11项第一。
宁畅效劳器不只在MLPERF平台获得多项天下第一成就,本年新近时分宁畅双路效劳器R620 G30,曾在反应效劳器机能的SPEC CPU2017测试中,革新24项天下记载。
在软件层面,分离GPU硬件拓扑对多GPU的轮询调理优化使单卡最多卡机能到达了近似线性扩大;在深度进修算法层面,分离GPU TENSOR CORE 单位的计较特性,经由过程自研通道紧缩算法胜利完成了模子的极致机能优化,在精度无损的状况下机能提拔近2倍。
同时,经由过程设置NUMA节点,确保每颗处置器与其直连的GPU之间通讯机能最优,最大限度低落通讯提早。别的索尼r1承平洋评测,NF5488A5经由过程深度优化体系构造设想,确保装备可在高温情况下不变运转。
天下记载的背后,是宁畅工程师为用户供给更优性价比产物,将CPU、GPU等效劳器中心部件机能阐扬到极致,所做的不懈勤奋。经由过程供给硬件、软件等定制化效劳,宁畅效劳器将有用低落用户TCO
MLPERF是当前环球最具影响力的AI计较基准评测构造,MLPERF建立于2018年5月,获得了浩瀚行业巨子和学术机构的撑持和到场,此中包罗亚马逊,百度索尼r1承平洋评测,FACEBOOK,谷歌,哈佛大学,英特尔,NVIDIA,微软,阿里巴巴索尼r1承平洋评测,和斯坦福大学,由图灵奖得主大卫·帕特森(DAVIDPATTERSON)倡议。每一年构造环球AI锻炼和AI推理机能测试并发榜索尼r1承平洋评测。
NF5488A5是海潮于本年5月推出,是一款新的AI效劳器,由8个NVIDIA A100 GPU驱动,与第3代NVLINK完整互连,外加2个撑持PCIE4.0的最新AMD CPU。它为用户供给最终的AI机能和超高速带宽,同时为各类AI场景供给壮大的计较撑持,比方智能客户效劳,财政阐发,智能都会和智能言语处置。
海潮AI效劳器NF5488A5和宁畅AI效劳器X640均声称突破多项天下记载,发掘机手艺到底哪家强?
搭配21张T4 GPU卡的X640 G30,在图象分类、语义辨认等浩瀚AI基准测试中,逾越搭配20张T4 GPU卡设置的效劳器,测试分数斩获14项天下第一。
10月22日,海潮AI效劳器NF5488A5声称一举缔造18项机能记载,在数据中间AI推理机能上遥遥抢先其他厂商产物。
美国东部工夫10月21日,环球备受注目的威望AI基准测试MLPERF宣布本年的推理测试榜单。
此次海潮NF5488A5一举缔造18项MLPERF推理机能记载,成为创记载最多的AI效劳器。本年的测试中,数据中间AI机能最受存眷,局部到场机构提交了507项机能测试数据。
NF5488A5是海潮自研的新一代AI效劳器,是此次MLPERF环球比赛中独一能够在4U空间内撑持8块安培架构A100芯片完成NVLINK高速互联的AI效劳器。
同日,宁畅AI效劳器X640声称:首登MLPERF,斩获30项AI机能天下第一承平洋电器网站,同设置测试获16项天下第一。
AI效劳器所能撑持异构计较GPU卡数目,是决议其AI吞吐量的主要身分。依托团队10余年行业经历,宁畅在天下领先在4U尺度机箱中完成21张GPU卡设置,将多GPU卡机能劣势阐扬到极致。
海潮努力于AI计较平台承平洋电器网站、资本平台和算法平台的研发立异,并经由过程元脑生态与AI抢先企业配合促进AI财产化和财产AI化历程。
而比照行业同设置AI效劳器,宁畅X640 G30搭配四张A100 GPU卡的状况下,在RESNET50、SSD、RNN-T、BERT、DLRM等10项测试平分数值获得天下第一;搭配16张T4 GPU卡设置的状况下,X640 G30突破六项天下记载,机能一骑绝尘。
在此次基准测试中,海潮AI效劳器NF5488A5在开放优化(OPEN)和牢固使命(CLOSED)的RESNET50基准机能测试中,均表示优良,比拟2019年MLPERF推理榜单的效劳器最好机能提拔高达3倍。
本次基准测试中,海潮展现出了杰出的AI计较软硬件协同优化才能。在硬件层面,经由过程对CPU、GPU硬件机能的精密校准和片面优化,使CPU机能、GPU机能、CPU与GPU之间的数据通路均处于对AI推理最优形态。
宁畅X640夸大,不异设置下获得第一的MLPERF分数承平洋电器网站,意味着X640 G30 在图象分类、目的检测、医学影象、翻译、保举、天然言语处置等AI使用处景中有更好机能表示,可为用户带来多高代价。
此次MLPERF的AI推理基准测试有环球23家公司和单元到场,在数据中间及边沿等场景停止AI计较产物的机能比试。该基准测试包罗可代表消费级此外测试用例,测试成果在行业内具有较高威望性。
免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186