作者 | 胡巍巍
出品 | CSDN（ID：CSDNnews）
7年前，笔者曾在北京一家外贸公司实习，公司事务之一，是给在华的俄罗斯人，邮递物品到他们国家。
邮递的物品，一般都是成吨的衣服、或日用品等，这些客户多是从我国进货，然后在当地售卖。
有一次，来了一位金发俄罗斯小伙，他邮递的东西很特别，是一把剑。
那是我榜初次感受到，剑就像我国功夫相同，很受老外欢迎。
我国最早的剑，从轩辕黄帝年代开端。
剑，承载着人们对正义的神往。
春秋战国的神话传说《列子·汤问》，曾提到过一把叫含光的剑。
这把剑，看上去无形，舞起来无影，击敌如割草。
两千多年后的2019年，一家叫阿里巴巴的公司，也造了一个叫含光的物品，不过它不是剑，是一款芯片。
含光芯片，对得起姓名。
北京时刻11月7日，MLPerf基准联盟，发布首轮AI推理基准测验成果：阿里巴巴平头哥的AI芯片含光800，在Resnet50基准测验中，取得单芯片榜首。
MLPerf是什么？
MLPerf，是业界首套衡量机器学习软硬件功能的通用基准，由图灵奖得主大卫·帕特森（David Patterson）于2018年，联合谷歌和几所名校建立。
MLPerf基准联盟，现有50多家成员，包含谷歌、微软、Facebook、阿里巴巴等企业，以及斯坦福、哈佛、多伦多大学等高校。
继MLPerf AI练习基准v0.5、v0.6之后，MLPerf在2019年6月，推出AI推理基准v0.5。
而这次参加推理基准测验、并提交成果的公司共14家，谷歌（TPUv3）、英伟达（T4、RTX、Xavier）、英特尔（CLX 9282、NNPI-1000）、Habana（Goya）等均参加逐鹿。
单芯片榜首，凶猛在哪里？
一般来讲，MLPerf 推理基准测验，设有五个基准，每个基准对应四种场景，该测验要点面向图画分类、目标检测和机器翻译等常见的机器学习使命。
含光800，参加了适用于图画分类使命的Resnet50 v1.5基准测验，在离线形式（Offline mode）、服务形式（Server mode）、多路形式（Multi stream mode）和单路形式（Single stream mode）四个场景测验中，成果都是单芯片榜首。
离线形式：含光800超谷歌和英伟达
在芯片测验中，离线形式测验的意图，是评价芯片推理的最大吞吐量。
这项测验，能够表现芯片的基本功、检测核算、存储、通讯的规划所能到达的最佳功能。
在该项测验中，含光800的成果是69306.60 image/sec，是第二名Google TPU v3的2.11倍。Google TPU v3.8用了4颗芯片，因而论单芯片功能，含光800是TPU v3的8.5倍。
服务形式：是第二名Google TPU v3的2.82倍
服务形式，首要用来测评芯片体系单张图片的吞吐量，含光800的成果是45169.48 image/sec，是第二名Google TPU v3.8的2.82倍。
多路形式：是第二名的Habana Goya的3.84倍
多路形式，则是评价芯片体系所能支撑的视频流的最大路数。
这儿的视频流，界说为20帧/sec。其首要使用于视频、监控、才智城市等。
在多路形式测验中，含光800最大可一起处理2692路视频流，是第二名的Habana Goya的3.84倍。
单路形式：比第二名Habana的Goya快1.41倍
单路形式测验，是用于评价芯片体系的单张图片恳求吞吐量。
它着重单图片的推理场景下，芯片的最小反响推迟，反响越快越“聪明”，数值越小越优异。
这项测验中，含光800的成果，是0.17毫秒。比第二名Habana的Goya快1.41倍。
我国公司初次提交的原创AI芯片
CSDN采访阿里巴巴资深专家、MLPerf专家组成员徐凌杰得知，含光800是我国公司初次提交成果到MLPerf的原创AI芯片。
这款芯片，有每位团队成员的倾情投入，也离不开阿里巴巴经济体强有力的安排保证和支撑。
在未来，含光800将助力阿里巴巴AI事务的开展。此外，含光800本次的成果，也提交到了预演示大类。
这在某种程度上预示着，含光800的算力，将经过阿里云对外输出，阿里云的用户，将有机会在云上，运用含光芯片来加快AI使用。
那么，含光凶猛在哪里？
2019年9月面世的含光800，是阿里巴巴榜首款正式的流片芯片，它根据台积电12nm工艺出产，选用平头哥自研架构，能够有用下降内存拜访延时，并集成达摩院的立异算法，能够深度优化CNN及视觉类算法，还可大幅提高视觉核算功率。
现在，含光800大多数都用在云端视觉场景，现已大规模使用于阿里巴巴集团内多个场景，如视频图画识别/分类/查找、城市大脑等，未来还可使用于医疗印象、无人驾驶等范畴。
“神看光是好的”
陈旧的西方经典《圣经》中，有这样一处记载：“神看光是好的，就把光暗分开了。”
国内互联网巨头中，敢做芯片的不多，由于不只得有巨多的钱、还得有巨多的人才、更得有巨多的时刻。
钱和人，阿里巴巴都不缺，许多公司也不缺。
可是，造芯片的速度，堪比光速。
说含光芯片，是国产芯片的一束光，并不为过。
这束光，足以揭开国产芯片的未来，也足以鼓舞更多我国企业造芯片。
多年前，联想前总工程师倪光南，哪怕负债，也要造芯片。
直到中兴事情后，许多人开端夸他有先见之明。
含光的诞生，尽管并没有悲凉的颜色。
可是当国外科技大佬，总是在讲演中提起Alibaba和HUAWEI的姓名时，像极了曩昔的咱们：那些年，咱们不也是动辄就谈微柔和谷歌，动辄就觉得他们很牛掰嘛？
我国造，也能够很优异。话说回来，咱们只不过是康复本来的位置罢了。
【END】
热 文推 荐
