学院出身,喊话英伟达,技术惊艳,框架开源,融资激进……剧本是否似曾相识,套用在那些响当当的明星 AI 芯片公司身上似乎都能对号入座,但是很不幸,先驱已经倒在了退潮期的沙滩上。
过分追求性能、功耗等参数上的优越性很大程度上将造成在实际应用上脱节——编程困难和不可移植,很难在实际应用中发挥效果,更难建立生态。
换句话说,产品再好,但客户用不上。
撰文 | 徐丹、吴昕
编辑 | 四月
2020 年,第一家 AI 芯片公司倒在了黎明前。
美国 AI 芯片公司 Wave Computing 接近倒闭,已申请破产保护,中国区工厂全部关闭。尽管 Wave Computing 负责人第一时间向媒体解释,公司并非倒闭,只是申请破产保护,进行资产重组。但显然并不能改变什么。
Wave Computing,2010 年成立于美国加利福尼亚坎贝尔,公司愿景是「数据追踪」,定位云计算市场,从数据中心到边缘云,对客户的数据进行深度学习训练。核心产品是基于 dataflow 技术架构的芯片 DPU,每项技术都处在行业研究前沿,在加速神经训练上甚至能够超越 GPU 1000 倍。可以称得上最早的一批 AI 芯片公司。
Wave 早期团队与学院派出身的 MIPS 渊源颇深,甚至说脱胎于 MIPS 也不为过——Wave 的七位高管有四位都曾任职 MIPS,其中 CEO Derek Meyer 曾经是 MIPS 销售与营销副总裁。而作为最早最早的商业化 RISC 架构芯片之一的 MIPS,比 ARM 早了数年进入市场,在中高性能的嵌入式设备和通讯市场大放光彩,曾与 ARM、x86 一同誉为全球三大主流架构。
这家明星公司一度被誉为全球最有前途的 AI 公司之一,从长期资金市场中共获得超过 2 亿美元投资。在最高光的 2018 年,先后被评为「机器学习行业技术创新领导者」,「25 大人工智能供应商」之一,又入选全球半导体联盟 (GSA)「最受尊敬的私营半导体公司」奖,坐拥超过 400 余项专利。
一 DPU 的挫败:「AI 芯片的核心竞争力是生态」
2017 年的高性能芯片峰会 Hot Chips 上,Wave Computing 一鸣惊人。其 CTO Dr. Chris Nicol 在大会上公开表示,他们的 DPU 产品「在加速神经网络训练上能够超越 GPU 1000 倍」。
考虑到 GPU 在目前深度学习市场的地位,刚成立 5 年的 wave 发出这样的宣言实在是艺高人胆大。「超越 GPU」,这一产品的最初定位也成了他们走错的第一步。虽然如今这已成为 AI 芯片宣传的惯用套路,但回到 2017 年,仍然称得上「惊世骇俗」。
传统的 CPU、GPU 有一些不足的地方,使用冯诺依曼(von Neumann)架构,提供各个精度的高并行的科学运算,数据输送流程繁复。但深度学习算法往各个领域渗透时却只需要低精度的累乘加运算,无法在 GPU 上获得很好的性能功耗比。
Wave Computing 正式看准了这个市场,推出独创的基于 DataFlow 技术架构芯片 DPU,欲出售给正在寻找 GPU 替代产品的大型互联网数据中心和企业。
从技术角度看,DPU 无论在哪个维度都非常惊艳。它采用了采用非冯诺依曼(von Neumann)架构的软件可动态重构处理器 CGRA(Coarse grain reconfigurable array/accelerator)技术,数据驱动执行,全异步电路,以及数十万核的静态调度工具链,每一项都是业界最前沿的研究方向。
DPU 晶片具有 16000 个处理元件、8000 个以上的运算单位及独特的自定时机制,使用粗粒可重组式架构 (coarse grained reconfigurable architecture),有(16nm,160K PEs,400mm^2,200W)的超低功耗和(6.7GHz)的超高效率频。
中国区总经理熊大鹏博士曾在采访中表示,DPU 的解决方案相比传统 GPU 更适用于边缘计算,价格功耗相同的情况下,DPU 在能效、可扩展性和性价比方面更有优势。
正是因为这些无与伦比的性能参数,Wave Computing 一直都是资本的宠儿。2017 年 D 轮融资,投资方包括三星电子和 Tallowed Venture,2018 年 E 轮融资,领投公司为 Oakmout Corporation,目前为止总投资已经超过领 2 亿美元。
但与长期资金市场高歌猛进的态势相反,Wave Computing 的市场表现很惨淡,一直没能做出相应的成绩。
Wave Computing DPU
对此,研究机构 Tirias Research 首席分析师 Kevin Krewell 猜测,「可能是因为 Wave 的 AI 数据流处理器并没有对英伟达或者 Graphcore 造成多少实质性的威胁。」
DPU 在参数上的确可以胜过 GPU,但是对 AI 来说,核心竞争力并不是这颗芯片真正的性价比怎么样,而是生态环境。
Wave Computing 无法对英伟产生实质性威胁,其中的关键是无法挑战庞大的 CUDA(Compute Unified Device Architecture)生态,CUDA 是一种由英伟达推出的通用并行计算架构,具有极强的灵活性和可编程性,可为不同领域做定制化的高效率加速,CUDA 在消费级市场、科研市场和金融市场等都有非常广泛的应用。目前 CUDA 已开发到第 10 代,在全球拥有超过 50 万开发者使用。
再回头看,像 Wave Computing 一样的公司其实是牺牲了通用性来获得某个领域的专用加速,Google,百度,阿里都在很短时间里组建了自己的硬件设计团队并推出了各自的加速器和编程框架。在各家的宣传中,对 GPU 的性能可以说都是数十倍的提升。
专用于某个特定领域的芯片牺牲通用性绝对没问题,但对 Wave Computing 来说,过分追求性能、功耗会造成在实际应用上的编程困难和不可移植,很难在实际应用中发挥效果,更难建立生态。
换句话说,DPU 再好,但客户用不上。
二 加速坠落:一桩事先张扬的收购案
2018 年 6 月,Wave Computing 做了一件震惊 AI 届的事情——收购硅谷老前辈 MIPS。并于 12 月正式启动 MIPS Open 项目,免费开源 MIPS 架构,2019 年 3 月发布了 32/64 位指令集 Release 6 版本。
对于一家只有 100 多名员工的初创企业收购另一家规模相当的老前辈的行为,当时很多业内人士认为非常冒险。
但是站在 Wave Computing 的角度,在 DPU 产品在市场萎靡不振的情况下,收购 MIPS 或许是可以拯救他们的最后一搏,并且,Wave Computing 和 MIPS 还有内在的「血缘关系」,多达 7 位高管都来自 MIPS,在内部磨合方面应该会更轻松。
说到 MIPS 就不得不提及他的历史,这是一家颇具传奇性又命运多舛的公司。
MIPS 架构流水线
MIPS 全名为「无内部互锁流水级的微处理器」(Microprocessor without interlocked piped stages),是基于精简指令集(RISC)的衍生架构之一。
它曾是安卓系统支持的三大处理器之一,一度比 ARM 还要火,比 ARM 诞生还早六年,算是他的同门师兄。
早期 MIPS 公司是对标英特尔,面向中高端市场输出产品,设计多被用来游戏机、路由器、计算机等终端设备上。
不过,在后辈英特尔果断踏入移动时代的大门并迅速完善生态时,MIPS 却固守在高清盒子、打印机等原来的市场,错失了 2007-2017 移动手机发展的黄金十年,在生态较量中铩羽而归。后来在 Silicon Graphics、英特尔、Imagination Techologies、Tallwood Capital 手上几经辗转,业绩一直处于亏损状态。
或许是几度卖身长期寄人篱下削减了它的锋芒,MIPS 兵败如山倒,再也没能恢复往日的辉煌。
2012 年 MIPS「卖身」给 Imagination 时收购价高达一亿美元。可惜,收购并没给 Imagination 带来预期的效果,反而还拖累了业绩。去年 5 月,Imagination 开始出售 MIPS,在不到五年的时间内价值从 1 亿美元缩水到 6500 万美元。到 Wave Computing 接手时,虽然具体价格未披露,但想必是在 6500 基础上又缩了水。
即便如此,Imagination 还是有其独特的价值,在一些多线程技术上,MIPS 甚至比 ARM 所能提供的更为先进。并且它还能在一些实时、功率敏感的应用中发挥及其重要的作用,例如 LTE、人工智能 (AI) 和物联网 (IoT)。
对于 Wave Computing 来说,MIPS 作为一个成熟的计算方案,可为其提供「从边缘到数据中心」的数据流处理技术,为全球客户提供解决方案,使 Wave Computing 成为一个「可拓展、统一的 AI 平台」,执行整个 AI 工作,而无需 CPU 干预或消耗 CPU 资源,更加高效。
另外,借 MIPS 在网通设备上的影响力,Wave Computing 也可以强化自己的终端大计,从中心云进入到边缘云市场。
前两任 CEO Derek Meyer 对于 MIPS 寄予了厚望,他多次谈到将人工智能从数据中心推向边缘的愿望,表示「开源 MIPS 是这一战略最关键的一环」。
可惜的是,不到一年的时间 MIPS OPEN 计划就宣布失败,给客户的邮件中说:
「Wave Computing,inc. 及其附属公司 (『 Wave』) 遗憾地宣布关闭 MIPS 开源计划,并自 2019 年 11 月 14 号起生效。从现在开始,Wave 将不再提供免费下载 MIPS Open 组件的服务,这些组件包括 MIPS 架构、核心、工具、 IDE、模拟器、 FPGA 包,以及 / 或与之相关的任何软件代码或计算机硬件。」
开源失败能够说是压死 Wave Computing 的最后一根稻草。一方面耗费了大量的现金流,另一方面去年 Wave Computing 的硬件峰会也宣布取消,长期资金市场开始对其产生怀疑,Wave Computing 可能很难再靠技术和战略故事融资。
三 连续出走的 CEO 和掌权的「门外汉」
如果最后一搏成功,Wave Computing 的故事可能还会继续讲下去,为什么这个野心勃勃的开源计划不到一年就夭折了?
从 IP 市场来看,MIPS 开源「外患」不小,面临着 ARM 和 RISC-V 的双重夹击。
往前看,吃到智能手机红利的 ARM 已经拥有全球性的生态,基本垄断全球移动芯片市场,并且在一步步往终端市场攻城略地,ARM 白皮书称,「将在物联网模块和数据服务上花费 1 万亿美元」。
往后看,同样开源的 RISC-V 发展迅速,咄咄逼人。相比 ARM,RISC-V 具备精简、灵活、模块化、可配置、没有历史包袱等特性,在发展领域上同样标准了边缘或终端市场,且二者技术没有明显差异,未来会不可避免的进行竞争。谁能取胜就要看政策、商业模式、管理等其他因素。
很不幸,MIPS Open 的内部管理机制非常混乱,比「外患」更严重的是「内忧」。
2019 年 Wave Computing 经历了两次换帅,现任 CEO 为 Sanjai Kohli,于 2019 年从只任职 4 个月的 Art Swift 手中接任 CEO 一职。
现任 CEO 为当时 EE Times 采访了 Art Swift,问及为什么这么快就离开 Wave Computing,Swift 拒绝透露详情,只回应称:「我在短期筹资策略上与董事会意见不一致。」
Art Swift
频繁变动公司高层变动会对开源产生很大的影响,因为有效的管理对于确保 MIPS 客户开发工具、应用程序和 MIPS 开放生态系统提供的其他增值特性和服务都至关重要。
事实上,经历过这两次变动后,Wave Computing 内部也基本上没有人能带领 MIPS 开源计划。正如 Krewell 所说,「Swift 走后,Wave Computing 内部已经没有偏爱 MIPS 的人了。」
开源原本是前两任 CEO Derek Meyer 的计划,他同时也是 MIPS 的资深人士,自收购 MIPS 以来一直在悄悄推动开源。
Meyer 走后,Swift 接替其成为 MIPS 授权业务总裁,他也十分熟悉 MIPS,曾在该公司担任营销和业务开发副总裁四年。
同时,Swift 还是 prpl 基金会的主席,prpl 基金会成立于 2015 年,是一个开源的、社区驱动的联盟,专注于实现嵌入式设备的安全性和互操作性,例如客户端设备,物联网和家庭网关系统,Arris Technology,英特尔,沃达丰,高通等都在其会员名单内。
所以 Swift 在社区管理方面很有自己的见解,而 MIPS 未来的成功在很大程度上取决于社区的努力,「我们也可以建立一个多么有活力、多么繁荣的社区,这是关键。走开源不仅仅是一句空话。」
可惜,Swift 最后因为内部不合选择出走,MIPS 开源计划就此损失了一员大将,也几乎断了 Wave Computing 于 MIPS 之间的血脉。
新来的 Sanjai Kohli 别说对 MIPS,甚至在人工智能方面都是一个「门外汉」,Kohli 曾是多家初创公司的创始人和 CTO,包括 SiRF、WirelessHome,TruSpan 和 Inovi。但据熟悉他的人表示,Kohli 在 GPS 和电信方面有很深的造诣,但在人工智能领域却没有太多令人信服的成就。
内忧外患之下,MIPS 开源失败也就不足为奇。
四 马太效应下,初创企业退潮裸泳
「应该会有不少企业去他那里抢人吧。」
Wave Computing 倒闭之后,有一些业内人士发出了这样的感慨。调侃背后,也有对这家昔日明星公司的惋惜,毕竟它有独创性的技术,也曾被誉为 AI 创业公司的标杆。
而它倒下的背也反应出了一些行业性焦虑。对于广大的 AI 创业公司来说,或许,Winter is coming,凛冬已至。
就国内市场来说,据艾媒咨询 2019 年数据,2015-2017 年是 AI 芯片公司迅速增长的阶段,到 2018 年新增企业数量减少,融资事件同比增长 32%,但整体投融资额金额骤减,与此同时,头部企业在 2018 年依然持续获得投资人青睐,多家企业创估值新高。
这些现象表明,AI 芯片行业「马太效应」现象越来越明显,头部企业占有资金、技术、生态等种种优势,最终会强者愈强,一步步蚕食市场,给创业公司发展带来的巨大的压力。
从下游市场来说,在巨头的挤占下,初创型 AI 芯片公司落地场景非常有限。据艾媒咨询,目前 AI 芯片落地市场主要可分为云计算和边缘计算。云计算市场前文已提及,几乎被英伟达垄断,没有强大的生态很难与其较量。
边缘计算也是的应用场景主要有三块:智慧安防、移动互联网、无人驾驶。这个市场也是 Wave Computing 后期想重点发力的市场,但它的情况同样不容乐观。
智慧安防领域主要是智能摄像头的应用,但由于摄像头任务相对单一,产品同质化严重,行业竞争激烈。从英伟达等一线厂商到地平线等创业公司,再到国科威等传统安防半导体都在行业中有布局,激烈惨烈,要想出圈只能靠整体解决方案。
移动互联网市场主要是智能手机,由于图像是 AI 领域最成熟的方向,并且可以很明显的提升手机摄像和识别的效果,因此各厂商都有动力开发这样的专用加速器,并且是各自开发来保证差异性和控制力。这一市场基本被苹果、华为、三星、高通等厂家瓜分,并且处于「各玩各的」状态。
无人驾驶领域倒是一个增量市场庞大,但技术发展还很不成熟。4 月 22 日阿里刚刚发布首个 L5 阶段等无人驾驶测试平台,据美国汽车工程师协会等分级,L4、L5 阶段还只能是在封闭园区的商用车平台上实现落地。无人驾驶汽车出现在道路上可能还要等到 2025-2030。在这个赛道落地需要有打持久战的准备。
所以,就市场发展情况去看,AI 芯片初创企业可能已经到了「退潮裸泳」的阶段,光凭借技术和前景就能拿到投资的时代已经不再。
吸取 Wave Computing 的教训和市场现状,有业内人士分析,初创公司的破局之路或许在于,找准一个具体的痛点,技术与行业解决方案并重,慢慢的布局生态。
总之,Wave 倒下了,这个资本与技术并重的行业还在等待一个「搅局者」来打破僵局。