趋动科技:用软件定义AI芯片资源池满足底层算力需求

2020-12-09
算力需求的升级,从未停止。

随着AI技术不断迭代更新,对底层算力的需求也越来越大。

2020年7月9日,英伟达市值首次超过英特尔,成为半导体领域市值第二的企业(第一名是台积电)。有关人士分析,英伟达的崛起离不开AI产业的发展。英伟达主攻的GPU在算力上约超出CPU2~3个数量级,与AI产业结合效果更佳,这也是英伟达能够在当前市场以底层算力芯片赢得高速发展的重要原因。

本文图片来源于摄图网,经授权使用

但是,算力更强的GPU芯片也暴露出另一个显著问题:利用率低。

“AWS在2018年放出的一组数据显示,其GPU产品平均利用率仅为10~30%。国内有不少用户的利用率甚至不足10%,对这些用户而言,一枚售价1万美元的芯片其中9000美元是浪费的。帮助企业提高GPU的使用效率成了新的市场风口。”趋动科技创始人王鲲博士介绍到。

在此背景下,王鲲于2019年创办了趋动科技,一家AI算力资源池化软件公司。

王鲲2005年从中科大计算机系博士毕业后加入IBM中国研究院,后入职微软亚太研发中心,离开微软后任EMC中国研究院的院长,负责整个EMC中国研究院在中国区相关的工作和项目。王鲲在创业前的14年工作经验,基本上都是围绕着底层的、芯片虚拟化、软件相关的工作展开。

王鲲介绍到,在目前市场中,物理GPU利用率低已成为行业共识,同等投入下,直接使用物理GPU的利用率远不及使用基于软件定义的虚拟GPU,主要原因在于直接使用物理GPU很难做到资源使用的按需分配以及动态伸缩,而基于软件定义的虚拟GPU则可以很容易地做到这两点,根据任务大小决定分配多少计算资源到该任务,比直接使用物理GPU更为灵活,也更为科学。

从技术发展角度,AI的渗透越来越深入,AI+概念的辐射场景变多,数字原生企业的出现和传统企业的数字化、智能化转型都离不开AI技术的发展与突破,那么作为底层算力支持企业,趋动科技的核心产品OrionX AI(猎户座 AI加速器资源池化解决方案)能够帮助企业将已有的GPU进行虚拟化,借助于 OrionX AI 加速器资源池解决方案,以往 AI 应用/CUDA 应用独占 GPU 等 AI 加速器资源的情况将不复出现。趋动科技将所有的AI加速器硬件池化后,将其虚拟成众多颗粒度可灵活调整的 vGPU,随时为 AI/CUDA 应用提供 AI 加速能力,极大提升 GPU 等 AI 加速器的利用率。平均物理 GPU 的利用率将从以前的10%~30%提升至90%。

本文图片来源于趋动科技,经授权使用

另一方面,趋动科技也根据市场用户不同,采取了两种不同的部署模式。对于已有私有云的企业来讲,猎户座 AI加速器资源池化解决方案可将零散的多个GPU算力单元整合为统一接口、统一部署的GPU资源池。对于尚未部署私有云的企业而言,趋动科技则与Dell 和浪潮等企业达成战略合作,将趋动科技的产品预装到其服务器或私有云产品中进行产品集成。用户在购买私有云解决方案,或者服务器硬件时即可直接使用到趋动科技的资源池化软件。

本文图片来源于趋动科技,经授权使用

据介绍,趋动科技目前团队规模约100人,且仍在快速增长中,其中技术人员占比达70%。王鲲表示:“趋动科技的3位联合创始人都来自EMC,此前我们也一起在IBM共事过,在GPU虚拟化、资源池化领域拥有十余年研发经验,拥有完整知识产权。”

目前,采用标准化、可复制的产品架构,趋动科技已经打入了多个行业,如互联网行业(搜狗已采购且已部署)、教育行业(清华大学与西安市共建的交叉信息核心技术研究院已经采购部署)、金融(银行、证券、保险)、电信、能源等,企业预期营收达千万。

王鲲认为,作为底层基础架构服务商,趋动科技也拥有良好的延展性,不会被产业边界束缚。例如5G、云游戏、云VR等技术领域,作为新兴通讯娱乐方向,由于采用云计算技术,同样需要更强的算力支持,而趋动科技则可以极大优化算力资源配比,提升底层算力。而未来产业技术的发展趋势也逐渐向前端简单化、底层复杂化的方向演化,对于趋动科技来讲,未来可接触的领域和范围也将逐步扩大。

融资方面,趋动科技于今年11月9日宣布完成数亿元A轮融资,是12个月内的第三笔融资。此次融资由顺为资本领投,嘉御基金、高瓴创投和涌铧投资跟投。本轮资金主要用于公司产品的市场推广、客服体系的建设、产品线的扩充以及进一步加大研发投入并加快产品迭代。

本文图片来源于趋动科技,经授权使用。本文为创业邦原创,未经授权不得转载,否则创业邦将保留向其追究法律责任的权利。如需转载或有任何疑问,请联系editor@cyzone.cn。