融资丨趋境科技拿下智谱、华控等数亿融资

关注
趋境科技
北京人工智能
RAG技术开发商
最近融资:Pre-A轮|数亿人民币|2023-12-08
我要联系
本轮融资完成后,将继续加大对高效能AI Token生产服务平台(Approaching AI Token as a Service,ATaaS)的投入。

就在近日,这家AI Token 生产服务商,趋境科技(Approaching.AI)宣布完成数亿元 Pre-A 轮融资。

由星连资本(智谱系基金)与华控基金联合领投,弘晖基金、天壕能源、尚势资本、天津仁爱弘盛、杭州福成等机构跟投,老股东高瓴创投持续加注。

趋境科技表示,本轮融资完成后,将继续加大对高效能AI Token生产服务平台(Approaching AI Token as a Service,ATaaS)的投入

重点推进算力储备及底层推理系统建设,持续交付兼具低时延、高吞吐、稳定结构化输出、可靠函数调用和可预测服务质量的模型输出能力,进一步增强面向企业生产环境的高品质Token规模化供给能力。

随着大模型应用更多进入企业生产环境,他们不再只关注算力规模、模型数量和接口丰富度,而是更加看重每一次调用能否稳定、高效、可预期地完成业务交付。

在这一阶段,推理服务的核心竞争力正在从“提供模型”转向“生产高品质Token”。

有需求就有市场,有市场就有人才涌入。

背靠清华大学高性能计算研究所,首席科学顾问郑纬民院士

2023年12月,背靠清华大学高性能计算研究所,清华计算机博士“艾智远”带队,主导提出TaaS 产业逻辑,为推动ATaaS从技术平台走向企业级生产服务,成立了——趋境科技(Approaching.AI)。

图片

注:ATaaS就是目前趋境科技推出的高效能AI Token 生产服务平台‌,全称 Approaching.AI Token as a Service,主要帮企业把算力变成稳定、高效的AI Token产出能力。

有清华的背书,很快趋境科技集结了一批产业和技术人才。

总裁武文洁博士,为金融博士及CFA 资质,具备头部产业与资本机构高管履历,曾主导数十家标杆企业投资并购,他主要负责公司战略统筹和运营。

董事长任旭阳,为百度早期创业元老,曾牵头创立爱奇艺、一点资讯、海致、News Break 等公司,他负责产业判断、组织建设、资本协同和生态资源整合等方面。

首席科学顾问为郑纬民院士(中国工程院院士‌、‌清华计算机系教授,高性能计算研究所所长,我国‌超算与网络存储领域‌的领军人物‌),他奠定了清华高性能计算领域的学术根基。

首席科学家为武永卫(‌清华计算机科学与技术系)教授,在并行与分布式系统领域有很高造诣。

图片

章明星(清华计算机科学与技术系)副教授,聚焦大模型推理架构,主导的 KTransformers、Mooncake 等开源项目已在行业内广泛应用。

背靠清华大学高性能计算研究所二十余年技术积累,目前清华大学相关技术成果也已经完成作价增资入股流程。

使得趋境科技在技术层面,覆盖了高性能计算、并行与分布式系统、存储系统、智能算力系统和大模型推理基础设施等关键方向,得以快速发展。

打出TaaS(Token即服务)差异化牌,助力智算集群运营成本压降20%以上

随着大模型的应用和发展,企业AI推理,面临资源利用率极度失衡,传统推理链路高度依赖GPU显存,导致CPU与大容量内存利用率低下,全系统硬件利用率常年不足20%,算力空耗严重。

过去两年,行业主推的是MaaS(模型即服务),而趋境科技成立之初就打出了TaaS(Token即服务)的差异化牌,将Token视为连接模型与成本的关键生产要素。

针对此痛点,趋境科技采取少模型、深优化的工程路径。

图片

公开资料显示,其推出了“六合”异构推理架构与“月饼”以存换算技术,通过扩大缓存池大幅削减对昂贵GPU的依赖。

以“六合”异构推理2.0为例,其全球首创大模型计算逻辑重构技术,深度融合CPU+GPU、国产与非国产算力,实现任务的智能分流,可将万卡级智算集群运营成本压降20%以上。

“月饼”以存换算2.0,全球首创超体量KV Cache缓存技术,将KV Cache存储空间扩展百倍至千倍,缓存命中率最高可达90%,直接削减90%的GPU算力开销。

相较于传统MaaS 侧重模型调用与管理,ATaaS更聚焦企业级生产场景中的推理效能交付,帮助企业获得可规模化、可运营的高品质 Token 生产能力。

这种技术积累也在开源生态中得到验证。

据悉,趋境科技与清华团队牵头开源的 KTransformers,是全球首个边缘异构推理框架,GitHub Star 数突破17k,并成为GLM、Kimi、Minimax、Qwen 等顶尖大模型的首发推荐推理引擎。

图片

在分布式推理方向,趋境科技与清华大学、月之暗面Kimi、9#AISoft、阿里云、蚂蚁集团等产学研机构共建开源项目Mooncake;趋境科技技术专家、清华大学博士杨珂等成员作为核心贡献者,深度参与多项关键技术实现与架构建设。

此外,趋境也积极参与SGLang、vLLM、英伟达 Dynamo 等全球推理社区的技术贡献,持续推动 AI 推理基础设施开放生态发展。

投资人评价:助力成全球领先智算“Token工厂”

星连资本合伙人、现任智谱AI副总裁,李文珏这样说:

趋境科技在AI 基础设施领域展现出卓越技术深度与工程化能力,尤其在 Token 生产效能方面全球领先。本轮投资看重其 ATaaS 平台的系统性突破,以及公司将顶尖学术成果快速转化为大规模商业落地的能力。随着 AI Agent 应用普及和 Token 需求激增,能高效将算力转化为智能产出的企业将成为产业竞争核心。

星连资本相信,未来谁能将主控、调度、runtime、内存管理与模型结构协同优化,谁就更可能掌握下一代 AI 基础设施的话语权。趋境科技兼具清华顶尖技术背景与丰富商业化经验,使投资方对其在 AI Infra 赛道的持续成长和市场引领充满信心,并坚定支持其打造高效能 AI Token 生产的行业标杆。

华控基金董事长张扬则称:

随着国产大模型能力的快速提升、应用需求的全面爆发,对于词元(Token)的海量需求正在重塑算力产业链。华控基金坚信能够大规模稳定提供高质量 Token 的 AI Infra 行业,将成为 Al 产业蓬勃发展的关键基础设施,拥有广阔的市场空间,具备极高的投资价值。

趋境科技团队源自清华大学高性能计算所,拥有深厚的科研底蕴,技术扎实,成功打通了底层算力孤岛,已获得上下游生态的高度认可。华控基金将依托丰富的Al产业生态资源,全力支持趋境科技的后续融资与上市进程,陪伴企业成长为全球领先的新一代智算“ Token工厂 ”。

从GPU、算力集群,到推理优化、Token调度,AI产业链正在逐渐演化出属于自己的“水电煤体系”。

而趋境科技这类公司的出现,也意味着:AI竞争,开始从“模型能力”,走向“基础设施效率”。

这或许才是AGI真正大规模落地前,最容易被忽视、却最关键的一场战争。

Token工厂,正在成为这个万亿级生态背后的隐形支柱。

当然,在AI Infra(AI基础设施)赛道这一领域参与者也并不少,趋境科技外,还包括同为清华系的硅基流动和无问芯穹等创业公司,也有阿里云、华为云、字节火山引擎等大型云厂商提供全栈AI Infra。

趋境科技,尽管有清华多年技术成果支撑,但仍需要在技术深度与客户黏性上构筑足够的壁垒,方能在窗口期内与大型云厂商形成差异化竞争。

查看更多项目信息,请前往「睿兽分析」。

反馈
联系我们
推荐订阅