01行业定义
AI Infra（AI Infrastructure）是一种整合计算资源、存储系统、网络架构与算法框架，为人工智能模型的训练、推理和部署提供全栈支撑的技术体系。它相当于一个将算力、数据和工具链协同优化的“AI操作系统”或“智能基座”，被视为驱动人工智能规模化落地的核心引擎之一。
来源：Sendbird
相比传统本地化部署的算力方案，AI Infra在资源利用率上更具优势，且能显著降低重复开发成本。其核心架构通常包括高性能计算集群（如GPU/NPU）、高速互联网络、分布式存储系统，以及模型训练与推理调度平台等关键模块。打个比方来帮助理解AI Infra的概念：传统的企业AI建设就像每个城市自己修一条普通公路，车辆（计算任务）多了就容易拥堵，而且每修一条路都要从头勘测、铺沥青，费时费力。AI Infra就像是建起一张覆盖全国的“高铁网”，不同的列车（模型训练、推理任务）可以按需调度到最合适的轨道上运行，站点之间无缝衔接，乘客（开发者）只需买票上车，无需关心铁轨怎么铺、信号怎么控。这张网不仅跑得更快，还能动态扩容，避免资源闲置或争抢。
来源：Linked in
从使用场景来看，AI Infra也被用于不同的业务形态，比如大型互联网公司搭建的是超大规模训练集群，中小企业可能用到云端推理平台，边缘设备中会嵌入轻量化的推理加速芯片，在科研机构中，还可能用上专门定制的科学计算基础设施。
从部署模式角度分类，有些AI Infra采用公有云托管，这种叫“云原生AI平台”，最大的优点是弹性伸缩、按需付费，是现在最常见的一类。也有采用私有化部署的，它更像“专属定制机房”，数据安全可控，特别适合金融、医疗等敏感行业。还有一种混合部署模式，它兼顾了云端算力和本地隐私，也就是可以把训练放在云端、推理放在本地，适合需要平衡性能与合规的场景。类似的还有边缘部署方案，它靠近数据源头，延迟极低，像是很灵敏的“本地大脑”，适合自动驾驶、工业质检等实时场景。
AI Infra的产业链可以整体分为上游、中游和下游三个环节，各环节紧密衔接，构成了一个从基础硬件到终端应用的完整生态系统。
在上游，产业链的核心是硬件设备和基础软件的供应。AI Infra所依赖的关键硬件包括GPU/NPU加速卡、高性能CPU、高速互联网络设备（如InfiniBand交换机）、大容量分布式存储系统等。这些硬件各具特色，GPU适合并行矩阵运算，NPU针对神经网络推理进行了专用优化，高速网络则保障多卡间的低延迟通信。除此之外，还需要大量辅助组件，如散热模组、电源模块、液冷管路和机柜框架等，为算力集群提供物理支撑。而基础软件方面，则涉及底层驱动、CUDA/RoCm等计算库、容器编排系统（Kubernetes）、资源调度器（Slurm/Volcano）等，这些软件的兼容性和效率直接影响AI训练的稳定性和吞吐量。
中游环节是整个产业链的核心所在，主要包括AI平台的构建、模型训练与推理服务的交付。平台建设阶段涉及对算力池化、数据管道、模型仓库、监控告警等核心组件的架构设计与性能调优，工程师需要借助MLOps工具链进行实验追踪与自动化运维。模型训练阶段通常依托云厂商或自建集群完成大规模分布式训练，一些厂商还会进行软硬协同优化，将底层硬件特性与上层框架（如PyTorch、TensorFlow、MindSpore）结合，以实现更高的训练效率和更低的显存占用。随后进入模型部署与推理服务阶段，这一阶段不仅要解决模型压缩、量化、蒸馏等技术问题，还要应对高并发、低延迟、弹性扩缩容等工程挑战，是制约AI应用规模化落地的关键一环。
下游环节则是AI Infra的应用落地阶段。在当前阶段，最主要的应用方向集中在大语言模型（LLM）和AIGC领域，例如ChatGPT类对话系统、文生图/视频平台、代码生成工具等，AI Infra在此类场景中可大幅缩短模型迭代周期并降低单次推理成本。随着自动驾驶、智慧医疗、工业质检等领域的爆发，端侧推理也逐渐成为下游的重要方向之一，一些企业已开始将云端训练与边缘部署结合，开发面向特定场景的轻量化推理一体机。在其他领域，AI Infra也开始渗透进金融风控、电商推荐、科学研究、机器人控制以及游戏NPC系统中，形成更加多元的终端产品生态。
此外，为了支撑整个产业链的高效运转，还必须依赖于一套完善的辅助系统，包括AI基准评测、开源模型社区（Hugging Face、ModelScope）、人才培养与认证体系、产学研合作平台，以及具备高效协同能力的供应链管理体系。这些配套环节不仅是技术创新的孵化基础，也决定了AI Infra从实验室走向大规模应用的速度和深度。
睿兽分析的数据显示，2021年至2026年AI Infra领域的融资事件数量经历了先抑后扬的波动。融资事件数从2021年的88起逐步降至2024年的57起，显示市场融资频率在期间逐步回归理性。然而2025年融资事件数出现强劲反弹，大幅回升至85起，同时融资金额急剧跃升，创下阶段性新高。这可能表明资本由早期广撒网的策略，转而重点押注技术领先、具备大规模量产和商业化落地能力的头部企业，资源向优势标的集中的趋势逐渐明显。
02相关企业
Baseten
美国Baseten公司成立于2019年，是一家专注于AI推理基础设施与模型部署全栈解决方案研发的硅谷高科技企业。公司致力于为AI编程、医疗、内容生成等专业领域提供高性能、低成本的光互联之外的算力推理与多云GPU资源调度服务。
Baseten拥有从底层推理引擎优化到上层开发者工具链的全链路软件能力，其核心技术采用拓扑感知并行化、算子融合及量化压缩算法，使客户AI推理成本降低40%以上，并通过智能多云编排技术将硬件利用率与响应稳定性大幅提升。
公司在AI推理Infra领域具有显著优势，服务的企业级客户超过100家（含Cursor、Notion等头部厂商），并推动“开源模型生产化”战略，抢占AI推理规模化落地的蓝海市场。此外，Baseten在医疗AI、智能体（Agent）及专业生成式应用领域取得重大突破，已进入多家行业巨头的核心供应体系，实现大规模推理负载支撑。
在融资方面，Baseten于2026年6月完成15亿美元的F轮融资，由Altimeter Capital、Conviction和Spark Capital等领投，资金将进一步用于扩大算力基础设施、软件研发及团队扩张，强化在大规模AI推理、多云平台调度及低延迟优化算法的领先优势，持续推动AI应用的大规模产业化落地。
光联芯科
北京光联芯科智能科技有限公司成立于2024年2月，是一家专注于高性能计算片间光互连（OIO）技术与硅光芯片研发的硬科技企业。公司致力于融合硅光子集成与光电融合封装技术，为AI智算中心、超大规模算力集群提供芯片级光I/O接口芯片及光引擎解决方案。
光联芯科以“电算光连”为核心技术架构，成功实现了光引擎与计算芯片共封装的关键突破。其产品线主要包括多通道WDMx OIO硅光收发集成芯片、多通道并行CPO硅光解决方案以及OIO光电集成芯片与验证板，支持微环架构下的多波长复用与2.5D/3D光电集成封装工艺需求。这些产品基于统一的硅光芯片设计与机器视觉辅助封装算法架构打造，具备超大带宽、超低功耗与高集成度的特点，可灵活适配GPU/XPU等异构计算芯片的片间互连场景。
在技术实力方面，其自主研发了微环电驱动芯片、波长锁定算法及硅光芯片评测封装结构等核心技术。公司产品已通过头部客户产线验证，实现批量供货，服务覆盖AI智算中心、高性能计算（HPC）、商业激光器及高端存储等前沿领域。目前，公司已与多家行业巨头建立合作，推动国产光互连技术在算力集群中的规模化落地。
2026年6月，公司完成近5亿元人民币的A轮融资，由高榕创投、联想创投、基石资本联合领投，普洛斯隐山资本、仁爱资本、芯禾资本及裴振华等跟投，老股东君联资本、红杉中国、高瓴创投、真知创投、尚势资本超额追投。资金将用于深化硅光芯片与OIO技术研发，面向AI时代对传输带宽、能效及计算互连方向的芯片级光互连需求拓展产品布局，并加速核心产品的量产与市场渗透。
芯寒智能
浙江芯寒智能科技有限公司成立于2025年1月9日，总部位于浙江省嘉兴市桐乡市，是依托上市公司东阳光（600673.SH）产业资源与浙大硕博团队技术积累成立的专注于AIDC液冷解决方案与相变液冷系统研发制造的硬科技企业。公司依托先进的双相流态感知与智能控制融合技术及PhaseLab™两相技术实验室，致力于开发覆盖从水冷板、单相浸没到两相浸没/冷板（Landau™ 2PCP、Landau™ 2PIC）的全系列液冷产品，为全球智算中心与高性能计算集群提供高效、可靠、可持续的热管理整体方案。
芯寒智能以“全栈液冷技术+AI智能调控”为核心技术路线，通过自主研发的全局流量感知、AI态势感知算法及高精度伺服控制系统，实现液冷系统的毫秒级动态冷量调配与精密交付。其产品矩阵包括单相冷板式液冷、单相浸没式液冷系统、两相浸没式液冷设备及两相冷板系统，支持热流密度超过200W/cm²、单机柜功率密度高达200kW的散热需求，广泛应用于AI大模型训练、云计算数据中心、超级计算中心及通信基站等领域。公司产品已通过国内领先服务器厂商的严苛验证，适配英伟达GB300、GB200、H200及下一代Rubin全系列AI芯片，服务多家行业头部客户并实现规模化交付。
目前，芯寒智能在国内液冷赛道具备显著先发优势，是国内少数同时掌握单相+两相液冷核心技术的企业之一，产品在PUE控制（低于1.1）与能耗优化上表现优异，远优于国家“东数西算”底线要求。
芯寒智能在浙江建有双中心布局，研发中心位于杭州市余杭区阿里巴巴高桥园区，制造基地位于桐乡市崇福创新工厂，形成从底层材料兼容性验证、核心器件自研到系统集成的全链条研产一体网络，并具备进出口资质拓展海外市场。
2026年6月，公司完成过亿元Pre-A轮融资，由东方嘉富领投，浙江省科创母基金、普华资本、L2F光源创业者基金跟投，光源资本担任财务顾问。资金将重点用于两相液冷核心技术的深度研发、智能化产能扩建及全球市场拓展，计划进一步深化在AI时代高功耗芯片散热、绿色数据中心方向的布局，推动国产相变液冷技术的大规模产业化落地与国际化标准制定。
03热点讯息
2026年7月，英伟达斥资布局美国暗光纤网络，支撑AI基础设施
2026年7月，英伟达正在美国大规模收购暗光纤资源，单条线路达100对（约200根）光纤，旨在构建自有高速光互联网络。此举意在支撑其AI基础设施扩张，满足跨数据中心GPU集群的高带宽互联需求。据Wolfe Research与Needham分析，项目三年投资或达50–100亿美元，目标减少对大型云厂商网络依赖，并赋能新型AI云服务商。实际传输能力理论可达7.6Pb/s，但受设备与部署条件制约。英伟达尚未官方确认项目细节。
2026年7月，首个全国产十万卡AI超集群“曙光8000”落成
7月10日，光合组织2026智能计算应用大会期间，中科曙光宣布中国首个全国产十万卡AI超集群——曙光8000（登峰）正式落成，并同步接入国家超算互联网。这标志着AI基础设施建设开始从万卡级迈向十万卡级部署阶段。目前，在十万卡核心节点上，已完成300余项超智融合应用优化，涵盖大模型、机器人、汽车、创新药、新材料、量子计算、天文气象等二十余领域。
2026年6月，欧盟发布技术主权一揽子计划强化AI与数字基础设施自主权
6月3日，欧盟委员会发布欧洲技术主权一揽子计划，通过一整套措施提升欧洲在半导体、人工智能、云计算和开源等领域的能力。该一揽子计划包含两项立法提案——《芯片法案2.0》和《云与人工智能发展法案》，以及《开源战略》和《能源领域数字化与人工智能战略路线图》。 当前，欧洲在核心数字技术上仍高度依赖欧盟以外的供应商，且随着人工智能的普及，算力需求急剧上升。
2026年4月，谷歌发布第八代TPU，训练推理分离，搭载自研CPU
在2026年4月22日举行的谷歌云Next大会上，谷歌正式发布了第八代张量处理单元（TPU）。此次发布的产品包含两款独立的芯片：TPU 8t和TPU 8i。这是谷歌首次将训练与推理任务拆分至独立芯片，标志着其AI硬件路线的重大转向。这反映了谷歌在应对巨额资本支出压力时，正试图通过硬件深度特化来优化其云业务的边际利润。
2025年11月， Nature子刊：港大等首提下一代AI硬件系统，能耗锐减57.2%
近日，来自香港大学、香港科技大学与西安电子科技大学的联合研究团队在 Nature子刊上发表重磅论文，宣布攻克了 AI芯片能耗的关键瓶颈。他们利用忆阻器可编程特性，创新性地打造出硬件原生自适应 ADC架构，使 AI芯片功耗锐减 57.2%，面积缩小 30.7%，为下一代高效 AI硬件系统开辟了新道路。这项突破预示着 存算一体（CIM）架构在 AI芯片领域的应用将迎来新的发展机遇。
来源：Nature
