三类私有云AI部署方式，千亿市场空间有望打开
思瀚产业研究院    2025-02-24

1、三种私有化部署方式：裸金属、超融合、专属云

目前私有化部署主要分为三种形式：

裸金属：即物理服务器，软件需自行部署；

超融合：一体机形态，硬件+软件平台集成，开箱即用；

专属云：介于私有云和公有云之间的形态，在云端提供资源隔离，保证数据安全。

2、占比看：本地数据中心占59%，托管云（专属云）占51%

根据Nutanix发布的企业AI现状报告：

部署环境：受数据本地化、所分析数据的监管要求，近60%企业选择在本地数据中心或私有云和边缘位置部署AI推理模型，51%的企业选择在托管云（专属云）部署。

 AI模型微调频率：60% 的企业计划不低于每季度更新一次其人工智能模型。

3、专属云：多数行业的最优选择，市场由运营商、公有云厂商主导

对于70B及以上的超级模型，部署本质上是一场系统工程。不仅需要构建多卡并行计算架构，还要配套液冷散热系统和冗余电源保障。

未来大多数企业（尤其是中小微企业）会优先选择更加灵活的专属云方案，主要原因在于中小微企业机房条件有限，部分数据中心建设在办公场所内，自建自用模式，一般没有专门的数据机房，虽可以通过API形式调用，但考虑api接入方式存在不稳定性（如官方暂停充值或计算资源紧张）以及数据安全问题，最终会选择自行部署。

专属云是一种介于公有云和私有云之间的云服务模式，具有资源独享、数据隔离、性能稳定等优点。对于多数行业来说，专属云可以提供更加灵活、高效和经济的云服务，满足其对数据安全、性能和成本的综合需求。

专属云头部效应明显，市场由三大运营商主导。据IDC数据，2024 上半年，中国专属云服务市场前五大服务商市场份额占比合计达66.4%。其中，中国电信、中国移动、中国联通分别占据21.4%、13.9%、12.1%份额。政府行业依然是专属云服务市场营收的主阵地，贡献了整体市场65.3%的营收。泛政务领域IT基础设施的周期性换代、新架构升级依然是专属云服务市场的主要机会点。

4、专属云：VPC提供云端网安，保证数据、工作负载与其他租户相互隔离

云计算对虚拟化网络的要求越来越高，要求网络具有弹性、安全性、可靠性和私密性。传统的二层网络模型存在很多问题，其中最大的问题就是安全问题。二层网络内的所有设备默认是可以互通的，这就导致云主机很容易被同网络的其他用户恶意攻击。

私有网络VPC（Virtual Private Cloud）是基于公有云基础上构建的虚拟网络环境，能够在公共网络资源上隔离出专属独立网络，保障用户安全和隐私。此外可以灵活定义VPC内主机的IP地址、路由策略等。VPC托管于多租户架构，逻辑上每个客户的数据和工作负载与其他租户相互隔离，由云供应商负责保障这种隔离。

5、超融合：部分行业倾向于本地部署，超融合一体机有望成为主要形态

本地部署为数据敏感行业首选：对于金融、医疗等数据相对敏感的行业，考虑数据安全高要求，本地部署能规避第三方服务器泄密风险，避免了网络延迟和隐私泄露的风险，有望成为此类行业部署首选。

国产AI芯片基本完成适配：目前华为昇腾、寒武纪、海光信息、沐曦、天数智芯、摩尔线程等多家国产AI芯片企业宣布完成对DeepSeek模型的适配或服务上架，覆盖从训练到推理的全链条场景。

超融合一体机集成了计算、存储、网络和管理功能，部署简单、管理方便且性能高效。对于数据敏感行业来说，超融合一体机可以提供更加安全、可靠和高效的本地部署方案，有望成为主要形态。

6、软件：vGPU技术成为集群性能高效调配关键，交付形态为统一管理平台

云计算环境中，随着集群规模扩大，最大的问题在于如何高效地分配和管理GPU资源，确保资源利用率最大化，同时满足不同用户和应用的需求。➢ vGPU（GPU虚拟化）通过将物理GPU资源虚拟化为多个逻辑GPU资源，使得多个应用可以共享同一物理GPU，从而提高资源利用率，降低硬件成本，并提供灵活的资源调度能力。以京东云一体机为例，使用vGPU资源利用率提升70%，推理效率提升30%。

我们认为，私有云AI随着集群规模扩大，最大的问题在于如何高效地分配和管理GPU资源，同时满足不同用户和应用的需求，需要统一纳管平台。

最终交付形式为整体的AI算力平台统一调配：以深信服为例，最终形式为其面向大模型开发场景的AICP平台，提供异构GPU算力管理调度、模型和数据管理等能力，降低技术门槛。

深信服通过AICP算力平台的部署方案在多实例、并发推理场景中可实现5-10倍的性能提升。大模型并发度更高、吞吐量更大、推理响应延时更低，让用户在企业级AI应用构建及实际使用时，资源投入更低、体验更优。

7、空间：DS引领模型平权下，私有化部署加速，市场规模有望近2000亿元

前提假设：

1）假设医疗行业（二级以上的医院）、上市券商、央国企、政府、高校会采购AI硬件设备；

2）假设以上行业对标政务云上云率，渗透率达70%；

3）假设中型企业以上有能力购买超融合一体机设备且渗透率达40%；➢ 4）假设软件成本为总体硬件的30%。经测算，大模型私有化部署硬件+软件总体市场空间达1977.16亿元。

更多行业研究分析请参考思瀚产业研究院官网，同时思瀚产业研究院亦提供行研报告、可研报告（立项审批备案、银行贷款、投资决策、集团上会）、产业规划、园区规划、商业计划书（股权融资、招商合资、内部决策）、专项调研、建筑设计、境外投资报告等相关咨询服务方案。