AI正在从独立的应用场景,逐渐进入企业基础设施的核心层。当企业开始在生产环境中部署大模型、推理服务和AI Agent,真正需要解决的问题已经不只是“模型够不够强”,而是模型如何接近企业数据、GPU如何被统一调度、AI应用如何运行,以及不同工作负载如何在同一套基础设施中实现安全隔离。

传统公有云模式并不能覆盖所有企业场景,数据主权、安全合规和长期推理成本,也让越来越多企业开始重新审视私有AI基础设施。在VMware Explore大会上,博通推出VMware Private AI Cloud,将AI工作负载进一步纳入VMware原有的私有云和企业基础设施体系,试图回答一个越来越现实的问题:当AI成为企业新的核心工作负载,原有的云基础设施应该如何进化?
从“虚拟化底座”走向AI基础设施
维端网认为,VMware过去最核心的技术价值,是通过虚拟化和软件定义基础设施,把底层计算资源抽象出来,让企业能够以更加统一的方式管理服务器、虚拟机、网络和存储。随着AI进入企业生产环境,这套基础设施正在面临新的工作负载。
VMware Private AI Cloud此次采取的思路,并不是重新建立一套与现有IT环境割裂的AI平台,而是把AI直接纳入VMware Cloud Foundation(VCF)体系。VCF作为底层私有云基础,VMware AI Factory则进一步面向AI工作负载提供基础设施和部署能力,使企业能够在自己的数据中心环境中运行AI推理、模型服务以及相关应用。
这背后的技术逻辑非常明确:AI不应该成为企业基础设施中的“孤岛”。
企业原有的ERP、数据库、文件系统以及各种传统虚拟机仍然需要持续运行,AI只是增加了一类新的计算需求。因此,比起为AI重新建立一套完全独立的基础设施,让AI工作负载与传统企业应用共享统一的基础设施、管理方式和安全体系,可能更加符合大型企业实际的IT架构。
从这个角度来看,VMware Private AI Cloud并不是简单地给VCF增加一个AI功能,而是在尝试让VMware从传统虚拟化平台进一步向企业AI基础设施底座延伸。
从GPU到模型,VMware试图统一AI工作负载
AI基础设施真正复杂的地方,从来不只是GPU。
一台GPU服务器只是AI基础设施的起点。模型部署之后,还涉及GPU资源管理、容器运行、模型服务、网络连接、负载均衡、安全策略以及后续运维。对于拥有大量传统IT系统的企业来说,如果这些组件分别由不同平台管理,AI规模越大,基础设施本身就越复杂。
VMware此次将AI Factory、Tanzu Platform、vDefend以及Avi Load Balancer纳入Private AI Cloud体系,本质上是在搭建一个从底层基础设施到上层AI应用的统一运行环境。
其中,VCF负责基础设施层,AI Factory面向AI基础设施和模型部署,Tanzu进一步承载容器化应用和AI Agent,Avi负责应用流量与负载均衡,vDefend则将安全能力嵌入整个运行环境。
这种架构最大的技术意义,是试图把不同类型的AI工作负载放到同一个基础设施框架下运行。
企业既可以运行传统虚拟机,也可以运行容器化AI应用;既可以部署推理模型,也可以运行Agent应用。对于IT团队而言,这意味着不必为了AI完全重新建立一套独立的运维体系,而是可以沿用企业已经熟悉的基础设施管理模式。
更值得关注的是,博通正在把AI基础设施管理进一步延伸到资源和成本层面。随着推理成为AI应用的重要工作负载,企业需要关注的不仅是GPU利用率,还包括模型调用量、Token消耗以及不同AI服务产生的资源成本。Private AI Cloud开始提供GPU/vGPU跟踪、AI指标监控等能力,意味着AI基础设施管理正在从传统的“服务器资源管理”,逐渐走向“模型和AI工作负载管理”。
从模型安全走向Agent安全,企业AI进入下一阶段
如果说大模型解决的是“理解和生成”,那么AI Agent解决的则是“执行”。
这也意味着企业AI的安全边界正在发生变化。一个普通聊天机器人主要负责回答问题,但AI Agent可能需要访问数据库、调用API、读取企业文档,甚至执行具体业务操作。当AI开始拥有实际的执行权限之后,企业需要控制的就不再只是模型本身,而是AI能够接触什么数据、调用哪些服务以及执行哪些操作。
这也是VMware此次将Tanzu Platform和vDefend等能力纳入Private AI Cloud的重要原因。
博通正在通过Tanzu Platform的Agent基础能力,对AI Agent的访问权限进行更加严格的控制。例如采用默认拒绝的安全策略,让Agent只有获得明确授权之后才能访问API、网络、MCP Server或者互联网资源,同时通过凭证隔离降低Agent直接获取企业敏感凭证的风险。
这意味着VMware对于企业AI的理解已经从“运行一个模型”,进一步扩展到了“运行一个具有行动能力的AI系统”。
而Private AI Cloud的价值,也因此不再只是把模型部署在企业自己的服务器上。
它真正试图建立的是一个完整的AI运行环境:数据留在企业控制范围内,模型运行在企业基础设施中,GPU和计算资源可以统一管理,AI应用可以通过容器平台运行,Agent拥有明确的权限边界,同时网络和安全策略能够贯穿整个运行过程。
对于企业而言,这种架构解决的其实是AI规模化落地之后的基础设施问题。
模型可以变化,GPU可以变化,AI应用也可以变化,但企业需要一个相对稳定的基础设施和管理层,把这些不断变化的AI组件统一起来。
从这个意义上看,VMware Private AI Cloud真正值得关注的并不是“Private AI Cloud”这个名称,而是博通正在推动VMware完成的一次基础设施角色转换:从过去管理虚拟机和企业应用,到今天开始管理模型、GPU、AI应用以及Agent。
AI基础设施的竞争,也正在由单纯的算力竞争,进入算力、数据、模型、应用和安全协同的新阶段。对于VMware而言,这或许也是博通完成收购之后,重新定义这家基础设施软件厂商价值的一次重要尝试。

维端网







