炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:经济观察报)
谢祖墀、蒋逸明/文
在我们的咨询工作中,越来越多的企业客户会问:未来算力将朝什么方向发展?今天,当人们谈到AI算力时,注意力通常会集中在大型数据中心、高端GPU(图形处理器)和规模越来越庞大的训练集群上。但未来是不是依然这样?
众所周知,全球领先的科技企业正在投入巨额资金建设新的AI数据中心。Meta位于路易斯安那州的Hyperion园区总投资已正式扩大至超过500亿美元,IT计算容量提升至5吉瓦(GW)。该项目将成为Meta全球最大的AI数据中心及世界最大的AI基础设施项目之一。
为了训练更大的模型,这些设施需要更多芯片、更高速的网络、更强的电力供应和更复杂的冷却系统。大型算力园区似乎已成为AI时代最重要的基础设施。
不过,AI算力的发展是不是只会沿着不断集中、大规模的方向前进?
我们认为不一定。在大型训练中心持续扩张的同时,另一种变化也正在发生。AI算力正在逐渐进入分散式的区域数据中心、企业机房、工厂、汽车、机器人和其他智能设备。
未来的AI算力并不会简单继续走向集中或开始分散,而是形成两种并存的趋势:前沿模型预训练的算力组织仍将相对集中,推理则会根据任务类型呈现更加明显的分化。
但这并不意味着云端的重要性会下降。前沿和复杂推理仍会大量运行在云端,企业私有化部署将继续增加,更多推理也会进入边缘和端侧。不同计算任务将在不同层级的基础设施中运行。
这种变化不仅将重塑AI基础设施的格局,催生新的芯片需求,还将进一步改变企业的组织、流程和决策方式。
前沿预训练为何仍相对集中
前沿模型训练是一项高度复杂的系统工程。
训练大型模型通常需要成千上万颗GPU或其他AI处理器共同完成同一项任务。芯片之间必须保持紧密、持续和低延迟的通信。任何通信瓶颈都可能降低整个集群的效率。
因此,决定训练能力的并不只是单颗芯片的性能,还包括整个系统能否把大量芯片有效地连接起来。
英伟达通过NVLink(GPU高速互联技术)和NVLink Switch(高速交换芯片)提高GPU之间的通信能力。谷歌的TPU(张量处理器)体系也通过专用高速网络,将数千颗芯片组织成统一的计算节点集群。
这些系统的共同特点是将大量算力集中起来,让不同芯片能够像一个整体一样运行。这种“集中”主要发生在前沿模型预训练阶段,因为它高度依赖大规模、高带宽、低延迟的芯片协同。大型AI数据中心因此仍将承担前沿模型预训练和其他高度同步的计算任务。
但算力相对集中,并不意味着模型开发也会进一步集中在少数公司手中。随着开源模型的发展,越来越多的企业和研究团队可以在基础模型之上进行二次开发。
一些拥有深厚专业知识和数据壁垒的企业,例如金融、工业和医药等领域的企业,可能会进一步微调、继续训练和业务适配,以形成更贴近自身业务的模型能力。这些任务所需的算力规模远小于前沿模型预训练,可以由云平台、专业服务商或企业自身提供。
而消费品、零售和一般服务行业的大多数企业,往往不需要进一步训练模型,更重要的是利用已有的通用模型,并将自身的知识、数据和业务工具与之结合。
但训练并不是AI的全部。
推理正在走向分化
推理是模型训练完成后的实际运行,例如回答问题、运行智能体、识别图像、分析现场信息或协助企业作出判断。
与前沿训练不同,许多推理任务可以独立完成,并不需要成千上万颗芯片同时协作。它们可以根据用户、数据和应用所在的位置,运行在云端,也可以部署到企业内部、边缘节点或端侧设备。
近年来,随着长程智能体、上下文工程以及多步骤工具调用的发展,一些复杂推理任务对算力的要求在提高。它们需要处理更长的上下文、调用更多模型和工具,并维持持续运行的状态。在可预见的未来,大部分复杂推理仍可能留在云端。云端数据中心可以在不同用户和任务之间共享算力,并通过较高的设备利用率、成熟的软件工具和专业运维,降低单位推理成本。
另一方面,现场感知、实时预测以及与设备运行相关的部分推理,具有更强的分布式部署条件。随着AI进入更多实际场景,推动推理离开云端向外延伸的两股力量也变得愈发清晰。
第一类力量是企业内部的私有化部署。
医疗、工业、金融和政府等领域的部分数据具有较高敏感性,受到不同的监管要求限制,不能轻易进入公共云。这些领域推动AI从公共云进入自身可控的环境,最重要的原因往往是数据安全、隐私、监管要求以及对数据和系统的控制权。
在这些场景中,企业可以通过自有数据中心、私有云或专属算力节点运行AI,使敏感数据和关键业务留在自身可控的环境中。
微软的分布式基础结构解决方案Azure Local允许企业在本地基础设施中运行云服务和AI模型。这使部分敏感数据可以留在企业内部,同时完成推理和分析。
第二类力量是边缘和端侧计算。两者都让计算能力更加接近数据和业务发生的位置,但所处位置不同。边缘计算主要运行在靠近业务现场的服务器或计算节点,如工厂、园区或运营商网络中的边缘节点;端侧计算则直接运行在汽车、机器人、摄像头和其他智能设备本身。
边缘和端侧计算的主要驱动力,是数据产生和业务执行本身就在现场,以及部分任务对响应速度、网络连续性和离线运行具有较高要求。
距离本身会直接影响AI系统的响应速度。数据从现场传到云端,再返回结果,需要经过多次网络传输与处理。节点越远,延迟越高,不确定性也越大。
对于一般的知识问答或后台分析,短暂延迟通常不会造成严重后果。但在一些关键场景中,实时性的要求非常高。例如汽车制动和工业设备紧急停机,都要求系统在极短时间内作出反应。
因此,在涉及安全与实时控制的任务中,关键控制链路必须留在现场。云端可以承担模型训练、版本更新与数据分析等相对非实时的工作,边缘或端侧的AI则可以参与感知、预测和辅助判断,并与经过验证的实时控制系统协同运行。
换句话说,更适合边缘和端侧部署的并不一定是复杂的大模型推理,往往是感知、现场预测和辅助判断等更加贴近物理世界的任务。
单个端侧设备所需要的算力未必很大,但汽车、机器人和各类智能设备的数量可能十分庞大。因此,从长期来看,端侧可能成为分布式推理的重要增长来源之一。
亚马逊云计算服务(AWS)等企业已经开始将部分实时推理能力部署到工厂、现场乃至设备端,并支持部分节点在离线状态下仍可继续运行。
AI基础设施正在形成多层体系
未来的AI基础设施或将形成从云端到边缘、再到端侧的多层体系。大型AI数据中心承担前沿模型预训练和复杂推理;边缘节点承担靠近业务现场的实时推理和数据处理;端侧设备则直接在汽车、机器人等设备上完成感知、预测和辅助判断。安全关键任务的最终控制仍由现场经过验证的实时控制系统完成。
与此同时,对于数据安全、隐私和合规要求较高的企业,部分AI还会以私有方式运行在企业自有数据中心、私有云或边缘节点中。
这一多层体系也会受到能源条件的影响。国际能源署预计,到2030年,全球数据中心用电量可能接近翻倍,达到约945太瓦时(TWh)。
大型算力中心一旦建成,它的地理布局通常较为固定,电力供应就成为影响其持续扩容的主要约束。电力供应能力、输配电条件与并网水平,会直接影响算力中心的扩展空间与承载上限。
相比之下,边缘节点的位置更多取决于业务现场、实时性要求与网络条件。汽车、机器人和其他智能设备上的端侧算力必须跟随设备本身,难以单纯依据能源成本进行迁移。
因此,与其说分布式计算是在“解决”能源问题,不如说它正在重塑算力的空间分布逻辑:大型训练和复杂推理仍将主要运行在具备稳定电力与基础设施条件的算力中心,更多现场推理则会随着业务需要进入边缘和端侧。与此同时,部分企业也会出于数据安全和控制权要求采用私有化部署。
新的算力布局将催生新的芯片
分布式推理并不意味着把大型训练GPU直接搬进小型机房或智能设备。
训练GPU追求尽可能高的算力、大规模并行能力和高速互联。但部署在边缘节点和端侧设备中的芯片,往往受到电力、空间、散热和成本的限制。
这些场景需要的是高能效、低延迟、较大的本地内存,以及更紧凑、更容易部署的硬件。
即使未来AI模型的基本结构逐渐趋于收敛,推理芯片仍然存在很大的定制空间。不同场景对模型规模、计算精度、内存带宽、响应速度、功耗和成本的要求并不相同。
通用GPU的优势在于灵活,可以支持不同模型和任务。但这种通用性也会带来效率上的代价。在工作负载相对稳定、任务边界较为明确的推理场景中,针对特定模型、计算方式或设备环境设计的芯片,往往可以实现更高的能源效率和更低的运行成本。
这并不意味着通用GPU会被取代,而是AI芯片市场将形成更清晰的分工。大型GPU继续承担模型训练和部分复杂推理,云端推理芯片服务规模化工作负载,边缘芯片支持靠近业务现场的推理,而端侧芯片则更多承担设备本身的实时感知、预测和辅助判断。
GPU、NPU(神经网络处理器)和各类专用加速器将因此服务不同的工作负载,存算一体等新型架构也可能在部分推理场景中获得发展。
最近,我们与后摩智能探索了这方面的趋势。它的漫界M50面向端侧和边缘侧的大模型推理,采用存算一体架构,减少模型参数在存储与计算单元之间的反复搬运,以提高推理效率。
这类芯片不一定会全面取代大型GPU,但很可能进一步扩大AI半导体市场的边界。
未来,企业之间的竞争不仅在于谁拥有最强的训练芯片,还在于谁能针对不同推理场景,在性能、成本、功耗和部署难度之间找到更好的平衡。
当然,新型芯片和新的算力架构能否真正形成商业价值,最终仍要进入真实场景,经受性能、成本、可靠性和部署难度等多方面的检验。在这方面,中国也可能成为重要的试验场。
一方面,中国拥有大量制造、汽车、机器人、物流、能源和城市基础设施场景。这些行业对实时响应、本地处理和成本控制都有大量AI需求。
另一方面,中国也拥有从芯片、服务器、运营商网络和产业园区,到整机厂商、汽车企业、机器人企业和大量工业用户的完整产业体系。这使新的芯片、模型和解决方案能够较快进入真实业务环境,在应用中不断验证,并在产业链上下游的协同中持续调整。
政策层面也正在推动这种趋势。2026年1月,工业和信息化部等八部门发布“人工智能+制造”专项行动实施意见,在推动训练芯片发展的同时,也提出发展端侧推理芯片、边缘计算服务器,并推进“云—边—端”模型体系建设。
在这样的环境中,企业需要验证的不只是某一颗芯片的性能,而是芯片、模型、软件、网络、数据和业务流程能否组合成完整解决方案。
一项新技术可以先进入少数场景,在实际应用中反复调整,再通过运营商、整机企业和行业合作伙伴推广至更多场景,形成“试验—调整—规模化”的循环。
中国因此不仅可能成为新型AI芯片的试验场,也可能成为新的AI基础设施和解决方案走向规模化应用的重要试验场。
新算力格局重塑企业组织
算力结构的变化,对企业的意义是深远的。
今天的很多企业,既有总部人员,也有区域团队和一线员工。总部负责战略、标准、资源配置和共同能力;一线员工则贴近客户、设备与实际业务,需要更迅速地理解现场情况并作出反应。
随着AI进入越来越多业务场景,企业需要管理的也不再只是后台的模型和工具。今天,许多智能体以通用大模型为底座,连接企业知识库、软件工具和执行接口。当这些智能体能够围绕明确职责,在一定权限下调用企业知识和工具,并持续完成具体任务时,它们就会越来越接近企业中的“数字员工”。
随着数字员工逐渐增加,它们也可能形成类似于人类组织的分工。一部分数字员工运行在中央平台,掌握企业共同知识、规则和能力;另一部分面向区域、工厂、门店等具体业务场景运行,调用当地的数据和系统,承担更贴近一线的任务。
企业管理数字员工的方式将越来越接近管理人。企业需要决定它们可以访问什么数据、掌握什么知识、拥有什么权限,又可以自主完成哪些任务。
从这个角度看,企业最终管理的并不只是AI、模型或算力,而是由人类员工与数字员工共同组成的新型组织。
这种变化首先要求企业改变“一种部署方式解决所有问题”的思维。复杂推理可以继续利用云端的规模优势;敏感数据和受监管业务可以采用私有化部署;需要靠近业务现场的任务可以进入边缘;需要直接在设备上处理数据的场景,则可以进一步采用端侧计算。
部署方式不同,但背后的原则相同:不同AI应用应该根据实际业务需要,被放在最适合的位置。
这种思路也为大型企业的AI转型提供了更现实的路径。企业不必一开始便推动覆盖全公司的大型改造,可以先从一个岗位、一支团队、一条生产线或一个具体业务问题开始,在较小范围内形成可以运转的闭环。
宝马集团的Factory Genius提供了一个具体例子。它是一款面向工厂设备维护的AI助手。当生产设备发生故障时,维修人员可以直接向它提问,系统会从设备手册、质量数据、内部故障报告、规划文件以及每天更新的交接班记录中寻找相关信息,并迅速提出针对具体问题的建议,从而帮助维修人员更快定位和处理故障。
Factory Genius最初在德国丁戈尔芬工厂试点,美国斯帕坦堡和南非罗斯林等工厂也进行了类似探索。随后,宝马慕尼黑总部的AI团队整合不同工厂的需求和经验,形成集团级应用,并通过内部平台向更多工厂推广。
宝马的做法说明,AI应用可以从具体业务问题和场景开始探索,在验证有效后,再由总部整合经验、沉淀共同能力,并逐步推广至其他业务单位。
当然,从小处开始并不等于各自为政。
未来,企业的AI基础设施大概率不会由单一云平台、单一硬件体系或单一供应商提供,同时使用公共云和私有环境,并在部分业务中部署边缘节点和端侧设备。不同模型和芯片也可能来自多个供应商。
但采用多个供应商,不意味着企业应当无限增加技术栈。总部需要建立共同的底座、标准和规则,业务单位则可以根据实际需要进行试验和应用。企业既要保留选择权和系统韧性,也要避免不同业务单位各自建立彼此割裂的AI系统。
企业应追求“治理集中、应用分布、技术体系受控”,而不是技术无限分散后,再依靠中央治理事后补救。
数字员工也需要像人类员工一样被训练、评估和持续更新。企业需要明确它们的知识来源、数据和权限边界、与人类员工之间的职责分工,以及如何根据实际工作结果持续纠正行为,并将一线形成的经验转化为整个组织的共同能力。
AI基础设施的部署方式会影响数字员工在哪里运行,以及如何调用不同业务场景中的数据和系统。数字员工进入不同业务场景,又会进一步影响信息如何流动、决策在哪里发生,以及人类员工与数字员工如何分工。
技术架构、组织结构与业务流程将逐渐融合为一个系统。随着数字员工能力不断积累,其掌握的企业专属知识、记忆和协作方式,也可能逐渐成为一种新的组织资产。
从这个意义上说,AI不仅改变企业运营方式,也正在重塑企业的价值逻辑。
AI竞争正在进入新阶段
AI竞争不仅取决于谁拥有最大的训练集群。
大型数据中心仍将继续推动前沿模型训练和复杂推理的能力边界;与此同时,不同的推理任务会根据数据、业务场景和实时性要求,运行在云端、边缘节点或端侧设备;对于数据安全和控制权要求较高的企业,部分AI还会采用私有化部署。与之相应,不同芯片也会形成更加明确的分工。
更深层次的变化发生在企业内部。随着数字员工进入越来越多业务场景,企业需要重新思考它们与人类员工之间的分工。
真正的挑战不是购买更多芯片,而是能否把算力、数据、数字员工和人类员工组织成一个能够持续学习、有效协作和规模化运行的整体。
企业需要的不只是AI技术,还需要一套新的系统思维。我们正在见证的不只是AI算力的新格局,也是组织学的新时代。
(谢祖墀系高风咨询公司创始人兼董事长,蒋逸明系高风咨询公司合伙人、高风数智董事总经理)
免责声明:本文观点仅代表作者本人,供参考、交流,不构成任何建议。