英伟达预计2028财年营收同比增70%,黄仁勋却说实际需求远高于这个数字。看到这条新闻,很多人第一反应是股价要涨,但如果你正在做AI应用开发,我觉得更值得留意的,是一个藏在数字背后的信号:AI算力仍然处在供应紧张的阶段,而整个产业链真正短缺的,不只是芯片本身,而是从芯片到集群、从软件到运维一整套基础设施。单次跑通一个模型的时代正在过去,接下来是算力资源管理能力决定项目上限的时代。
这个判断听起来有点大,但它会落到非常具体的日常决策里。比如,新模型发布后要不要立刻切换?云GPU配额不够时怎么办?为什么同一个模型,上线后越来越慢?这些问题看起来是技术问题,背后绕不开同一个变量:算力供给。这里不打算把它当成股票新闻,而是想从英伟达这条营收预测出发,拆开算力需求的结构,再落到技术人现在可以做的几件事。
1. 一个预测数字,为什么值得技术人认真拆解
1.1 先分清“财年增长”和“自然年增长”
媒体标题里的2028财年,采用的是英伟达自己的财年口径,和自然年不完全重合。很多讨论会把“2028财年”直接理解成2028自然年,其实会有偏差。对技术人来说,不需要把会计日历搞得太细,但要意识到一点:这个数字不是某个季度的短期业绩预告,而是面向未来两三年的一条增长曲线。
真正值得关注的,是它的基数。当一家公司的营收已经处在很高的体量,再预计同比增长70%,意味着绝对增量非常可观。这背后隐含的,是大量数据中心、云厂商和AI公司正在持续扩建算力。如果这个预期最终兑现,未来两三年内,GPU资源仍然会是核心基础设施,而不是一个可以随意扩容的普通组件。
1.2 70%不是一个“愿望”,而是一个“产能计划”
如果把营收预期理解成“英伟达觉得市场好”,就低估了它的信息量。生产一张高端GPU,需要先进制程产能、CoWoS封装、HBM显存、高速互联、散热和供电。这些环节都有各自的产能上限,不是想扩就能立刻扩。所以,公司给出的营收预期,通常更像是一个在产能约束下排下来的交付计划。
换句话说,70%的增长,可能只是它当前能供应出来的上限,而不是真实需求的总和。黄仁勋说“实际需求远高于此”,放在这个背景下是合理的。因为市场上愿意买GPU的客户,可能比能拿到货的客户多得多,实际需求被产能和订单周期限制了。
这一点对普通开发者的影响是直接且长期的:在供应受限的周期里,热门GPU不会突然变得便宜,云厂商的算力配额也会一直处于紧张状态。你可能不是直接采购芯片的人,但最终会通过云账单、排队等待和实例缺货感受到这个约束。
1.3 “实际需求远高于此”到底在说什么
黄仁勋这句话,表面上是说给资本市场听的,但更实际的作用,是告诉供应链和下游客户:算力供给的紧张,不是短期现象,而是一个结构性阶段。这句话会让云厂商更积极地锁定产能,也会让应用开发团队重新评估自己对GPU的依赖程度。
如果你正在做一个AI产品,我的建议是,不要因为这条预测就把所有希望寄托在未来算力会变便宜上。相反,更应该假设未来两三年内,GPU仍是稀缺资源。在这个假设下做架构,你会更看重单位算力产出,而不是单纯堆模型规模。
从工程经验看,很多团队一开始在云上申请GPU很顺利,到了业务增长期才开始被配额限制卡住。那时候再改架构,成本远高于初期就做规划。所以,这条预测离技术人并不远。
2. 算力需求不是单指显卡,而是三层系统
2.1 第一层:GPU芯片与显存
大多数开发者接触算力,是从一张GPU开始的。看型号、看显存、看峰值算力、看功耗,然后决定能不能跑某个模型。显存大小决定了模型能不能完整放进去,计算速度和显存带宽决定了每一步推理要等多久。
但如果生产环境只有一张卡,很多高并发业务根本撑不住。真实项目里,只要模型超过一定规模,或者用户请求并发升高,计算就会自然落到多卡、多机集群上。这时候,问题已经不再是单张卡性能够不够,而是整条链路是否通畅。
2.2 第二层:集群、网络、散热与供电
在集群层面,影响最大的往往是网络和存储。多张卡之间的数据交换、参数同步、样本读取,任何时候慢一步,都会让GPU空转。很多团队买了四张卡,一跑训练发现利用率只有50%,问题不在GPU,而在数据加载或网络带宽。
数据中心还涉及散热和供电。高功率GPU一旦集中部署,机柜功率、空调制冷、电力容量都会成为硬约束。这也是为什么即使芯片本身出货增加,整个数据中心的建设周期仍然很长。
对于使用云服务的团队,这些约束会通过配额形式呈现出来,比如某类实例有最大数量限制,某些可用区缺货,或者需要提前申请。看得见的GPU其实是冰山一角,看不见的集群基础设施才是真正的稀缺层。
2.3 第三层:软件栈、模型生态与运维能力
同一块GPU,在不同软件配置下的产出可能差出好几倍。CUDA、cuDNN、TensorRT这些基础库,以及PyTorch、vLLM、Sglang这类框架,决定了显存怎么分配、算子怎么编排、请求怎么批处理。不会用推理优化的人,用大卡跑小模型,也可能跑不过一个量化加批处理的小卡集群。
我经常看到两类团队:一类比较懂底层,能把一张卡的高性能压榨出来;另一类只会在默认配置下启动模型,一旦并发上来就加卡。在大规模算力面前,软件优化不是锦上添花,而是成本控制的核心手段。
软件生态的价值会越来越像操作系统:你可能不用每天都碰驱动,但框架是否跟上新架构、推理运行时是否能自动算子融合,会直接影响你的可用算力。这也是我在后文会反复强调的一点:不要只盯硬件,也要盯软件栈。
2.4 为什么单看芯片会误判整个行业的节奏
如果只看新闻里的新一代GPU,会以为行业节奏就是“新卡一出,老卡淘汰”。实际情况是,算力市场是分层并存的。不同客户对性能、价格、功耗、生态成熟度要求不一样,新卡负责最吃性能的预训练和高端推理,上一代卡会继续服务成本敏感型业务。
英伟达的营收增长,对应的是整个数据中心基础设施的扩张。芯片是其中价值最高的一层,但不是唯一一层。当一家云厂商扩建一个算力中心,它采购的不只是GPU,还有网络设备、存储、冷却和电力。这些环节都会消耗时间和资源,也会制约可交付的算力总量。
所以,看到“预计增长70%”时,不需要简单理解为“新一代显卡卖爆”。更接近事实的理解是:整个AI基础设施进入了一个持续扩建期,而扩建速度会受到多层因素的限制。对技术人来说,这意味着算力仍然需要被当作一种需要规划的资源,而不是像内存一样随时可加。
3. 算力紧缺时,技术人的选型逻辑必须换一套
3.1 从“追新模型”转向“算力预算优先”
过去两年,AI圈有一个明显氛围:新模型一发布,大家就想立刻试用,看看是不是更强。这个习惯在个人实验中没问题,但在生产业务里,必须多算一笔账。换模型意味着重新评测效果、重新压测性能、调整推理参数,还可能带来显存和延迟变化。
当算力紧缺且成本高企时,更合理的方式是给项目设一个算力预算上限。在这个预算内,选择能解决业务问题的最小模型。排行榜上的推理能力再强,如果上线后单次调用成本超出产品承受力,依然不是合适的方案。
我建议用“单位算力产出”作为判断标准,而不是只看“模型A是否强于模型B”。比如,一个500亿参数模型在目标任务上只比70亿参数模型高出2个百分点,但推理成本是后者的8倍,那么在产品场景里,70亿模型很可能是更理性的选择。
3.2 训练、微调、推理:三类负载的资源逻辑完全不同
算力紧缺时,最容易犯的错是让所有负载共享同一套资源策略。实际上,训练、微调和推理的资源需求差异很大。
训练任务通常是离线、长时间、整批占用的。它适合提前规划,用包月或预留集群来跑,追求持续稳定。微调任务介于两者之间,时长可能从几小时到几天,可以接受排队,但需要知道完成时间。推理任务则是在线服务,对延迟和吞吐有硬性要求,需要预留资源,并且在流量闲时释放。
如果不去区分,就会出现一种典型情况:把推理服务部署在按小时计费的训练集群上,结果闲时浪费钱,高峰期又无法弹性扩容。或者把离线批处理请求混在在线推理里,导致线上延迟抖动。把负载分类,是资源管理的第一步。
3.3 云服务、私有集群、混合部署:不要只看单价
选云还是自建,不是简单地比较每卡时单价。云服务灵活,可以按需弹性,但长期高负载时,累计成本会超过包年或自建。自建集群有很高的前期投入和运维复杂度,需要机房、网络、电力和专业工程师,如果没有稳定的长期业务,贸然自建风险很大。
更常见也更容易落地的是混合架构。线上推理用云上的预留实例,保证稳定;离线大批量任务用竞价实例或包年资源;模型微调放在非高峰时段,用同一批资源做潮汐调度。这样既控制成本,也保留弹性。
一个很实际的建议是:先跑一个压力测试,用真实的请求量去估算资源需求,再拿着这个需求去对比不同采购方式。不要因为某家云的页面报价便宜,就直接迁移;页面报价和实际账单之间,往往隔着流量费、存储费、备份费和各种附加项。
3.4 一个可复用的算力决策框架:负载-时延-成本
如果上面的分析还不够具体,可以试试一个简单框架。做任何算力选型之前,先回答三个问题:
- 它是什么负载?
- 它允许的最坏时延是多少?
- 它一个月最高的算力成本预算是多少?
把这三个问题写在页面上,再决定用哪类GPU、用多少卡、用云还是自建。这样做的好处是,它把“选型”从拍脑袋变成了需求驱动。
| 场景 | 典型负载 | 时延要求 | 推荐资源策略(通用) |
|---|---|---|---|
| 实时聊天助手 | 在线推理 | P95 < 1秒 | 中小模型 + 推理优化框架 + 预留GPU |
| 离线内容审核 | 批量推理 | 分钟级 | 量化模型 + 批处理 + 竞价实例或包时 |
| 业务模型微调 | 微调/增量训练 | 小时级 | 中规模GPU集群,避开高峰时段 |
| 大规模预训练 | 长期训练 | 天级 | 大规模集群,包年或预留,关注网络 |
这个表是通用建议,不是标准答案。它想表达的核心判断是:先定义负载类型和时延预算,再去选资源,顺序不能反。
4. 从预测到落地,四件事现在就可以做
4.1 建立自己的性能基线和成本基线
很多团队在项目上线前不知道怎么规划资源,因为缺少基线数据。建议从第一次压测开始,就把关键指标记录成表格。字段不用多,但要有代表性。
| 指标 | 含义 | 示例值 |
|---|---|---|
| 平均输入长度 | 单次请求输入Token数 | 1200 tokens |
| 平均输出长度 | 单次请求输出Token数 | 300 tokens |
| P95延迟 | 95%请求在多少毫秒内完成 | 780 ms |
| GPU利用率 | 压测期间平均利用率 | 62% |
| 显存峰值 | 单个GPU最大显存占用 | 18.6 GB |
| 单千Token成本 | 每处理1000 Token的推理成本 | 0.015 元 |
表格里的数字只是示例,你需要根据自己的环境填。有了基线,后续做模型切换、推理优化或资源扩容时,才能判断变化到底是变好还是变坏。没有基线,任何一个“感觉更快了”都不可靠。
建议:先建立性能基线,再做资源扩容。没有基线,任何“感觉更快了”都缺乏依据。
4.2 做一次负载的“需求拆解”而不是继续堆机器
当服务变慢或成本升高,第一反应往往是加卡。但更稳妥的做法,是先做一次负载拆解。通过日志或APM工具,把请求按业务类型、模型大小、输入规模、调用时段分类,你会看到很多此前忽略的现象。
比如,可能有一类固定请求只是做关键词抽取,却一直走大模型接口;也可能有很多超长文档解析请求,它们消耗的显存和算力远高于普通请求,但出现频率不高,却把显存峰值拉得很高。通过简单路由,把这些请求接入小模型或专用流程,往往能释放大量算力。
这比升级硬件更快,也更符合成本控制原则。我的建议是,不要急着扩容,先花半天时间把线上请求分类统计一遍。
注意:不要把所有请求都送到大模型。先根据业务场景做分流,这是成本最高的杠杆。
4.3 设计降级方案,避免上游波动打穿服务
GPU资源再充足,也可能因为配额、故障、局部拥堵而变得不可用。线上服务应该把GPU视为一种外部依赖,而不是本地资源。它随时可能被限流、排队或短时不可用。
降级方案可以很轻:当GPU推理超时,先走缓存结果;没有缓存时,退回小模型或规则引擎;仍然不行,就把请求列入队列,等到算力空闲时再处理。这样用户最多感觉慢一点,而不是服务直接报错。
另外,要监控请求队列的长度和延迟。很多时候服务“挂掉”不是因为GPU坏了,而是因为排队请求堆积,把整个服务拖死。设置合理的超时和排队上限,往往比增加GPU更有效。
4.4 用异常排查顺序管理“越来越慢”的问题
很多AI服务的性能问题,会被归因成“算力不够”,最后靠加卡解决。但真正的原因可能只是一个超时配置或一个数据加载问题。
从工程经验看,可以先按这个顺序排查:
- 基础设施层:GPU利用率、显存、温度、网络吞吐、存储I/O是否异常。
- 调度层:请求并发、排队长度、批处理策略、超时设置。
- 输入层:请求的输入长度是否突然变大,数据格式是否变化,有没有异常调用。
- 推理层:模型的单次推理耗时、是否触发了动态shape编译、框架版本和算子实现。
- 外部依赖:embedding服务、向量库、数据库、模型下载等是否存在瓶颈。
这个顺序的核心思路,是先把“资源层”和“应用层”分开。大部分问题在调度和输入层,真正需要加卡的场景只占一部分。
5. 这轮增长真正改变的是什么
5.1 从“能不能跑”到“能不能长期稳定地跑”
前几年,AI应用的验证逻辑是:模型能跑通Demo,就说明项目可行。但在算力价值不断走高的未来,这个标准明显不够。能不能在业务高峰保持稳定延迟,能不能把成本控制在可接受范围,能不能在算力配额紧张时依然提供基本服务,这些才是真正的分水岭。
英伟达那条营收预测,其实反映出整个行业仍在拼命扩建基础设施。基建会增长,但需求也在增长。对应用开发者来说,与其等待算力便宜,不如提前把系统的稳定性、可观测性和降级能力做扎实。
5.2 软件生态的价值会被重新定价
算力紧缺时,谁能在单位GPU上跑出更多有效请求,谁就拥有更强的竞争力。这意味着推理优化、模型量化、批处理调度、算子融合、自动调优这些能力,会越来越值钱。以前它们是性能优化可选内容,未来可能是控制成本的必要手段。
同时,模型框架和部署平台的更新节奏非常重要。建议技术负责人定期关注自己依赖的推理框架是否适配最新GPU驱动,是否支持新模型的量化方案。很多时候,一次框架升级带来的性能提升,比增加一张卡更可观。
5.3 对普通开发者:更早理解抽象层,比学会某个框架更重要
对于不直接从事底层优化的开发者,这轮变化真正的影响,是要求更早建立抽象思维。算力、模型、应用之间,会形成类似硬件、操作系统、应用软件的层次关系。你不需要掌握每一层的所有细节,但需要知道每一层都有成本、有边界、有瓶颈。
当你理解了这层关系,就明白为什么不能把大模型当作免费API来调用;为什么要在业务架构里预留限流、降级和队列;为什么要长期维护一套性能基线。这些能力不会因为某一次“新模型发布”而过时,它们是应对算力不确定性的通用能力。
从这个角度看,英伟达的70%增长预测,不是距离技术人很远的华尔街故事,而是提醒我们重新审视自己的工作流:是不是把所有关键环节都押在了一个随时可能变贵的资源上?如果是,那么现在就是开始做缓冲的最好时机。
回到开头的问题:一条英伟达营收预测,和技术人到底有什么关系?关系不在于股票涨跌,而在于它让我们看到算力供需的真实状态。接下来两三年,GPU大概率仍然是稀缺资源,AI应用的成本结构也会长期受其影响。与其被这种外部变量牵着走,不如现在就把算力当作一种需要预算、监控和优化的工程资源。
如果只记一句话,我会建议你从今天开始,给自己正在跑的AI服务建立一张基线和成本表。不需要很复杂,先记录输入长度、延迟、GPU利用率和单次成本。很多项目的问题,都藏在这些数字里。