TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:
( o& x* g: S! b. ]0 }
9 N g1 s& V3 Y" M一、总体分析框架与核心结论
; z9 ?$ W; G; ?- U1.1 分析框架概览- A8 l! m' h5 u. K. H* L/ h
拆分维度
/ T) t. f# O6 H/ B0 }7 s- W# B
: x1 B% E7 ]3 _0 O# v! W阶段:
: _% C0 c X2 L/ L, T$ R建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施
) e7 E- q9 i! i" \3 w l* s运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等
4 v* [8 I4 H5 ~& K$ G区域:) w* R# A! e: W
中国、美国、欧洲、中东(以海湾地区/UAE 为代表): o. u& X* x9 @0 f/ k; w& ~% N3 n
技术方案:
3 M$ @3 y5 t( t9 Y0 H; n" {NVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
! Y0 I3 o% ~3 a4 VGoogle TPU(v5e/v5p/Trillium 等)+ I6 Y5 n$ O4 v& s2 P: w
中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
. a# v- m1 G7 a# D% Q算例基准4 s" q9 y" o2 L" }6 W1 w4 L; J/ ?/ Y
1 Q8 T0 M2 x, r* r1 v+ C& {
以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:5 m6 E; T4 z4 b, e6 ^% `: E, m
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
; g4 x$ \* Y& `' _6 i- cPUE 假设约 1.11(高效液冷场景)[1][29]
3 c' d; G- T" R8 M时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]! m8 v7 \& x5 s: y. G8 n# d
关键指标
5 j( W( U* b& T7 D, t# ?9 Y, {) X# j% w- t* q
$/MW 建设成本(含/不含 IT 硬件)& C' e% m8 W/ J8 Z% v/ B
$/kWh 电力成本、L/kWh 水耗' t: a) \4 X& s: c
$/token 或 $/百万 token 的综合成本
& h) O" t3 z9 aToken-per-watt / Joule-per-token 作为能效基准[17][18][26]
. k6 P: y( Z( @" b& P) ^3 e项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)* p% h$ B. G& B" j+ S2 E
1.2 高层结论(供决策快速参考)
4 o: C( G1 F- e6 u9 [建设成本:AI 数据中心相对传统云数据中心成本翻倍
. k) M8 }) W3 }. I
( h# v" J+ t6 w' M! m( k5 k* f. i传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
, g: l0 X6 S; j2 I3 O( HAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。 ^/ ?! m, B9 e1 a* U
按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。 J( o' [5 K1 a% ?* q1 Y
区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区+ A# U6 D! J' q# s' {
0 \# [& ~/ J/ q3 \: }中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]
- Q, q A" C- E o/ G K- T美国:$8–12M/MW,400 MW 约 $4.0B[1]
5 v4 K: A4 s) M& k欧洲:接近全球平均 $10.7–11.3M/MW[2][41]# [( a& s* J$ n+ U! t
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]
5 p" a3 p5 v1 a* v结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。9 f5 j) J; }3 W* c/ f1 D) Q
OPEX:电价与人工决定区域优势
/ B2 a, |# C/ ?7 e( _* K# l5 j z3 [; _
$ r5 I4 c3 U' r( ]) q. G D电价(2025–2026 工商业大致区间):" Z5 @, t# g, w5 ]; d7 g
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]/ p5 s' Y2 k$ ]0 H' O9 q
美国:工业用电约 $0.085–0.09/kWh[44]1 @: b: w* V$ x: d
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
: W6 f# g; R; @. g" P5 K: A# h& u中东/UAE:工业用户 $0.07–0.13/kWh[47]
6 R/ g6 ?) H: H人工:1 ^' \& V# A+ q) f V: w, h
中国数据中心运维:约 $22k/人/年
, e, v! B4 m% W( U9 S( W0 H3 j8 h9 j美国数据中心运维:约 $120k/人/年[1]
2 ~* t9 T# Q! \结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。& W- F a! S! {4 H$ q" y
能耗与每 token 能源成本:能效差异远大于电价差异: i% ~1 Y' a% `/ ?3 H
4 H; U! a( j6 h% J _
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。
4 d5 V4 X" w0 u: l* v4 P大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。
* q$ D2 Y* x$ y! L将 token 能耗约化为统一口径:
2 Y9 k* y6 G A1 ?$ C粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:8 Z7 U# I5 t! r5 e$ h
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
* A- z( ~3 B; {5 e' z美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
; R3 n& n% v' }对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。- r/ \: w* A" m
不同芯片方案的核心差异
3 L4 B( Q% q* n8 q3 C9 L9 y1 ^
NVIDIA Blackwell/B200 & GB200 NVL72:
4 |9 q( i$ L4 K0 i2 Z+ v/ }5 _单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。; u4 Z6 R3 p$ E
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。; C$ }. V1 w4 f: B4 f1 w0 E( b
Google TPU v5e/v5p/Trillium:3 l" y2 q2 F' F s9 Q/ l
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。, J( R. G8 `- c
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。+ W4 j: B9 C0 t4 Y! F' g
华为昇腾 910B:
* G# d: R @+ @) {# e. j+ Y7 w1 |FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。6 O0 R0 @/ A' D, h1 H& W
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。9 X5 @% Q& c3 H$ p/ P) ]
阿里平头哥真武 810E(Zhenwu PPU):
+ ?; T7 X& M9 T96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
1 J. e4 g' b$ ^1 P结论:3 F0 N& b) B' J% Y$ z
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。
) h; ~; C9 q& ]% _; T单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。# S3 k# A- w9 N9 |
对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。
- c& _" x0 V0 Q% n% q5 T自建 vs 云租的 TCO 与 token 成本7 E9 s+ |& s: l# R, |4 d
4 A. [+ u% @+ N% I% F
LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:" `9 t& e% z7 K+ N1 I& O+ [! _) O
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;
9 Z5 }" }' \+ ?$ T等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。
6 h4 s( r8 u5 E K3 Z8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。) w5 `9 h/ D4 X# E \0 d; T
Token 成本对比示例(LenovoPress 场景)[28]:/ O8 }. j) E+ n1 }3 ^
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token
7 P, W" H" N( T# N/ }% f/ l0 E! Dvs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。8 A: ?) D. N1 c3 O# l4 A5 Q& N
同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。! p5 q$ i: V0 y2 f) V/ U0 Q
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。0 d3 k+ w) a W0 y9 Y3 G+ S# m
结论:
; r% c0 a& a2 @7 F+ t5 A2 ?高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
' P0 Y% i9 V4 {5 ?) \! YToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。
& k) `6 B9 M$ o8 ]: C- a4 }( a* m二、建设期成本分布:区域对比0 J p" _. A* y2 h. G
以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
7 u+ O! t9 P7 v" ~/ ~% g" ]* U/ u& ]2 B* B1 y$ s# V
2.1 全球/通用结构(以 1 MW 为单位)
! t" _8 w' G- K$ H) w: T- }% S综合 JLL、ConstructElements 等[2][41][40]:6 k7 O0 g ^) O$ m
- y1 x `3 q% W4 o壳体+机电(Shell & Core)
/ P+ t, I% q# v! E$ n& L( V
6 d) g* r& P$ l1 @- v) Q' P% d全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]! ~1 F, v( J( m; `
其中按成本构成[40]:
0 Y* _7 S2 {) A6 A! z电力系统(变电、配电、UPS、母线等):40–50%
- G( G/ t' ^& i" X机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%# S3 L3 P! L, | C( \0 t# d1 s
建筑与土地、结构:约 15–20%
4 ~, i+ F, M- e5 ^6 n其他(消防、安防、楼宇管理等):约 10–15%
% g7 r# p3 c! A, V6 Q- M7 G HIT 内装与 AI 基础设施(不含芯片)
, _) W# X1 e9 f4 B& P" i: ^$ m
9 j/ }/ \+ d/ S5 f, b* f6 O高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。
' q2 \7 M! I2 N- l( w4 c0 z1 YGPU/加速卡硬件 CAPEX+ r& c- r6 t5 X0 X
{3 l5 V: k+ R, q5 {/ I! |+ ~; i; [
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。: c0 D1 z8 a+ x! Z1 H4 f' P5 k2 \
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX
. q3 M [, y+ h/ k5 e结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):
' v& f% Y) Q8 q5 H v. a/ H- d6 T. B4 @8 ?
区域 典型建设成本(壳体+机电,$M/MW) 备注9 s6 X. T- o% b' `
中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]9 T8 e5 S; b. n% ~
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]
0 z* c$ L. [- ^欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
4 B+ r/ w3 ?. f8 A$ r1 h5 c" P中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]) ], l5 B6 Q3 {
结论:1 j! d6 C/ d7 Q$ n. U5 O
' x, I% e: y& u, M# [0 _单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
2 }6 k3 h" J. F: X; X0 x7 T若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。( w3 e) g/ K* p, m/ J
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)+ U; r% }4 O/ |, N% q. V& v1 V
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:% b% z0 y. o/ P" b0 E
% N5 V) ?4 @9 X( V# d- R
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT; M! n" }- H8 N
GPU 配置:
6 [7 Y3 i* g, C- d, S+ Y有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);$ B V0 ~% c2 @" ~8 \
每 rack 成本 ≈ $3.0–3.35M[34][69];! Q5 R6 z; x2 t# X/ e" O5 h8 @
GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。/ _1 K' e1 N8 ^; v
与不同区域壳体+机电组合:& ?8 k3 a+ F" C1 c) W) I. D( c
( ~% J5 y( U) `# Y7 I& S# A以中值估算:' p5 O3 E6 P9 b( k, T9 s3 u$ u
* q# s- _! r6 e# k0 `9 z4 c中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B
, M' f9 d' n \% g9 e7 v& O美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B: B w/ r7 o6 i4 x. H
欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
. M& g8 i/ W: v- d& o中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
& d. W; K' e3 z- R s, i可见:
) B. {( n: t K) I' a! ^7 F4 O8 p; j) G9 x/ X
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
7 [ E7 |" V$ s+ W1 Q相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。4 D% t( y. S9 z3 @7 d
三、运营期成本结构与区域对比
+ L8 q* ?1 p! j3.1 通用 OPEX 结构(高密 AI DC)' j5 X$ B4 @* j% V; f
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:
6 t7 L' ?: P6 C+ s/ [ k* d- @1 \2 N# `) [6 ^4 o
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。9 |" d/ `# S9 d0 c9 Q
冷却与水资源:
! X4 d! W% U" v( D( x能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。0 M+ t1 t' d" A- \; g( n0 f
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
1 r' ^: G1 C) a0 _9 `7 p1 P& `人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。' ^& Y" F% t; C l6 k+ E- |2 z3 S
托管/物业与维护:4 t! H% T, R7 s5 Y
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];3 J5 Z, b9 j2 @+ `9 |
硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
$ e6 O/ h2 l! R. A, g! j+ j. z3.2 区域差异(以 400MW / 3 年期为例)5 K; |. L" A/ s3 A
使用 ChinaTalk 的电费与人工估算[1]:2 b2 P- x. ]2 ~" P
9 P6 n, s6 D4 e8 ^! A0 u
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:5 f; ^0 R/ e+ t9 i, o. f. n& o
中国:约 $0.06/kWh → 3 年电费 ≈ $350M7 @% E8 Y# J% a4 t. y0 T6 |% E
美国:约 $0.09/kWh → 3 年电费 ≈ $600M/ H5 U, |! s) j. W' F1 g
中东:约 $0.07–0.10/kWh → $400–550M8 I Q" B- g; c
欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
/ W2 E6 e" r6 @+ E- h水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
$ Y8 {" M' ^( o4 U- {9 ]0 m美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]
$ K ?' ` ]& q$ `三年水费级别:
7 }! y+ o( z- m4 W$ m+ X& {/ G美国:$40k+; i$ N, C# R' l. U, C1 k4 p, p! l. j* Y
中国:$20k+
2 I$ u4 A0 }" T5 o* x7 z _( |结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
* H% F9 H9 e: c0 [人员成本(3 年) – 假设 500 名全职运维:8 T: g; A, ^! e
美国:500 × $120k × 3 = $180M+2 C3 G- O1 x4 a3 ^! Y5 e# S; O
中国:500 × $22k × 3 = $33M+1 N% l3 t5 `# f' x" h7 y- R
差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。5 C5 C3 Y$ N* f- E1 c
整体 OPEX 粗算(3 年) – 400MW 场景下:
; f( y/ \/ o9 V/ F
# a6 z# G( Y c; @2 ]. F项目 中国 美国
$ y# e0 y) i3 n p V电费 $350M $600M% }' N$ ~, ^) q7 M4 x
水费 <$0.05M <$0.05M
+ d* V) @5 _9 J& I9 W人员 $33M $184M
3 \1 A& l4 S1 F) B, d其他维护/托管 同比例估算,地区差异主要体现在人工与地价
! R# W4 C& C: k; F4 [+ V3 ^结论: ^5 l0 H! L: K0 d
+ y# E6 C( B0 R {就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。/ _" R! r! [, K/ C9 U
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。, q1 \3 S; i$ c) q9 Q8 Z6 h
四、基于 token 的成本与利润推演7 x/ F' `% F3 E
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)
8 v4 K0 G& d6 Q1 D9 U) P统一假设:
$ H5 {/ Y$ N1 j. X% ]8 t
2 ] \5 Y$ L* ~典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])+ T7 t8 p$ T$ c) X0 H. G
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh( o1 g$ Q8 M6 `( k7 r
1 百万 token:278 Wh = 0.278 kWh
# J, e, ]; }" E9 }3 y3 f* ?场景 A:美国电价 $0.30/kWh
7 M( a& `0 V1 t; j! U; x电费/百万 token = 0.278 kWh × $0.30/kWh
, I( {2 F J. n; q≈ $0.0834 / 百万 token
+ p$ t3 C! X. B u场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh; x# m0 G( i7 b1 x k" D8 ^
电费/百万 token = 0.278 kWh × $0.042) t2 M8 T! }% _% }% q& L
≈ $0.0117 / 百万 token- N- O# G) s8 w* J5 d
对比当前 API 价格(OpenAI 2026Q1)[62]6 d( `2 D4 ^2 O. I0 ]1 Q. T+ }& X
以输出侧为主(成本最敏感):+ @% E1 \3 \& i- V# c% A# x
( _- A) S Y. l% l
模型 输出价 ($/百万 token)% J' V$ E3 c) u* \- c
GPT‑5.2 $14
* n/ V6 }3 @* {6 q5 D+ w- m: VGPT‑5.2 Pro $168& r/ ?- `+ c# O6 O7 s9 q
GPT‑4.1 $8
7 C9 {6 \& k2 _* e) }7 O) M' mGPT‑4o $105 K. }0 C8 U# \9 R
GPT‑4o mini $0.603 z0 \) z$ z; V, f* V3 ~
则:; p2 m7 r' T" a( m9 I6 g
/ }- r% w2 G; K, M* W在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。) c' @: x( Z4 y1 K7 T2 p
在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。
/ z# t2 r7 \- Y G* l; T" n相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
7 [- |& Z+ \' k8 a2 Z8 I结论:
4 s- _3 t$ H3 S6 Z4 V" R. l% a2 L即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。& }) Q- g: p) f' H" r8 L; h
+ O# C4 c( W: G' I4 T
4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
@8 Q$ @. u1 X: D+ ]" I以 LenovoPress 的 8×H100 Config A 为例[28]:+ q* w1 L7 F( t1 |+ d* e1 U
6 p1 d8 X3 W) n7 L7 y1 M5 年摊销下,8×H100 本地推理 70B 模型:
( P0 e, h3 p m" m: y小时综合成本(CapEx摊销+Opex):$12.08/h3 L5 N, C+ ?5 h; a& l
吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens3 E$ D6 m( F4 e: ^
成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token3 N8 e2 V7 |. O) [$ W
电费在其中的占比:$ F+ ~) F: K- e/ B( s6 M m
Opex 6.37$/h 中电力+冷却约 $0.87/h[28]8 ?+ ~ E/ k3 K
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
9 r. i/ x1 z* o* m- `( ?1 c- ]电费占 总 token 成本 ~7% 左右。
2 a5 y6 c! a3 F* j若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。% k2 _ ?! a/ q* s$ c2 D, g$ F D
若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。
- {' S. a) T- p. A0 u7 V0 V9 H0 Y" n7 @/ V* h
因此:
# ?$ `+ p) R0 M) R- E) y
' O$ L1 c2 w3 a6 n在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。7 V3 G6 D% \/ |, m& I2 |
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。; `6 ?; Q* ^1 k1 F' h: p$ s
五、不同芯片方案的建设与运营成本对比- x1 K: d$ X% q
5.1 NVIDIA 方案(H100/H200/B200/GB200)
8 v0 T a" n0 w7 g& GCAPEX:' Z$ g! X9 b9 b o1 K. Z; y$ c8 W
6 G2 u) Y* q( h$ tH100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
4 R4 t4 a/ b6 S, f; kH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。2 R% t, e% |3 ]) K
B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。
' I6 z0 c) R1 I L3 }GB200 NVL72:
/ j# Q: `+ r$ ?9 u; H& |每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。 _7 {+ U3 f3 Y# g& `: ?% t: h
冷却系统每 rack 额外 $50–56k[35]。
% B1 d- y& j5 a3 j. s" c6 i在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。# h8 g+ Z* v4 \, s" ]$ T
OPEX & 能效:
" Z% h' ]7 K. a7 d, P' p2 |+ ~* y1 p7 V: Q( P, b
单 GPU 功耗:
' ^. ?9 | U6 ~! g+ DH100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。5 d3 Y; J3 I& X$ T+ ~: J3 W
H200:功耗类似或稍高,但性能/W 提升[9][10]。
6 |" _) ^0 I* q6 @# h% d3 MB200:标称 1,000W TDP,但实测约 600W 左右[68][69]。4 N. F8 `( G7 v/ h
Token 性能:. w; a% R8 J6 `( S
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
& O3 C0 O" m" |/ q& C/ `! k5 h5 P# e/ ]NVIDIA 的优势:6 A6 e% z) ^( L& X4 k/ M5 P
0 N) E# S' t; r. x: |( I
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
& K' n; k+ h( N' r1 ~& d但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。
! o& ~% Z+ K* p- e2 \; s5 |5.2 Google TPU 方案; I$ }1 G9 c3 x+ Q# N7 E2 j) z, I
CAPEX:) E) j5 S* p6 b0 G: ~- N" v6 k1 l
& m! e: f n/ a! w) F( m+ ~% _
单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。
5 B$ l+ E- T, q# S8 _GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。
. ?; S9 l4 O& y- O6 h" q8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
" H' b$ c, m& ]2 Z/ ^6 D能效:
: ~" e: M* `3 Y$ j
7 W4 ^( R: d) M8 z* XTPU v5e vs H100:8 \0 v6 p, J( u' T2 n. L
同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。
( \; g! r9 U4 e e5 N, y( C t测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。* w' N) X1 a+ k; J$ I
新一代 Trillium/TPU v7:5 h; N: i/ A! @* ?9 n- b0 v8 h
能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。/ j$ u1 J! g' X, D
Google 方案的特点:+ j8 p) a5 W$ i3 S! ~ T
( N1 j: [$ x% {- B) Y
自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
" B2 l. p+ b. m+ H. U对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。
8 I: {8 H/ g) ]3 ^" {5.3 华为昇腾 910B / 910C 方案
/ ^) Q( Q/ ], N, RCAPEX:
* n" c' k6 n/ L& X7 U/ O4 g; ^2 \2 M& m4 {5 N0 c
单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。
/ {6 t: v4 s) l5 p. c- m& b$ I4 d与 A100 对比:, L- y$ ~7 Y9 w0 B2 m
FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。; y* O( o5 _' a: Y" p) Y) R
市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。
# ~3 Y; S2 m4 L& ~, N0 L( I使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
5 `$ b4 b( P6 c8 ?' c6 M8 G- w# OOPEX & 能效:
5 V( W. |, N, m( C& ^. ^9 G
- n; x, z- D0 L% u: `5 M910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
- y. g4 \ Y$ N2 F7 `% h* t0 Y$ ?部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
7 V+ }" ?0 H0 A( ]7 D在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。
( f8 R, I( A9 B% ?% e( \; H5.4 平头哥真武 810E(PPU)方案- N( r5 r- l$ x o: T
CAPEX:
: ?$ ?# h0 x) l0 T. O5 W* _5 {, z* X% V. [9 U! p) B
技术参数:; X/ ^# h, R8 W* Y2 \
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。0 c6 ~! u7 U9 W/ t8 F1 |) Y5 _3 x
性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。# ^7 J9 J- W- e+ ?
价格:3 O8 K+ U! T% m; E9 s4 r
未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。( m# M$ V; S/ O# Q. v8 a( g
结合国内报道:
0 }( t2 I' ^& j7 h2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。9 G7 M5 k% v1 z6 v' E
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。
" x5 F& L) m+ }% P/ r6 t% M: NOPEX & 能效:, y4 D0 h. M# \+ _5 b* L9 v
& v7 `1 V) Y, j1 Z! Q, _& C400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;# C6 Q7 ]; n( h& b6 Z7 n3 z
在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。+ ^2 c9 d) g6 Y0 e8 o! y% U
六、综合比较与策略建议
7 D7 z: s* b) P6.1 区域维度:在哪里建 AI 数据中心?) f1 d) E. ~7 {0 |. J
纯经济性(TCO/tokens)排序(假设无政策/合规约束):
; i+ w K& {! `9 J, S M
9 H: x. i1 g. z- f中国西部/北部(电价低、人力低、建设成本低)1 m1 z7 w. _, e" |. a' Y' J
中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)
7 Z9 \) M. ~! D1 r) q0 e美国电价低但人工高;东海岸/加州电价上涨压力大
2 T: r5 c2 ^. I+ M3 `( Z, r! h& r4 A欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求
( s/ P, y0 F9 q. q$ q* Y: D9 I1 b7 e若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
9 t; w, N6 x: H& P+ A
$ S( X# b% D. Q纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;
6 K6 i5 s8 T2 X$ L3 x- P对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;' R' j0 _, A6 n3 u
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。: ~0 A/ M1 R0 ?7 s! S
6.2 技术栈维度:选哪家芯片/云栈?. w( @ L8 ^" d' F1 s: p
若目标是全球最优 tokens/$ 且不受出口管制:
) \ @& j6 G7 O7 l+ l9 Y
6 f' U% e$ ~$ |* PGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
' y/ H5 o" C* y2 C2 Y若在美国/欧洲,能自由采购 NVIDIA:5 e+ H! m$ y8 j- Z- }3 S: Y9 V
# Y- [- U7 _5 l' D& V. R短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
8 v# ~! r# q0 h/ i, u* C成熟的软件栈与生态,极高的 tokens/s/GPU;
, Q- \- c$ ] {4 w! Q5 \在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;. I& Z# w; J' n# W( h) f7 z z& ? q
但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。
$ n0 h# B) s2 v" D; v若在中国或存在出口管制约束:+ ~) ~# r* ?3 o r2 z* m
& F' r) f I4 a% \, R# R昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:
* k7 _* ^6 _0 \2 U8 R7 h0 S性能上已能覆盖大部分 GPT‑4 类推理需求;: L, D0 A$ u6 `
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;" v8 k- A l+ @5 ~7 M+ X2 t
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
% ]' l3 w+ N# d" T* i建议配合:
: |0 w6 w' x( R' ]* l* ? @高效液冷(PUE~1.1)、
) ?4 D- ]0 Z! H9 ]9 x大 batch、路由(浅层任务走小模型/低成本芯片)、6 I: W! Q1 d7 _% v9 g
强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
$ o, Z( o: `5 C7 W长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:: o9 R5 N; A7 H. V: x
L! n5 f4 @: ]$ M6 m2 ?
数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
( K) p, f# v: {5 G: a2 h# H) a这意味着:2 ?0 ~3 }/ \& Y1 ]
优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);, L+ Y6 B8 l: ~
精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。' N6 o- \0 b- r% S" A' s% u* z
6.3 针对你关心的具体问题的简要回答2 F; g. w8 D' [, h0 {
AI 数据中心建设 vs 运营成本的大体比例?
( F8 D& H& A, M6 _, o0 V% Z# s. }0 g# l8 j; t# p9 P
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
+ y3 t4 h' S8 F( G% h其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
) y( x7 t, l Q& r% y& \# E& a. @8 ~中国、美国、欧洲、中东的成本结构区别?
0 ? Q( m2 q" E9 ?$ S3 T
$ { J; y" t4 g- f6 c建设期:
7 \% j: d' U9 p4 I中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。2 f1 F) w" ]" g% q( P4 t
运营期:) C1 \: I0 x1 n" D: r: r) T
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
% t3 k8 J+ Q" \2 L; x2 u9 a人工:中 国 ≪ 美 欧,中东居中。
: Y6 ?7 M" p' @在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?
# G; t/ p$ @8 s. b0 {
+ {1 c. j* F# _: y: T# E* S对于典型 1 J/token 推理负载:
. ~; Z! s( J+ j. |美国 $0.30/kWh:电费约 $0.083/M token
" \# D- i' t. O1 [: L1 T5 F- j中国 0.3 元/kWh:电费约 $0.012/M token
8 s$ F' q4 i/ F: g3 K- `对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。* G# U6 @% t! f6 g/ a) ~! P
不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?0 W% s: ^; }- A m0 Q
/ M I# C8 k2 C4 w" n1 Q/ E# d在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
. e6 X4 A2 I! ?+ q+ w. I+ ?) O& V- B全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;$ W3 f' x) C) E) }7 D8 X
中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|