TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:9 j+ Y v* t0 ]
& p' D# n! |. F. z' t一、总体分析框架与核心结论9 u5 ]" L6 ^, s* I2 p: ~2 w
1.1 分析框架概览
5 Q2 I7 s% N7 x, h' D! |. t q拆分维度" Q+ h8 \/ S7 P* g! h, h/ L
( C% j" p) B s8 l) r阶段:9 O/ e7 g4 ]& t# H
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施; _$ G! v+ J; O; I
运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等
: w) S" N7 w% q) m0 r9 H+ A% k5 \7 Y区域:
% N0 U; C3 j5 b$ n中国、美国、欧洲、中东(以海湾地区/UAE 为代表)
2 _. t) b! l9 c0 N技术方案:
; h; [ g' c3 @* P6 |NVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
: B/ S \$ T }3 C e3 c* wGoogle TPU(v5e/v5p/Trillium 等)% }( ^+ ~2 {0 R. Y w6 L! `
中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
: A2 v- z* B1 d: j$ C$ ~- a5 b算例基准
3 I5 y: j" X3 P; @* A" M. M9 T8 W" J* D [2 H7 I1 Y, y! p4 l5 O
以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:( m( m/ L' N1 ^% C, v
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW9 ?7 t! g9 ~1 ]' C3 {
PUE 假设约 1.11(高效液冷场景)[1][29]
0 ^% p& d8 ], i1 ?& Y6 \$ r' ^8 G时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]3 Q% w; N' F& P
关键指标
" u2 _: x! m$ O
, X8 w; O3 M7 f4 D# J" P$ c$/MW 建设成本(含/不含 IT 硬件)
, Z; f+ g) ^/ [4 \7 n; M' b9 s$/kWh 电力成本、L/kWh 水耗
( J6 I6 Y3 J: B0 Y$ {# P$/token 或 $/百万 token 的综合成本7 Y( j8 P4 g) R( s% P6 u6 B
Token-per-watt / Joule-per-token 作为能效基准[17][18][26]( d0 K; m# T+ L! Y2 p |
项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租); o+ R3 d6 e% u2 U0 ^- l
1.2 高层结论(供决策快速参考)
: ?: ~9 [) j) J$ g2 J2 {8 y建设成本:AI 数据中心相对传统云数据中心成本翻倍
( Z$ _4 p. Z4 B* k9 x
6 x; H" L, T O- P+ r* S9 s1 A传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
3 M& b2 o- i. E( c7 b/ t8 `AI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。6 q1 l1 Q/ b/ s7 C5 K$ d, W! R
按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。/ j: [* m: C. P# T0 t# u2 T
区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区
; w5 a/ @# I: ^/ [3 ?( @, R! ]7 E. k) W; g5 v3 f" ]8 K: @
中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]3 V& E3 ]; d" f' D$ n6 B% K
美国:$8–12M/MW,400 MW 约 $4.0B[1]0 V- o# N" W$ q# p U4 G
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]4 ]+ ^7 Y# h$ W3 W* n! A: b
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]
% I5 W5 q$ i& F5 d结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
9 ]+ K& O, s5 R% d2 q9 yOPEX:电价与人工决定区域优势& ]) a* }( V( \
: q: Z- O, T) _电价(2025–2026 工商业大致区间):
2 L! G- V+ h: K中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]
4 F7 p5 w+ M$ A" y2 E美国:工业用电约 $0.085–0.09/kWh[44]3 L3 \/ z1 R/ T3 g8 E! X: Z2 j1 c
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
/ a) j0 t: ?; l" G, o( O中东/UAE:工业用户 $0.07–0.13/kWh[47]
}1 O( h; x/ X( N9 [: d6 M F% g人工:9 e: Y: e2 B! V
中国数据中心运维:约 $22k/人/年
& F' q4 i! H; y% R9 [) E美国数据中心运维:约 $120k/人/年[1]8 Q% U0 U3 F' C
结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。
S2 b+ B# B ~能耗与每 token 能源成本:能效差异远大于电价差异
4 t3 P! o: Y9 ]/ F) A$ N! i( C# H, [5 i! \* x
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。
) x6 k; I' B- f2 P大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。6 @1 V% c) ^/ |& a6 B8 X6 }
将 token 能耗约化为统一口径:: x( [+ L. N- M. z) p4 T$ T% @" q
粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:1 a; t; x7 ^$ b8 E& R7 q
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
8 T# }9 q( z$ j$ H1 Y: q! |美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token8 y8 D r( V5 @, u6 A- C8 w+ l
对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。7 w5 R3 D8 [$ m9 B( g
不同芯片方案的核心差异; ?; K- J7 S$ @4 Y7 M; e3 o2 h7 {
' Y/ t- v2 s; I6 SNVIDIA Blackwell/B200 & GB200 NVL72:
; L+ u. z, M% H- j单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。
0 D- P, p. X8 ?4 CGB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。
( R% \+ P" G+ K2 i4 \8 O; hGoogle TPU v5e/v5p/Trillium:
7 g8 C/ Y! N3 _5 h8 T" ?TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。1 I+ Y$ Z v% X! X' ^$ n
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。% q$ L9 Y" y* W3 g9 T7 {: |" o+ Q7 K
华为昇腾 910B:
2 [2 d& b0 \3 d% R, `8 f! R0 DFP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。* i& A1 c: y, t$ o1 y
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。& s6 V1 [5 D% h; I/ Z6 j% B
阿里平头哥真武 810E(Zhenwu PPU):; t. B5 i/ Y" M' ^
96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。% g! T% v1 ?2 @* \
结论:) E" P9 S" f( Q7 _9 i) W
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。; `4 {+ B% W$ ~% L
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
+ b# w( L" y, o9 _, s对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。
" X4 u( r3 @) p4 j) Q自建 vs 云租的 TCO 与 token 成本5 x( b0 Q; A1 e
# }4 q0 B+ ?: V- Y6 R
LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:
1 e4 h, N! i3 P7 f& z, M# h8×B300(Config D)自建 5 年 TCO ≈ $1.01M;2 j, V9 l( |+ v7 r4 j- e
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。6 p z' j( A6 z) A: p' b
8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
9 ]9 B- ?) G0 D' Y- b; w% N9 aToken 成本对比示例(LenovoPress 场景)[28]:2 a5 m/ g5 _/ b
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token
2 V; C6 ]0 o) f+ D. r7 I, ~vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。
# |% Q: `4 n6 N同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。
8 x: L& p& v. L! A$ ~3 hLlama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。
% _) P! {6 i0 ?结论:' h% `7 w. O) Z1 d: O
高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
5 y( @( V! G0 Z+ l$ }Token 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。" ` N5 s ?( q
二、建设期成本分布:区域对比
7 c5 f5 ^, P0 t6 O以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
' z( A1 A1 z6 l1 E
/ q& b& E! I/ @& y M) U. j3 m2.1 全球/通用结构(以 1 MW 为单位)
+ Q6 H. O6 Q, R, C5 |' |3 C综合 JLL、ConstructElements 等[2][41][40]:$ D+ V. D$ F. i: J9 ^$ W
" r7 v1 R8 L- u7 t# |3 c壳体+机电(Shell & Core). M' V2 q# R$ Y" i. W& C
/ ?' K: q& ?1 q h全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
# F {+ g. X. v, ^9 P2 r其中按成本构成[40]: U9 Q3 n& P$ i0 c" W
电力系统(变电、配电、UPS、母线等):40–50%% p; M! f. Z0 X, L$ E5 D
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%) i8 }! T/ m9 H' H: T% _3 i
建筑与土地、结构:约 15–20%
\! O( B2 S8 i) `+ c& `其他(消防、安防、楼宇管理等):约 10–15%' q# b: d: p% t& t5 L* n0 c
IT 内装与 AI 基础设施(不含芯片)5 R; ? ~& L" l: N) Y
9 I8 w4 x; I; D/ Y8 d$ j+ p高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。
b1 k$ c0 a$ I" ]7 U9 y3 mGPU/加速卡硬件 CAPEX& {" y" ]" K p+ N8 L9 n
" I& ]6 \+ B8 d+ o S多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。' ]* p l b$ k& z5 u, z
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX1 N& p- g: o& C- s
结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):0 I$ z$ g7 Q& I2 m! ] h
: ]3 n1 W& I. J- x区域 典型建设成本(壳体+机电,$M/MW) 备注
% C+ m: G" U# D( c7 }中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]. u$ e3 I. q6 F% w' i; B
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]+ A0 I2 j( M/ V& R' B8 A
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41] n6 @# t0 I. G. X9 \# Y
中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
) \4 b" E6 t, {7 D! w' `6 N结论:7 b( B" M+ K5 d. D! r
, W6 n. r3 S! }. ]8 P# ?单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
; H4 H9 }* D7 r1 x, p' u若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。: l' ?4 ?' q5 M7 F
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)/ ]# d$ m2 b0 Z4 j" ^. X
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
2 s; o- _. o* U) S6 Z; T+ L9 \8 j; v2 _- d$ `8 B1 j
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;
) Z' {% _2 p7 A* Q0 h& HGPU 配置:
; m& M2 M2 I9 S* i有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);
! I; n7 X6 A# B$ i每 rack 成本 ≈ $3.0–3.35M[34][69];
1 `- C3 p# L' w/ {GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。) q! L) l+ P# l5 `/ H
与不同区域壳体+机电组合:0 }& E* T) t3 A
2 L3 k' ^5 H( ~+ T
以中值估算:; o/ Z8 Y' \" H% m0 Z+ e
& i+ G: }. X; ~中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B" q7 r5 r# a6 i6 R2 [
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
" ^( k; @. G- u: O/ ?1 M! J: k欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
q8 s* D" C% @; X中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
8 n' D' l; p) v3 u! t6 U$ Z9 u9 e+ d可见:
2 G/ Q6 n( L+ j4 H; _3 v9 C3 \# q! j6 h! u9 c* A) \0 q% |
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
" ]- w( c- u! l5 S2 _ ^5 s相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。
: F, w4 U- `3 N0 T三、运营期成本结构与区域对比
, q% W/ P7 {% v6 W4 d5 C9 S( U$ H3.1 通用 OPEX 结构(高密 AI DC)% w& g: C% Z, h, `- w: Z3 q) M
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:
9 g. o; p; X: z4 m7 r6 b5 u2 S$ B7 x% Y) }3 w1 ]; _
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。
7 D F! Q9 i& V! g! H0 n k0 x冷却与水资源:
7 q. I0 m0 V* @9 x s+ N0 ?3 ]* |能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。 \. z+ `' [" t R n
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。/ r. C0 M; O! s
人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。9 ]6 E( I" |) r: B/ {
托管/物业与维护: Z8 u' m {5 ]/ _7 Y" D
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];
8 I5 L' Z4 A) A: O, g. g硬件维护:LenovoPress 模型中按设备价 12%/年[28]。, U# b6 P1 k$ n8 q+ S
3.2 区域差异(以 400MW / 3 年期为例)
1 ?* ?2 |. } D$ {使用 ChinaTalk 的电费与人工估算[1]:
$ G! v6 l0 W- e, ~. [0 D( X W- J$ \5 e
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:' ]8 l6 z" |8 j) X. e, N8 K0 ~2 ^
中国:约 $0.06/kWh → 3 年电费 ≈ $350M% S1 ^( g2 @0 g
美国:约 $0.09/kWh → 3 年电费 ≈ $600M! e+ s4 C& c4 l4 E& E/ {" \; O
中东:约 $0.07–0.10/kWh → $400–550M4 e* u, L6 a# y
欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
$ C9 y) l9 T7 }' `水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:6 o0 j7 O4 x* f: ~9 P! O5 a) V
美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]: w+ \( Y9 ]7 Y1 Q q& ?* D
三年水费级别:+ J, Z* Y. E0 n5 w5 ^
美国:$40k+
; [4 F4 a, I$ r2 b0 y0 p6 P中国:$20k+
% ? D6 h& B' O, G6 X结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
3 G! Q2 M! c' Y/ w( Y2 d人员成本(3 年) – 假设 500 名全职运维:
3 N2 U: c* p' n- A3 ?+ ]4 U美国:500 × $120k × 3 = $180M++ a4 h1 [2 I5 a6 L
中国:500 × $22k × 3 = $33M+( `$ Y! H8 y; S7 _* G9 w" ]3 \7 F: U
差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。2 b) N9 P9 |; e4 q; Z6 V
整体 OPEX 粗算(3 年) – 400MW 场景下:; e' N) W" @; O' V0 c
3 `2 l( ]4 M. c4 l# E {/ N0 ^项目 中国 美国8 G: Q. K6 D! _3 L; t/ W
电费 $350M $600M! E' O! D# g3 k/ c+ m. q
水费 <$0.05M <$0.05M
3 g' `/ m e6 u人员 $33M $184M
9 Q' L2 }7 v8 [8 ]+ g$ P. A其他维护/托管 同比例估算,地区差异主要体现在人工与地价 / V( X( o6 _0 P, g/ ?
结论:, [& P3 V$ ~: h5 g6 N5 \, N
3 O1 A+ m7 v7 b4 T) Y; X就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。& t" W- J5 ~6 R4 G6 u; V
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。# p5 u& S1 W" |8 {" q U/ m
四、基于 token 的成本与利润推演1 _. F* Q0 q0 @, |" X0 k
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)/ p" H0 P+ c0 D
统一假设:7 e: g C" A, S. W. b+ M3 [
& `; m @' |, U6 F; N典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])
; N+ A0 h, [9 |8 ^1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh
4 H" Q9 e6 m; A9 O1 百万 token:278 Wh = 0.278 kWh
/ k" o) q) l; }* k$ I( ?# H场景 A:美国电价 $0.30/kWh }/ E; N- j1 t, s7 }1 e$ f! O
电费/百万 token = 0.278 kWh × $0.30/kWh
0 x' Z8 ]; l2 B1 q≈ $0.0834 / 百万 token( q) H4 t( y* L& I6 |6 |* o% D
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh/ Z0 {2 G3 g& W# k" ?) H
电费/百万 token = 0.278 kWh × $0.042/ V5 k9 @* C# b L
≈ $0.0117 / 百万 token7 R/ ]# s: T6 `! l* G
对比当前 API 价格(OpenAI 2026Q1)[62]
0 O: T# U, e& f5 D) W, a+ Z以输出侧为主(成本最敏感):
$ b8 i7 C8 |% P# o8 v
- H! a; O5 { e9 g模型 输出价 ($/百万 token): |- \5 w' g/ y* K" W
GPT‑5.2 $14& i, |8 p, Y' Y; r) C! Y2 K
GPT‑5.2 Pro $168
4 T z' ~! i* c& x( QGPT‑4.1 $8; T9 G) H. b! g; s N5 X2 `, q% x
GPT‑4o $10
7 j" R! @& c5 M; \, NGPT‑4o mini $0.60- S/ @6 w) U5 c B4 ]% s
则:; _3 T( ~ C1 R6 g8 J7 M$ c" k: F
9 H" G& k2 |& D1 L( k在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。
) S! H5 A4 H/ Y0 \1 _在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。0 V9 C8 q7 w. m% b% Z- T0 q6 J$ ?
相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。- }7 }( M; o8 I1 n6 f
结论:9 B! F) N1 p6 T8 K$ u6 a, e; \
即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。
9 X/ Q6 `% o) L, b5 ]8 z4 P3 ?: ^5 U7 }
4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
1 u" c0 r3 n: A# [& O以 LenovoPress 的 8×H100 Config A 为例[28]:
9 O- P! Q; K: l# g& O1 D2 w; I5 h/ H2 ^( J- o) @% U7 D
5 年摊销下,8×H100 本地推理 70B 模型:
# q7 d/ C' l; M小时综合成本(CapEx摊销+Opex):$12.08/h
5 Z, p* ^; ?! f/ H$ v$ K吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
1 D0 b+ v" S4 e6 s成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token. j% G0 Q7 b. o7 A0 n, D" s5 K D1 l
电费在其中的占比:
. m8 Q7 P+ n4 ~) w1 \) }2 `Opex 6.37$/h 中电力+冷却约 $0.87/h[28]/ U: s5 v& T' k1 |, ^/ W
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
) ^, l4 S. s' l6 U( O电费占 总 token 成本 ~7% 左右。: y L6 p) y+ ` T6 I
若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。
0 U; W) m* }5 w- u若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。- Y+ n" T' a) N8 e
% E2 }7 J+ k. P: Z* V. ?! ?. |因此:
8 z& ~4 U8 K1 K8 r
$ v) \! B* a; [" y, f在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。
" }# \* r: j( _5 L在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
) _& `5 F: R- j" B" s五、不同芯片方案的建设与运营成本对比
B B1 J# O. H6 m; F) A5.1 NVIDIA 方案(H100/H200/B200/GB200)! r6 a8 b$ h$ ~# U
CAPEX: @: m+ ~" {+ Z/ z2 n
) }; o1 J% Y9 B; M8 NH100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
1 P# \4 {) i r( z" AH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
+ Y' `" w; S: E8 _B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。( ~# ?% b2 \# a+ Q
GB200 NVL72:1 F+ s! p W- a* L" e4 [- r
每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。% E( ]. Z2 W+ w; t
冷却系统每 rack 额外 $50–56k[35]。, n- v9 N' K, d
在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。) g8 K* y( ]( ?* M2 J
OPEX & 能效:; A) r. i* x1 E4 v1 l' p! [8 _3 h
E9 D0 k+ L( D7 }1 j单 GPU 功耗:% |9 d0 \' U1 @9 U# K
H100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。
$ x- A) J4 `! ]1 E$ |6 d; QH200:功耗类似或稍高,但性能/W 提升[9][10]。# f/ h7 O8 T) @6 `
B200:标称 1,000W TDP,但实测约 600W 左右[68][69]。$ u, {0 X2 F5 x u# H! i
Token 性能:- N1 ~- n. O( V8 K5 F, I7 s- E& l' `
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
6 Y# z- ~2 \: r' Z6 V; GNVIDIA 的优势:
4 R+ ]3 M; [; l: u( [7 o/ i
( a6 ?- b8 _, _软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
+ p$ ^$ ?# {8 o2 Z: j4 m' `( e/ e4 [5 `但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。+ Q6 n) W5 D7 \ H
5.2 Google TPU 方案
3 l9 F! q1 G6 _+ I* B+ MCAPEX:/ t& i7 p6 l3 Y: h c5 w
) B! O+ ^. [1 p* O7 x6 s( N
单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。
( m; ^1 U! \/ D( C% \8 \GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。
" V( ~$ s' i5 ~* z8 ]$ x- x8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
1 O0 q0 ]0 V* u1 V9 B" a能效:
. p8 ], z' C; z: p# Y# s. c/ u @: n0 U
TPU v5e vs H100:
, Q; f. T) R% O2 m同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。+ F& @2 U7 J. I/ |) T( Z
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。
+ }; ]* a2 s+ R6 M新一代 Trillium/TPU v7:
4 b9 P7 u4 @8 s0 m i8 x0 _能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。
6 q# `" e" C0 V" v+ N" z) nGoogle 方案的特点:
# I S$ g1 F6 f( X) v
: U( @9 M* n+ Q$ \5 i# r自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;0 j+ \& {6 o% X& O3 i* H( D
对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。' O0 ~, P; O* r+ x0 O1 @* H
5.3 华为昇腾 910B / 910C 方案) D2 z6 p/ }- n' W
CAPEX:
1 v4 d, W% f+ n) O; a
, t& Z) s9 S/ r! m# i5 i: T5 q! {. o! u单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。
& j1 |9 }9 q* R与 A100 对比:* `2 V6 Y% B* o+ d" h( _
FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。
6 q7 W8 K; L3 M! ]市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。& a+ C+ B( A: \0 d- B
使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
) u2 {. \+ \2 H2 iOPEX & 能效:5 |: \- L9 I$ `9 G1 l8 z* A9 |, U, ]
3 P; k H4 e. K n4 Q910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。! s% N9 c& g: Z* x/ B
部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
6 T/ P6 h Y( p0 ^& d! @在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。
# I' q; ^3 L/ Q, a X0 G0 F, z6 }5.4 平头哥真武 810E(PPU)方案
. [' j9 o1 T5 O. a5 ~) vCAPEX:
) {' d9 @8 [6 _9 F) S3 l; J' }5 j' @0 `
E. Q$ F- \1 h技术参数:0 ?9 E3 C, f2 E% ~
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。& U) ~. X5 a0 b' G3 f$ g
性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。$ V+ o+ \$ T7 M( [% C, G1 S0 j+ w
价格:. `# l' Y$ n% B/ A; z- M
未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。5 p+ p, T2 B1 R* {8 M
结合国内报道:9 |6 C: ]1 q4 s q
2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。! ]/ Q6 U; i# g; q& h
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。8 o/ F# n( x9 v+ g
OPEX & 能效:
* ^6 s/ Z! M& l2 W2 t6 ^8 V. t; l$ ?; d; j1 C1 C& r2 O2 X
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;! v# O% M, S9 q7 ]" ?
在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。
4 y6 x$ E* [' a六、综合比较与策略建议 R9 J9 B7 |3 j3 o5 \ \
6.1 区域维度:在哪里建 AI 数据中心?- n: ]- v3 Z5 m8 |7 ]6 G2 A
纯经济性(TCO/tokens)排序(假设无政策/合规约束):
/ E* s( t3 A+ |- h4 [
9 h3 Z) u9 f1 O1 A中国西部/北部(电价低、人力低、建设成本低)
: y) z! H# m9 E: k1 u- A7 y中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)$ I% ?% H; C0 @+ v
美国电价低但人工高;东海岸/加州电价上涨压力大" Z' B, r8 l# |4 ~5 [! P
欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求- A: R" S. H( L9 u1 N$ ?5 R. j+ u
若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
- H7 t. g! s, b* K
" w% q& ]- ~/ D0 w4 {% r纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;6 E i U0 i/ y+ V2 w8 X1 H' V
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;1 i" L! s/ e; }6 ]. {7 P
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。4 V5 b. D8 A3 E. I
6.2 技术栈维度:选哪家芯片/云栈?
. T0 }0 u8 d/ q, y若目标是全球最优 tokens/$ 且不受出口管制:, l8 |$ u# j; B+ u
* Y" s4 j* H. MGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
3 V8 b% s: N( N; o- r若在美国/欧洲,能自由采购 NVIDIA:
2 D( M& k# L& k+ {+ K
) O4 U* q. R0 Z8 A% [! M- v$ L* R短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:4 ?# A" h$ G/ A
成熟的软件栈与生态,极高的 tokens/s/GPU;* g9 [! L& Q; v# j- h
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
, x& b' _4 ~' k' e) P8 \但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。1 O; H6 t# @7 s
若在中国或存在出口管制约束:
$ Z% T. w# S' \7 {$ p5 @2 i2 E# T+ @. _' X/ N
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:% x" |9 ~3 P4 S) {1 s2 K! q
性能上已能覆盖大部分 GPT‑4 类推理需求;: U$ m& A3 B+ y; Q
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;
( M# b5 P$ M% A5 V$ Q( t软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
! h& N2 {, P% l7 J建议配合:
' [9 J3 g( l [7 @5 r高效液冷(PUE~1.1)、
9 a2 S( X2 r( r; j) }- o8 c9 o. V大 batch、路由(浅层任务走小模型/低成本芯片)、
3 ?! D1 g9 V0 }; _4 k2 ?& s强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
$ z( O0 f" c* p: u8 c长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:
4 a2 Y: K& Z( ~ A9 R
6 ]! U1 v5 S) l数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
5 ~3 V3 O$ N, H) G! u! L这意味着:
) E6 y7 L0 g" T7 }7 x# z% _9 c优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);
- G q5 `1 [) Z精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。0 n+ Y' x3 p$ K5 i; Q+ C
6.3 针对你关心的具体问题的简要回答; Y3 x7 Z' |9 O8 u0 c
AI 数据中心建设 vs 运营成本的大体比例?' A8 e# L9 X E
* d: R; M5 d+ H
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
! L$ [( M' L# f; `0 u其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
: g- u g& d3 ^& x( \0 f n中国、美国、欧洲、中东的成本结构区别?, [ Y% w8 [* F& J
/ r+ o9 b) B, F) ~1 q# U建设期:4 `! ^7 E- c! }8 I# w5 q6 |
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。
' O( K, I( J8 V. a; ^- \# L运营期:
+ W) m. \2 P) t电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
: V& k: ~, C# Q/ t; G/ I* D3 P1 V人工:中 国 ≪ 美 欧,中东居中。
7 J& F, g. j; V4 j9 \2 w1 l. b7 _在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?2 n# r$ o8 X' l2 _
* O1 T9 ~$ m( w c! T/ F
对于典型 1 J/token 推理负载:7 v( \/ m6 |1 Y5 e+ H# G
美国 $0.30/kWh:电费约 $0.083/M token4 q! g- ?$ s. k8 Q% V
中国 0.3 元/kWh:电费约 $0.012/M token
6 \7 I% }" a$ r* c对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。# U2 C( i8 V1 G# X$ Y [& e2 ?: ^$ C3 J
不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?
n5 U! n1 _8 M$ L, |6 b8 J, V2 I: [) E6 C
在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;! Q4 M ~$ W. h
全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;" D: l) f# d4 |
中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|