TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:: ?. E" L2 Y. a8 | S( D8 ^
2 D) k5 b3 N" w* K- {
一、总体分析框架与核心结论$ Y3 n3 g/ e" E! B
1.1 分析框架概览
4 @: E' a6 S+ g1 G拆分维度
. \9 z" b1 s. W7 ~0 ]9 R
/ I) v9 c6 N% x$ N) h阶段:; v! l9 x! C3 [! e8 s, P% O2 i
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施
: `3 f: A0 U( Y8 B运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等$ \4 [% Q- w5 Q; ^" J% i$ i
区域:
5 n4 \! @- ^6 o$ o中国、美国、欧洲、中东(以海湾地区/UAE 为代表)
$ i- ]( Z8 Q% U: N' c- P技术方案:
* `1 a' g. W6 QNVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
6 O' F7 }+ e M/ f- jGoogle TPU(v5e/v5p/Trillium 等)3 i% d9 a# B3 ^$ m
中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
3 u. [/ y4 b9 f; d算例基准+ b1 a0 ?6 o6 F# q
* P5 x, I7 a; Y5 j' J" `以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:4 e8 N! ^; Z# _
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
* B5 k& f1 d) ?, pPUE 假设约 1.11(高效液冷场景)[1][29]
9 C F- H6 R& E& O b' g时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]
/ l3 u6 P" c' i- P# d2 B关键指标7 T2 V6 w! J3 M) J8 F4 E% T
8 h# b; Y$ [4 V+ O( Z
$/MW 建设成本(含/不含 IT 硬件)3 ^- X+ P7 T. X
$/kWh 电力成本、L/kWh 水耗
$ m% ^) o9 A# c& d* p$/token 或 $/百万 token 的综合成本
2 a- D! G0 Q0 @2 g8 NToken-per-watt / Joule-per-token 作为能效基准[17][18][26]
5 U: h4 j: X: C* d; N项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)
, v8 [: L# t% T: D" Z2 j1.2 高层结论(供决策快速参考)' j& T5 m, v) }* J5 G9 ~
建设成本:AI 数据中心相对传统云数据中心成本翻倍% W' F# W, r8 Z8 m, P
3 V5 I& a7 X. N5 D传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
. B/ v4 _4 F; F$ C! e$ ? J( o8 w5 gAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
; b5 [+ E, a8 |7 Z( R8 [; p按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。
8 n- p% J; B: L8 s3 [区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区9 Y3 K$ p2 {; y9 E+ ]( m
9 w6 Q. ]' `+ ~9 b+ E- k; q9 C3 o中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]
/ r3 c" X0 h, q3 ?2 m! t* e美国:$8–12M/MW,400 MW 约 $4.0B[1]& {. l! z. S7 y- B
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]6 T- L+ R; a2 }6 p2 V/ T0 {2 h
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]
7 Q/ a9 L* b% k结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
9 U% K4 M* O5 `7 J3 K2 jOPEX:电价与人工决定区域优势
! W+ a2 W4 N: M2 c5 O( U% I2 U2 d8 K, E0 V0 K9 `; q+ ~
电价(2025–2026 工商业大致区间):
9 W) P0 }2 S: {& H8 j, W中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]
, z9 F; I5 R) _: ^( D; r, R" v& C/ q" c美国:工业用电约 $0.085–0.09/kWh[44]1 M" C0 \2 y- h) d- a
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
S9 _! Q0 H/ m2 [( B0 i- p* t, A( Y中东/UAE:工业用户 $0.07–0.13/kWh[47]
) D; J: L1 s$ {& C& V' G人工:' C/ E" ?+ e. T, { x" {' K
中国数据中心运维:约 $22k/人/年; c& v& ?' k. P% N
美国数据中心运维:约 $120k/人/年[1]7 W4 C* W4 a: f0 @- a* c
结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。
+ q; N R, v& Q \4 c( i能耗与每 token 能源成本:能效差异远大于电价差异
; [% c; `# }( b' Z. {' Y
4 @3 D: t- @$ X2 p e; b' VIEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。
4 R5 v2 f# m6 P) Q- F2 v大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。+ v2 ]0 e( d7 y3 f
将 token 能耗约化为统一口径:& I8 ]+ ]' W. M- t. p% G/ R
粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:
' c# @( i% l6 ?/ m2 a- x中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token3 o% l; W1 G' N
美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
1 d0 l5 l" a2 N5 b! K对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。
6 N. a$ x9 Z2 ]不同芯片方案的核心差异) z6 e- n- y0 c( w. f
) T( q; M5 J q' k( u9 d
NVIDIA Blackwell/B200 & GB200 NVL72:
. `" O5 B% D6 m1 d+ r1 m" a单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。% @; F! P/ R, B5 @! k0 a) C9 [5 Q
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。8 d8 Z7 d! {) j! v5 t0 m* ^
Google TPU v5e/v5p/Trillium:
) G6 y2 p1 a$ _* C: `) B1 cTPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。
- o* E* Z% z3 d8 O7 tGoogle 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。3 b1 d. x6 m/ c) t% j0 O. z
华为昇腾 910B:
% w. f$ L; X' \/ e* VFP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。; }% E5 `/ j$ Z
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。
: v2 K0 |" {1 W$ d; ~" @阿里平头哥真武 810E(Zhenwu PPU):
: C5 |: N) y3 s0 P8 V+ R' Z% @96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。: E. y. ~: ?+ K7 V$ M" D
结论:/ d$ Z: @. }6 [1 W3 m" [
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。- }7 `' j5 O' h" \9 ?: [
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
' Y$ Z, m8 l/ W/ O; S0 \对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。9 M1 R1 ^2 z, n. I4 a9 V7 @: f
自建 vs 云租的 TCO 与 token 成本1 C2 t# _2 a& X
4 ~6 E) C: C- E' h0 c" t& K% i
LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:
/ [8 f8 r7 t* ^ m9 g! b8×B300(Config D)自建 5 年 TCO ≈ $1.01M;7 w+ r2 n: w& \. y. H y: M1 x
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。
1 d4 K2 X8 _6 S7 M: s8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
! d% l" m% P# E& B* ~Token 成本对比示例(LenovoPress 场景)[28]:1 o/ j% f! q/ c. s$ L: N. X! ~9 ]
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token& n3 w7 y; F+ a1 u& c
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。$ u. p4 G- P0 q! [
同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。& A) _1 J6 h7 @% l; [
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。
- j3 ~" N0 F! h& \% ]' Z+ k结论:8 |( ^" j$ k; {5 t1 K% l
高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。1 o0 b4 b: k3 L
Token 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。- d% u: j3 b. p: ?" N& b+ x
二、建设期成本分布:区域对比
) R1 J+ b0 ?: u% m }( t以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。3 ?. e6 G$ h+ c( w+ q
: W7 u* T! v5 R; l& X2 h2.1 全球/通用结构(以 1 MW 为单位)
; t. }- E6 L. V4 n综合 JLL、ConstructElements 等[2][41][40]:
% n. @0 I6 \6 g# J+ C7 s2 h3 x7 D! A5 j: H& `5 S! \0 W2 N
壳体+机电(Shell & Core); ^0 F6 W1 m3 P4 }! l! G% U9 p
' w( \" w( K7 U; D5 k& G9 _全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
# h6 S( z0 J5 _7 j+ c, O其中按成本构成[40]: h* B8 n: W! B: e; J; G) X
电力系统(变电、配电、UPS、母线等):40–50%7 H, \: w& S) E3 o( P" [5 n; S
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%2 Y- }! V1 P; o$ Y
建筑与土地、结构:约 15–20%3 W# j7 x$ u! k5 N
其他(消防、安防、楼宇管理等):约 10–15%
0 N! q/ A9 O2 T4 YIT 内装与 AI 基础设施(不含芯片)
0 [; K7 q0 h% H/ Z9 K* q
* r- C! i1 i D7 g( w0 t0 R4 n4 `/ J/ r高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。& ]1 p% ^ d- C a3 w- U, `: I
GPU/加速卡硬件 CAPEX o3 o. o) u& f1 X" p
h1 X, E2 V6 e3 p% U" W多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。, S# ^# W1 T4 j# z! j
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX
1 B1 ?3 {4 s: W/ m# E结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):/ d) c" ~4 ~+ h9 R
5 w0 B6 s3 `8 R
区域 典型建设成本(壳体+机电,$M/MW) 备注
/ b, J7 l6 y$ r2 ~* U, g: O7 W0 ^中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]7 I9 K& j- t; Y q6 c" f; l- g
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]
+ G6 t/ A. x: ?( }欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
3 X1 V9 t5 m a+ m! {8 y中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
' j' v) v' p: ^( b结论:' t8 Y/ C8 t: R2 U5 a& z$ h4 |
1 s4 ~6 C ~5 ^* d' g- C; }
单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。& E& `- M E4 {
若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。* X f) v5 M0 h- n6 a
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)6 S+ h5 p @9 E( {% X2 l9 y9 `
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
# t% q2 Z2 ?8 V2 S! q/ U7 K) `& K4 z1 s& ~# P- t3 i
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;8 O/ t0 e: k2 J' _) B
GPU 配置:
! r: h+ d1 Q/ e, k& k; L有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);* R0 S+ z2 O5 G9 y" l! i
每 rack 成本 ≈ $3.0–3.35M[34][69];
) x$ J5 {! v# NGPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。$ o4 B4 h1 R$ ^! ^% g
与不同区域壳体+机电组合:
) `. l4 k7 I: a# u4 M# w1 e
7 w9 a5 S# l6 N0 V: W& s以中值估算:7 m; w1 n" E2 l. o
( m( }0 A* O: R$ L* M3 f6 f, b$ I
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B
+ J( i0 k7 X# w, ]2 r; _美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B! h* y5 D4 L7 n- Z* e' I6 ^8 t- s
欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B( R) ]% \0 M( _ C
中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
* |5 |% }% ^2 J/ P可见:5 R2 w/ x0 r _7 k
: A' s3 _: g1 m* t2 u# C: p
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
* U- Y2 N( Q8 K相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。* `' V6 S% b0 A+ K2 t
三、运营期成本结构与区域对比
0 ]# B9 ^. |9 X+ A4 F# B; V3.1 通用 OPEX 结构(高密 AI DC)& i. A1 l3 P$ g6 o* Q- R Y9 k
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:
8 ]0 ^0 P) _, P- _+ R$ c7 L9 c, K6 L. t
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。
7 T- `* C/ w% b, ]冷却与水资源:8 q) w7 v5 i, L) I' o
能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。
" @$ ~2 ^% Y, R; `3 s) r水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。, T$ [0 N$ q( g. @2 Y
人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。
9 _. X- K$ z* I+ p) I6 A; Q托管/物业与维护:+ [7 @/ j$ z$ a. J" _
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];
. I2 X3 v) g6 u) A硬件维护:LenovoPress 模型中按设备价 12%/年[28]。( q: V) T7 J2 d3 v& \$ |( ^% g+ a4 U v
3.2 区域差异(以 400MW / 3 年期为例); Q( K3 Q0 q3 Y2 ]0 h0 r
使用 ChinaTalk 的电费与人工估算[1]:3 Z% T& p0 T2 Q! X- U1 T" O6 e. b
4 k0 M4 w& a7 ^; R3 z
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:$ T4 j' }. e- M& B2 x8 |
中国:约 $0.06/kWh → 3 年电费 ≈ $350M
' _/ o1 i a% z5 L+ ]美国:约 $0.09/kWh → 3 年电费 ≈ $600M
2 ~% s% M' w7 r3 V中东:约 $0.07–0.10/kWh → $400–550M; O# P# m" n( a/ M; h9 E3 {" w
欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)! `! e x8 a4 B' }$ U
水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:; I) X6 c% {5 d. p& Z
美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]* f) g" L, [8 @0 D# [1 `
三年水费级别:0 @- r! }* \% @' _2 ?! N F. y5 O1 n
美国:$40k+/ N. o" p. M ~8 k* `
中国:$20k+
3 v6 X3 I4 o. c结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
, K3 K- A+ C+ m# x9 r6 O) U人员成本(3 年) – 假设 500 名全职运维:3 S; S2 o1 s2 [ L
美国:500 × $120k × 3 = $180M+
2 K& }) Y+ a, O! p8 G! S中国:500 × $22k × 3 = $33M+
. u" T6 i; S3 w8 z! W9 g* _4 `& ?差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。) n) p: P4 `( ^* L4 `2 ]# C6 L
整体 OPEX 粗算(3 年) – 400MW 场景下:
, K7 T& x! r$ r, H, @% K( J& {
项目 中国 美国
/ D+ G* A& W' s电费 $350M $600M7 k. W. I$ R: t" i, m: p% l- E* g
水费 <$0.05M <$0.05M
1 o; h3 ^: U- U ^人员 $33M $184M
, }. f( C# ?6 }" j其他维护/托管 同比例估算,地区差异主要体现在人工与地价 % Q# U- A9 R& O+ A/ v
结论:
7 y2 |/ A6 O7 ~6 c, P$ h
2 @, w9 X! {/ j) ^9 [就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。! j7 h0 r+ ~9 ?$ c/ x
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
9 @, U8 h" q* \) j* \5 I- x四、基于 token 的成本与利润推演
* Q6 ^- m0 B% t+ q* ~8 k4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)
3 x* r4 U, R5 D( [% j3 H+ D统一假设:
% t% ]7 S" U" }* g! o
2 n; t: G& R+ Q9 n0 F! T典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])
7 E) O- U/ ^6 o. Z/ o' }1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh! {4 c5 X! c0 M" |
1 百万 token:278 Wh = 0.278 kWh
8 D' v1 e5 u0 q4 y$ E0 F* B场景 A:美国电价 $0.30/kWh6 h: s# [' W. z% o, y7 b9 e
电费/百万 token = 0.278 kWh × $0.30/kWh
7 O% i8 N4 Q& U, h≈ $0.0834 / 百万 token& W9 q4 z, S/ o8 [
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh1 E8 f. X; y& H9 C0 ~5 U( W
电费/百万 token = 0.278 kWh × $0.042- o' m2 d U5 D, E# @0 |
≈ $0.0117 / 百万 token" Q5 y. q; P' K/ S- M
对比当前 API 价格(OpenAI 2026Q1)[62]
0 h- [2 h, Y. l; p) U$ _以输出侧为主(成本最敏感):5 C" g/ J. c/ v t7 u: L: r
) r2 s0 ~* Z6 Y7 N i$ M H Y模型 输出价 ($/百万 token)! |" e' x/ e3 Q; c% o9 M
GPT‑5.2 $14; f& d5 i$ p8 c2 t
GPT‑5.2 Pro $168) v- @' T! t: G, V" J( Q3 G3 m
GPT‑4.1 $84 m( g7 C& @6 `
GPT‑4o $10
" i$ e7 E5 f, R8 a: L' BGPT‑4o mini $0.60
9 Y+ b9 ~/ s; b8 b/ `6 j+ k- f则:
7 t7 \3 n$ x2 H+ \+ x% }# I& I$ A$ i& N& k
在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。
7 @4 z; W4 H* C2 M1 d' K P* q在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。* {5 U) x; b7 O9 G9 a# s) [( l# D
相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
9 Z5 t' z% Y/ a4 C结论: }" ]' _$ P- L) J( y
即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。
; ^7 m: V" t" \" b7 Z5 F( c! w1 X: e, u/ {$ |' u1 ~9 l1 K1 T
4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
7 o+ |1 Z6 S" ~+ T以 LenovoPress 的 8×H100 Config A 为例[28]:' T+ y0 k4 ~3 h! \$ Z% C
. |6 j1 p! b! |( {5 年摊销下,8×H100 本地推理 70B 模型:
( Z# F3 r) P9 i. h; n6 t3 }$ O小时综合成本(CapEx摊销+Opex):$12.08/h
* L8 U* k7 c$ B! r吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
3 s, T& O6 k U. t H5 {6 D% {成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
. ?4 l. r$ g% v0 r电费在其中的占比:
6 B' `0 J, c* ]Opex 6.37$/h 中电力+冷却约 $0.87/h[28]
1 Y& B9 A& G. s电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
8 C/ Z% c7 M$ c) V3 h% L. @* j5 N电费占 总 token 成本 ~7% 左右。
; a2 \9 E8 _ S) t% Q7 h2 z若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。2 I( _ J& E* `* e1 m$ @
若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。7 i' x4 a6 \( Y" X0 S |
8 I9 o6 Z: G# I7 J因此:% t2 `7 |, m! U& [. p
8 c) P; o8 Z; k; P
在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。& `! u. S( f( [" Z* K
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
9 F+ R; F l3 R; {+ A五、不同芯片方案的建设与运营成本对比 h U: h5 \3 j9 @9 S: q
5.1 NVIDIA 方案(H100/H200/B200/GB200)
1 i6 z3 O$ o; p/ Q9 j; O6 s3 O2 nCAPEX:
% L! Z, s' [( j( y; d+ n/ W3 V2 O, n' `; E, X) O0 Z0 f4 j& A1 u
H100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。! m' U8 d# p4 T; K5 x6 V4 c V
H200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
9 a4 ]4 e, \! @9 A) W% ]B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。 I3 ^% F) M# i" K7 j, }
GB200 NVL72:
. l& B1 c8 r2 Y" R J5 H# F6 s" f每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。
4 S1 Q; K1 K9 t" ~, }* X冷却系统每 rack 额外 $50–56k[35]。0 o8 r" l: G8 P8 m$ f& s' f
在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。: ~, F( F; ~: K8 b y
OPEX & 能效:
+ _( [' @9 ?( K0 t1 ^; d+ a% T# w& [+ B) {1 e
单 GPU 功耗:7 r- w/ g' F: G( y
H100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。
0 G9 B, Z' A" ]$ p% M8 m* ^7 xH200:功耗类似或稍高,但性能/W 提升[9][10]。
8 | M8 ]. ]7 g* X5 Y. OB200:标称 1,000W TDP,但实测约 600W 左右[68][69]。# Q* C; |8 K! K$ O/ ?1 Q2 |
Token 性能:, \9 }9 m2 A* `
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
$ A. w7 z0 X% _. I; O, v$ ?3 CNVIDIA 的优势:. p3 _0 p4 O0 N+ }8 c7 b9 ~0 r
! `4 D# e3 f& A: `" O
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
: t) ^" {% R/ Y; s& R% S但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。/ u$ Y) ?8 W; G! P* C
5.2 Google TPU 方案
" o! \( }# Q8 O0 w$ QCAPEX:( s1 K6 p3 R9 j' L
/ A& m/ e" t1 I+ d单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。5 s' K: ]" o+ b) O. d5 S( v4 o
GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。
5 T1 k- e( D% x3 H5 s6 A2 o, @8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
4 K0 _; X, U0 N. y能效:
1 `1 \ S) K2 f- x* F H( T t6 G7 y! ~$ R- }& m
TPU v5e vs H100:& ]) w# \, W- n2 O4 e& O
同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。
: F3 @$ J$ N b K+ O1 e7 B测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。0 N' U) x: ^( e: u' q6 S8 s
新一代 Trillium/TPU v7:
* _. x+ w/ q8 @0 g5 g能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。
- T: b8 D* C4 t5 D4 lGoogle 方案的特点:0 k* N) E3 Z+ y/ K
+ [2 B9 \9 y/ Q# ?) [. ^自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
9 ?5 E4 N8 c! q6 }5 M, \. v对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。) A" \' ~% z* g& x& g( M
5.3 华为昇腾 910B / 910C 方案
* c* z: `6 ?6 ?' `0 {0 y BCAPEX:& S% C- P+ t2 ~/ s1 c: l
; @, d q* f3 M: w I2 e7 @) X单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。) M* P- ]7 B7 D' S2 w2 |
与 A100 对比:6 T# V9 J7 z1 | l! N+ W% G
FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。
; ]/ [5 p2 |2 ^% z) s" ^) x市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。( b4 p6 n4 n U7 q& R L
使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。 f( F! m' p/ ]" [1 E! R
OPEX & 能效:4 S" F# n2 B' l) A P/ k" c8 f
0 m- Q) J/ l3 V- l4 h) R; i! T/ f0 J
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
1 G0 H$ h& \2 N: o0 U( `部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。; u) [$ [* C- B
在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。, k3 b% _! V3 p2 _+ X T+ D; F
5.4 平头哥真武 810E(PPU)方案
- R0 P1 f$ K3 w7 R( g% C/ ZCAPEX:
* ?$ |; I2 b( P# ], ^- G
& W9 o4 P1 F( c: ^1 k- _1 o技术参数:+ ?9 z0 ^) b! d" E# E0 M! E' l
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
8 Z2 P* V+ d" d L性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。% K0 R$ n3 j3 j. b! }0 `( B. `
价格:5 y5 o. V) o3 h8 F
未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。" w& r4 h l( ~
结合国内报道:5 @6 @) T6 I: ]2 J% p# ?
2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。
h$ t% w/ E. B* T* l- n4 T7 {. X# u& a* w数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。 H5 U! h+ M- R' i
OPEX & 能效:
1 d& M& q# i7 Y0 D, d. H- A. E" I
$ r# R1 u9 K [5 O$ E0 v$ i400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;; q3 `/ o0 B! M: Y$ l
在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。
9 j5 u1 I* ^/ F' X; {7 n* C六、综合比较与策略建议: K; l' A5 R3 x
6.1 区域维度:在哪里建 AI 数据中心?* p# e, u6 h7 T8 o- g) J+ n/ G/ m
纯经济性(TCO/tokens)排序(假设无政策/合规约束):
3 l3 v: x; G2 d. y" ^7 L" w7 q1 y% O# l
中国西部/北部(电价低、人力低、建设成本低)
! s5 _; A/ i: y/ i中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)3 b# }1 x' ~) Z6 [) ]$ ]5 U4 h
美国电价低但人工高;东海岸/加州电价上涨压力大
/ O" _' P0 W, q6 S% G3 M欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求) D+ X- ?: m+ z; E
若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
0 ]7 E6 I! v& n6 F* @1 k
6 @; {2 Y% {# x% b1 W纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;+ ]. |; E3 C0 G) t# B9 B
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;
, g8 |" d9 t1 { ]; i" f但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。4 K5 [+ O+ ~) P# q
6.2 技术栈维度:选哪家芯片/云栈?
& G. {* S1 Q& s8 Q1 t5 x若目标是全球最优 tokens/$ 且不受出口管制:9 \' x) D1 F" s6 ^+ R9 D4 j! y
9 J- c* x0 @+ t! A& CGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
1 Y7 g) d% B" k5 W% Q若在美国/欧洲,能自由采购 NVIDIA:
$ F! A+ n; D- b" | N9 z% o4 M3 B+ _* g, G& I
短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
" c+ q% n1 J: j4 a# _/ `0 H/ u" p成熟的软件栈与生态,极高的 tokens/s/GPU;/ B- h% ]8 T: f6 I6 C
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
5 z6 {/ _, z9 L9 M- s* Z但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。
% M" y6 J3 Q; F9 y若在中国或存在出口管制约束:% T- X) c' M- @+ Z3 a5 T7 R I
7 u$ r9 x: V0 R" |4 {& w
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:' i7 ?1 S3 Q+ f9 Y
性能上已能覆盖大部分 GPT‑4 类推理需求;( z! y! Z1 ^1 m) R4 x
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;% g: `6 B2 q1 Q* F s
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;& t; v8 j1 B( H) v, i9 s: B( _. N
建议配合:
7 x# z* F& Q# {( R高效液冷(PUE~1.1)、
( G2 b% N7 \$ R4 Z2 _; T, q大 batch、路由(浅层任务走小模型/低成本芯片)、1 w% A7 Y) T+ R$ s( A+ O
强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
( Z! o# g1 c6 G( r9 B# g' W长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:8 m3 O: x% n7 e: [
4 \- f, [* ~$ f' j数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
5 o a+ y* C$ n' |: Y0 Q* }这意味着:
6 L9 E5 H9 }9 }1 d/ |6 X2 u! K优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);
. e5 h" U% M4 }" Z精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。
4 f. r5 {$ |5 U6.3 针对你关心的具体问题的简要回答
' B7 u9 K) H& k1 r4 DAI 数据中心建设 vs 运营成本的大体比例?
, T/ Y O( A5 {7 g# z" ~! f1 S- f% J( A. E2 H* d% z: |
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。! p' a! j# |4 d# {% {
其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。9 r- ^ A2 Y2 X* y1 G
中国、美国、欧洲、中东的成本结构区别?
3 W6 G4 J/ N3 j" K7 \3 k
# r) `/ Q0 p3 L5 y建设期:, X( p7 u! y3 N- K: b
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。4 X6 ~# n, E( w
运营期:% X A: P9 H$ K- Y9 @3 K( t
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲) H& x k; _$ K% `$ t, S; n
人工:中 国 ≪ 美 欧,中东居中。) `7 V% G5 i: |4 l# a
在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?
7 A# R* V3 @% y
- V1 j; O5 @ b! L( b3 ^对于典型 1 J/token 推理负载:* D: J# e9 G# h5 H1 i
美国 $0.30/kWh:电费约 $0.083/M token8 X" Z7 ~' |" @! y; B; H
中国 0.3 元/kWh:电费约 $0.012/M token7 R$ z( d6 p; Y; a
对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。1 A& Z" B* T& t& U' g. K8 {
不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?* k i, K, m7 d3 v
H- T- g& g2 r: Z$ f) Z B" Y5 [
在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
0 R! }' M6 C5 Y4 K/ y5 s全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
; X+ S) Y' }$ e% x中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|