TA的每日心情 | 奋斗 2021-4-20 05:43 |
|---|
签到天数: 300 天 [LV.8]合体
|
本帖最后由 可梦之 于 2026-9-11 07:35 编辑 ) x `! J7 ^1 V! L% M2 z
! E; i8 H& F2 S" r
华为推出韬定律后,大家(包括我)最关心的一个疑问是:把两个芯片面对面放在一起,功耗和散热怎么办?
# v- C$ f6 `* |# c7 u: ^8 G- R. T4 w5 V5 x5 j( h
最近,何庭波发表了第二版韬定律的论文回应了这个问题。经过麒麟2026(内部名称,对外是麒麟9050 Pro)芯片验证,韬定律芯片不仅仅没变热,还变冷了。+ V5 L2 _2 W3 x/ G9 B8 K( h
Z6 J. P' J& a8 t: u& L这个结论得到了广泛的媒体报道,但还是有点反直觉的。华为到底是怎么做到芯片功耗的1+1<1,抱着这样的疑问,我把论文原文拜读了一下(https://chinaxiv.org/abs/202609.00031)。: b7 ?( v/ ^2 G- j% G7 F
. K7 m# Q$ b0 L' P& Q: _9 ]
论文报告芯片密度提升了55%,与此同时功耗降低了66%。非常亮眼的数据。
0 _9 _/ F3 a0 I e, o
2 S) y; z* {0 K( J; H3 E6 C. q主要的阐述逻辑是:功耗的大头不是计算,而是数据传输。韬定律,或者具体来说,逻辑折叠缩短了芯片连线,从而降低了功耗。
/ z- D" X! `9 S, z; V0 |% s* c, N2 d2 h6 I
这是讲得通的,但我还是有疑问,逻辑折叠能把连线缩短多少,单靠这个能降低66%的功耗?细看之下,逻辑折叠平均降低了20%的金属走线长度,关键路径下能降低70%,在时钟网络上效果更好,平均降低28%,而且将clock buffer降低了一多半。数据非常炸裂,但是貌似不足以降低这么多功耗吧。6 `2 e" M$ n1 k3 m3 v0 |: ] w9 b
6 B ~4 p' a t解开我困惑的是第四章,这里提出两个测试方法:等效性能模式(iso-performance)和满血模式(full throttle)。前者降低芯片电压,算力和前代的麒麟9030 Pro保持持平。而前文公式1可见功耗和电压的平方成正比。将电压降低一半,性能就能降低到四分之一。这个才应该是功耗降低的首席功臣。
. I7 R0 D0 Q" P0 x1 e) ?7 c& D2 M# }- Q! ^* f, \9 m4 M4 ~/ X+ x
文中图1信息量相当密集,让我们来仔细看一下。
) N- y( n1 |: U1 L
3 U8 g& F' R3 ^- y- } 3 u% f! r% w$ g& e" c% I H
% U9 ?( {$ T8 s) A) r0 r首先,66%的数据是NPU在等效模式下的数据,其它部分数据为:GPU 58%,CPU:41%和23%(不同测试集),DSP:25%(2026)。满血版数据则为:NPU:+37%,GPU:+20%,CPU:+11%/+14%。选择最好的数据放是写论文的基操。& v) ~4 L( L* y0 s9 o4 U
. y3 Y# B* ~) n3 F其次,看NPU是如何节省66%的。相比9030,芯片最高频率从1.2G降低到1.1G,满血电压从0.85降低到0.70,根据公式1,大致估算同样设计功耗降低到(0.7/0.85)^2*(1.1/1.2)=62%。等效模式下频率从1.2G降低到0.442G,电压从0.85降低到了0.55V,根据公式1估算功耗降低到(0.55/0.85)^2*(0.442/1.2)=15%。当然,公式1只是数据传输的功耗而非整体的功耗。但也可以看出电压对功耗的影响甚大。 ( ]3 N; |7 Y1 z/ [9 F; z7 ~6 o
+ W. G7 W ]% k' l! {/ @为什么等效模式下电压/频率能降低这么多?关键在于性能从29TOPS增加到70TOPS。在频率降低的情况下,这一性能提升基本是更多计算单元造成的。简单估算计算单元增加了70/29*1.2/1.1=2.63倍。如果工艺和晶体管密度类似,那么芯片面积也增加到2.63倍。逻辑折叠理想情况下能让面积减半(NPU中大量重复计算单元,还是比较容易均分到上下两个die的),这样面积增加到1.31倍。我们看图中数据,NPU的投影面积增加为1.27倍,这里应该是逻辑折叠起了作用,走线变短可以进一步提升密度,当然不排除工艺进步因素。
]& D' c2 Z, K! U
8 W2 o, r- M' f: X# B在满血模式下,估算功耗是0.62*2.63=1.63,但实测数据是1.37,这个差距剔除模型误差因素,主要或部分应该是逻辑折叠带来的。在等效模型下,估算功耗是0.15*2.63=0.39,和文中0.34更接近些。
0 r; n1 Y7 {' z2 x/ g
4 U: i. h6 b# _! @) r) K7 p因为干活的多了,所以每个NPU计算单元可以算慢点。等效模式下可以慢1.2/0.442=2.71倍,和上面数据是吻合的。我猜另外一个降低频率的因素是时延,一般来说电压降低,时延会增加。时钟周期必须拉长,否则setup违例芯片就乱套了。但不好简单估算这个关系。& H8 v9 O9 S4 j2 W2 s% T0 ^( i
5 W( ^/ h! ?/ M$ g/ L6 R0 e9 g: `
散热更多考虑功耗密度,因为NPU投影面积增大为1.27倍,功耗密度相比更好更漂亮。等效模式下降低到27%,满血模式只增加7%。
- q' {# N! M# P# J1 l
6 Y1 i1 K; [0 ~9 h7 J4 Q其它模块例如GPU、CPU可以类似分析。GPU性能从61提升到86.9,芯片面积降低到96%;CPU性能从1700/1854到2005/2084,面积降低到78%。CPU不好折叠,最差情况下功耗密度增加46%。DSP面积降低到60%,功耗密度增加24%,但麒麟2027会降低到97%。
$ d2 W# ^1 a8 @& K! e0 K- E- w- V4 r. H# t8 H; ]9 |
芯片散热要考虑最差的满血模式。论文指出,这里功耗密度是上下两层die的数据,每一层的功耗密度会更低。而让芯片不工作的是晶体管的温度,所以问题不大。另外他们设计的时候特意将发热单元放在更容易散热的地方。另外逻辑折叠让走线变短,芯片面积减小,也腾出更多空间用于散热。下层的die可能会比上层的高个几度,但下面也更容易散热还好。 y( Y6 p% T1 N/ K" O
7 o) c( |( ^: |: [2 U0 f至此,我的问题得到了答案:逻辑折叠使得可以制造更多的计算单元,在等性能模式下,降低计算单元的电压可以大幅度降低功耗,逻辑折叠缩短了走线进一步降低功耗。综合因素使得麒麟2026变得更凉了。这一策略在NPU/GPU等并发好的模块效果非常明显,在GPU/DSP等上面则稍微逊色一些。$ Q6 u4 D7 h) a
- h. H8 G2 \) o' U通过降低电压降低功耗不是逻辑折叠的专属,过去几十年我们把电压从几伏降低到现在零点几伏,否则芯片早把自己烧坏了。但阈值电压是有极限的,不确定还能挖出多少潜力。但是逻辑折叠,使得工艺密度不增加的情况下能够制造更多的计算单元,殊途同归,也是非常惊艳的。
8 e c( k3 O8 n- b) I; g9 \& H! C% p }) |: P5 q
: J6 g% m, @( r/ _3 W
最后说一下,逻辑折叠的潜能还远远没有挖掘出来。华为把Hybrid Bonding数量提升到五千万,并计划进一步提升到两个亿。但是只用到了10-15%传输信号(其它用于冗余还是power之类的?)。文中也提到了现在设计还是很依赖工程师手动做优化。后续要挖掘更多潜能,对EDA的需求会更加急迫。有了得力的工具,逻辑折叠的潜能才能完全释放出来,让华为下一代芯片变得更凉,更酷。
# Y- S( r; z; K+ X3 E
; L u( w: @3 j7 B; B2 I我辈当自强!
6 _; C1 ]0 a* B m4 X0 F- s
4 V: l) d+ f+ ?$ ], \/ c! Q' W7 n- ?0 U8 x/ _
( I/ \6 s7 f6 u) _6 l. U+ \2 Q8 @6 h+ u
% Z) }9 X$ y/ ~' ~0 e" }3 g3 |8 s' Q: H; R5 N. D: w2 G9 P
|
评分
-
查看全部评分
|