爱吱声

标题: DeepSeek用PTX编程，隐忧乎？无忧乎？ [打印本页]
作者: 晨枫    时间: 2025-2-2 22:14
标题: DeepSeek用PTX编程，隐忧乎？无忧乎？
DeepSeek用英伟达H20卡训练V3和R1大模型，但据说没有用英伟达的CUDA语言，而是用了更加底层的PTX。) `4 S0 a( S' |8 Q4 B" s
( O- [5 ^9 d) |+ N
CUDA是英伟达的护城河。搞人工智能就要用英伟达的图形卡，跑英伟达的卡就需要CUDA。一旦形成生态就反过来了，搞人工智能就用CUDA写软件，跑CUDA就只有用英伟达的卡。
4 H$ D' J! m$ I4 q" n, o( p/ o3 I: S6 `# N, o. k9 G+ Y
但DeepSeek用接近汇编语言的PTX编写软件，绕过了CUDA护城河，也因为PTX更加接近机器语言而更快。据说这是DeepSeek里老人马当年搞量化交易的“后遗症”，需要计算机和通信上达到极限性能，只有用接近汇编语言的“低级语言”来编写程序，比如PTX。
+ X- ]1 P2 E- o% W
' [' b. ^3 q# a汇编接近机器指令，速度快，但远离自然语言，语句功能专一、琐碎，编写麻烦，可移植性很差，换一个GPU就需要重写。高级语言的发明就是为了解决接近自然语言和软件在不同平台之间的可移植性的问题的，但执行效率不及汇编。% x: S7 w  Y" s9 t# i
# i  \  y% Q5 @% R# ]
接近自然语言很重要，这样更人类思维，编程和阅读容易，纠错也容易。跨计算机平台的可移植性也很重要，不仅更新更快的芯片出来了，重新编译一下又可以执行，换上完全“不同路子”的计算机也能执行，比如WinTel换到Unix或者iOS环境下。但编译出来的执行时效率不及汇编。
' u8 [( e) V! Z4 b6 ~
! i2 {6 b7 q$ d9 d  {( `& G  ]6 Y8 yDeepSeek绕过了CUDA，但通用大模型要是“绑定”在H20卡上，那就亏了，换卡就要重新编写和测试一遍。
$ P/ T6 B+ d/ {# k# T' w) f) h+ v' ]2 j
好在大模型的一大神迹就是按照自然语言的要求写程序。换到这里，只是直接写到PTX一级。这个问题解决了，可移植性比CUDA还好，直接用更加接近自然语言的伪码了。# e  c2 W  N, H1 B" g

% B& I) L1 P6 C. \+ W; p7 I1 U: Q即使以后不用PTX了，也就是重新训练大模型改用新语言的事。换句话说，大模型代替高级语言的工作了。
6 X1 S7 F1 c" @6 y/ X# E5 z! ^" l2 l
看来，没有隐忧。6 |# @% _* z& [, C* j
作者: WiFi    时间: 2025-2-4 01:15
应该是用的H800，不是H20
作者: 晨枫    时间: 2025-2-4 01:35
WiFi 发表于 2025-2-3 11:153 j2 \9 c4 S( i8 v/ q
应该是用的H800，不是H20
+ X; a; W3 C. g4 y. n& ]( }. G6 S
两个说法都看到过，我都糊涂了。哪一个更弱？
作者: WiFi    时间: 2025-2-4 02:57
晨枫 发表于 2025-2-4 01:35! G7 _; v' n) ~/ F5 V* ?$ |% f
两个说法都看到过，我都糊涂了。哪一个更弱？
0 L2 c" d  A5 F$ u, ^& R
Nvidia's H800 was launched in March 2023 and is a cut-down version of the H100.
9 v4 j# R+ K( OThe H20 is expected to be available for important clients in early 2024, with a wider release in the second quarter% ]' m# u' ]: O5 i
# g8 V* v  E* `: N2 V3 L
H20比H800新一代。应该更好一些。
作者: xiejin77    时间: 2025-2-5 13:58
相比于绕开cuda的突破，其实ds自己设计的Fire-Flyer AI-HPC框架，更值得自豪。
( X; O2 P, n( Z( n8 B, d. M% A5 w
在训练的尝试中有意绕开了多卡之间必须依赖的nvlink的瓶颈，而这个其实是老黄在硬件底层的护城河，更深也更黑。
作者: 晨枫    时间: 2025-2-5 14:13
xiejin77 发表于 2025-2-4 23:58
. l. M( J' ^7 e8 Y! R  E3 G* k相比于绕开cuda的突破，其实ds自己设计的Fire-Flyer AI-HPC框架，更值得自豪。
. ?1 d- s9 y5 i- t* u% b! I% j, ], Q! K1 y
在训练的尝试中有意绕开了 ...

" L- e$ l0 l: s; o这个能展开说说吗？
作者: xiejin77    时间: 2025-2-5 14:21
晨枫 发表于 2025-2-5 14:13( S) k4 O5 e! f$ i8 p3 c* d
这个能展开说说吗？
( q* E# G* c5 @
ds自己有篇论文，我找时间专门解读一下吧
作者: 晨枫    时间: 2025-2-5 14:30
xiejin77 发表于 2025-2-5 00:215 P6 m+ S: y: H8 @
ds自己有篇论文，我找时间专门解读一下吧
& c4 o  k4 X) v4 D5 j8 B( c' k+ ?& p
多谢。恭候。
$ _& I4 C* c/ _. G' D3 A7 e) e, J1 e. y6 u- i
DS倒是真开放哈。
作者: xiejin77    时间: 2025-2-5 15:08
WiFi 发表于 2025-2-4 01:15
6 G) l& l- m! n应该是用的H800，不是H20

+ J( I! l4 @- m! g晨大的这个说法，我查了一下资料和信源，正好我之前写过ds-v3的解读。感觉可能是有点偏差。# N* j( @8 T* c4 N) X
2 S. e5 d) B% I/ j5 Q) a
Parallel thread execution就是PTX。这是一种底层的N卡指令集架构的中间语言，cuda也用ptx，在这一点上确实是类似asm。
# ?5 g0 g7 ^6 P4 V+ h' m8 c
8 N7 h8 q7 G4 [  Q% D1 |1 ]但根据ds自己的论文看，他们用ptx不是为了绕过cuda，而是为了优化效率：; z0 c; N. |$ o6 w8 Y
In detail, we employ the warp specialization technique (Bauer et al., 2014) and partition6 a' x  E6 m( y! V9 }# J
20 SMs into 10 communication channels. During the dispatching process, (1) IB sending, (2)  c6 R. N( f& [) `7 R5 f% Y
IB-to-NVLink forwarding, and (3) NVLink receiving are handled by respective warps. The
3 M/ r0 ?1 x) l! f' p0 rnumber of warps allocated to each communication task is dynamically adjusted according to the
' y) c" e6 d2 L2 q. h, @- |actual workload across all SMs. Similarly, during the combining process, (1) NVLink sending,
% v+ C! |% ?! R) k0 W(2) NVLink-to-IB forwarding and accumulation, and (3) IB receiving and accumulation are also/ n2 g' m, u+ Z  P5 n& b/ W, z) e
handled by dynamically adjusted warps. In addition, both dispatching and combining kernels- z7 T  W* }( K& G, k
overlap with the computation stream, so we also consider their impact on other SM computation
% ^  t! @1 U  }$ [kernels. Specifically, we employ customized PTX (Parallel Thread Execution) instructions and/ _4 ]3 h0 o7 P1 g+ L. o+ J
auto-tune the communication chunk size, which significantly reduces the use of the L2 cache- W( x9 i0 Q% K! ]1 s
and the interference to other SMs.
% E9 W6 ]+ T2 i! s: w
6 g3 \6 e# e8 n  W8 W/ K4 b9 `
理论上说基于ptx的话，N卡可用，华为的910c是不能用的。所以不存在通用性的可能，更像是ds的团队逢山开路遇水架桥的给cuda打补丁。( S) _% G; w/ c# h3 [, E" B
作者: WiFi    时间: 2025-2-6 01:33
xiejin77 发表于 2025-2-5 15:08
( `2 s8 Z) N! v3 h% h9 |  N晨大的这个说法，我查了一下资料和信源，正好我之前写过ds-v3的解读。感觉可能是有点偏差。
5 |4 x+ P2 q& a- b
/ T0 m5 m" L9 _' ^. B' `Parallel th ...
! |0 X# u/ ?# z8 o" a6 `, P; A
同意谢总的分析
作者: 晨枫    时间: 2025-2-6 02:13
xiejin77 发表于 2025-2-5 01:08( g( w8 C3 q: j/ A/ ~* z
晨大的这个说法，我查了一下资料和信源，正好我之前写过ds-v3的解读。感觉可能是有点偏差。
5 F  ~5 |* m% D  ?: \6 A2 d1 O7 `  N: X" \. d
Parallel th ...
9 X' q/ k2 e" Q- t
PTX是不是本来就chip specific？有可能利用大模型反过来把PTX写的东西反过来生成伪码，再针对新芯片的相当于PTX的指令集生成新的软件？这可能丧失了直接用PTX的优化作用，但重获了CUDA的可移植性？
作者: xiejin77    时间: 2025-2-6 08:42
晨枫 发表于 2025-2-6 02:13
6 d4 w# z( a( @1 @. p$ k& @PTX是不是本来就chip specific？有可能利用大模型反过来把PTX写的东西反过来生成伪码，再针对新芯片的相 ...

% J& \, j" I) N# v! F晨大好。
2 B  p, _& _% }$ v- {3 n! S
* F7 I: D' @/ n4 B% w我的理解，类asm的语言都是和硬件架构和芯片的指令集深度绑定的。1 d$ T; N0 E( I. X8 H8 i

+ ]: f. [: G3 z; n  x* a) `您这思路，理论上可行，但是就像用谷歌翻译来回古文一样，偏差会大到不忍卒读。
9 L# ?: @$ M+ {% S! {3 }9 _9 o) M" P' }) e' ]+ x, C. N
其实ds并没有想绕开cuda，他的V3版本都是在N卡的体系里做的。
$ U- D- F2 E2 ?2 D6 r/ y  N) V' P3 F, g6 r
要知道，老黄的护城河可不仅仅是cuda生态和ptx，nvlink和IB网络框架才是最底层的壁垒。顺便说一句，DS嫌nvlink的故障率太多，边用边吐槽，还整了一套新架构出来。不过多机多卡的大集群，IB网络近期很有可能是绕不开的，最多就是减少带宽消耗而已。
作者: 晨枫    时间: 2025-2-6 08:50
xiejin77 发表于 2025-2-5 18:425 h- x$ [# B9 O) @- H
晨大好。
  I& R. @$ C5 W$ h( |8 k5 p- [7 |) G" c0 f
我的理解，类asm的语言都是和硬件架构和芯片的指令集深度绑定的。
& y4 D2 r2 y4 l* r5 N
多谢解释。那DS为什么不直接用CUDA，还要费事用PTX呢？
作者: xiejin77    时间: 2025-2-6 09:14
晨枫 发表于 2025-2-6 08:50# J- s0 h# W  i, n8 N- f* t. H8 r
多谢解释。那DS为什么不直接用CUDA，还要费事用PTX呢？

* y/ s1 h/ p0 w: \* C( q在论文里，这是第3.2.2节的内容
& i9 k: Y6 u5 u( b% a- u" o
' q6 |" c+ {- [% [3.2.2. Efficient Implementation of Cross-Node All-to-All Communication
/ B* [6 |# ~* _! I1 J# ^In order to ensure sufficient computational performance for DualPipe, we customize efficient
2 O" C0 S, l+ K9 N  \! _) Z9 rcross-node all-to-all communication kernels (including dispatching and combining) to conserve
1 K/ R$ x: I* x) s$ _the number of SMs dedicated to communication. The implementation of the kernels is co￾designed with the MoE gating algorithm and the network topology of our cluster. To be specific,+ a% L) H- B) m, [7 ^
in our cluster, cross-node GPUs are fully interconnected with IB, and intra-node communications# d" u  h0 s! e
are handled via NVLink. NVLink offers a bandwidth of 160 GB/s, roughly 3.2 times that of IB' L- n3 k) J7 |+ V4 K* \7 g; |8 E
(50 GB/s). To effectively leverage the different bandwidths of IB and NVLink, we limit each
! {8 r. j( ?+ M& Z( v* Vtoken to be dispatched to at most 4 nodes, thereby reducing IB traffic. For each token, when its
# D. Y7 O9 N! C8 I3 c/ ]5 E! urouting decision is made, it will first be transmitted via IB to the GPUs with the same in-node# ~7 ?5 K2 _. r
index on its target nodes. Once it reaches the target nodes, we will endeavor to ensure that it is
" P' q# Q, I& t6 j. \5 Xinstantaneously forwarded via NVLink to specific GPUs that host their target experts, without
" J& [5 M9 ]' O) lbeing blocked by subsequently arriving tokens. In this way, communications via IB and NVLink5 o5 G& u, A9 p  C) u& t* Q8 Y, p4 ?
are fully overlapped, and each token can efficiently select an average of 3.2 experts per node" H% |8 E6 N4 E" w  Z  \5 N2 h
without incurring additional overhead from NVLink. This implies that, although DeepSeek-V34 x' s% D' y' l* c8 m7 `# w8 P
13
8 }2 ?) p' y8 S+ |% F+ Qselects only 8 routed experts in practice, it can scale up this number to a maximum of 13 experts
8 }* v. [7 U/ l; x! Y(4 nodes × 3.2 experts/node) while preserving the same communication cost. Overall, under
% m; v( X; d$ t( lsuch a communication strategy, only 20 SMs are sufficient to fully utilize the bandwidths of IB/ ^6 z9 A& h5 K. n
and NVLink.( ?" r, Z% {: Y1 D
In detail, we employ the warp specialization technique (Bauer et al., 2014) and partition9 o! z0 H7 j0 K' M' y4 L/ w3 H
20 SMs into 10 communication channels. During the dispatching process, (1) IB sending, (2)9 {3 X* H% ], z4 \" `3 f
IB-to-NVLink forwarding, and (3) NVLink receiving are handled by respective warps. The
6 [  ?: M" R' Z" Hnumber of warps allocated to each communication task is dynamically adjusted according to the; J! q# I! t3 ?8 ?6 x- n
actual workload across all SMs. Similarly, during the combining process, (1) NVLink sending,
4 p0 H  H/ h/ J) U' ]+ b$ @(2) NVLink-to-IB forwarding and accumulation, and (3) IB receiving and accumulation are also5 ]; G6 M$ L  m
handled by dynamically adjusted warps. In addition, both dispatching and combining kernels
; ^5 b- Y8 x* }. g9 d. zoverlap with the computation stream, so we also consider their impact on other SM computation
* G6 Q! w. C8 ikernels. Specifically, we employ customized PTX (Parallel Thread Execution) instructions and6 M0 v, ]& i( g7 N/ v" J4 q- `
auto-tune the communication chunk size, which significantly reduces the use of the L2 cache
7 M7 E' f4 @0 W4 pand the interference to other SMs.
* F7 _' X$ ]- t& E6 v8 O7 _% L9 T* P. c( o: R
通俗一点说，就是为了实现高效的跨节点全面通信。解决的问题本质上和唐家山老师日志里说的双机对拷的场景差不多。一般来说单机多卡之间用nvlink，多机多卡之间依赖IB网络，但nvlink的速率是IB网络的速率的3.2倍，需要通过一些优化来实现更好的传输策略。这是一整套方案。, x' M; d8 C1 V% ?1 `1 p7 A
3 F5 j' V: s5 T( P* M
我的理解，使用PTX在其中，是为了更精准的定制线程执行减少通信块分配传输之间的串扰。
' ?8 i- P; ]+ L% ?- [7 _+ K( ~" q; B( i! y7 l$ T
目的不是为了绕cuda，反而是为了让cuda的效率更高。
" Z. U( }5 b3 H) D7 q' R% Z) D( W& @6 j- L3 u8 q* N" T
类比一下，就好比发现网卡驱动在对拷特定内存块的时候会和应用的线程执行出现串行导致效率降低，而绕开操作系统定义的与网卡驱动的接口，直接使用网卡支持的指令集进行了优化。
作者: 唐家山    时间: 2025-2-6 09:51
本帖最后由 唐家山 于 2025-2-6 09:53 编辑 2 R: }4 L, [! X' _& i+ H3 j2 d
晨枫 发表于 2025-2-6 08:50
: n1 C- @+ v" l3 Y7 X多谢解释。那DS为什么不直接用CUDA，还要费事用PTX呢？
3 S/ ]! ~' Z# m: T# z5 A& Z
3 }! U( H, Y; o1 }4 C- n
应该是性能的原因。打个比方吧，操作系统内核一般都是用C语言写的，但是一些关键部分会用汇编语言来写。原因就是汇编语言的代码（指令）比C语言编译后的代码（指令）的性能要高。
作者: 晨枫    时间: 2025-2-6 09:53
唐家山 发表于 2025-2-5 19:51! G/ p* W" c! E" m/ N
应该是性能的原因。打个比方吧，操作系统内核一般都是用C语言写的，但是一些关键部分会用汇编语言来写。 ...
( D' H* R9 v% W' Z) d
多谢解释。
/ M. D  f& P! K! e0 k
$ `3 ?" W0 n5 d那DS如果把模型移植到华为芯片，应该需要重写软件吧？而且无法从原有的CUDA架构下移植？
作者: xiejin77    时间: 2025-2-6 09:58
本帖最后由 xiejin77 于 2025-2-6 10:01 编辑 + Q* ]3 I" X# ]+ O* m4 ?% E
晨枫 发表于 2025-2-6 09:53
2 E& z& Y( C' b4 r$ `( ~7 Q8 s多谢解释。
! q! c/ L' [$ X4 x% f& Y
, Y& Q' J7 F" h2 ?0 @1 U, s; e那DS如果把模型移植到华为芯片，应该需要重写软件吧？而且无法从原有的CUDA架构下移植？ ...

' G% K6 r, n( t- o5 |
8 L# g- e" O9 I3 G$ Q; O$ |这部分是DS用来做模型训练、推理的辅助工具软件使用的底层驱动，理论上说，效率可以接受的情况下是不需要做移植。cuda和华为cann工具链生态的顶层封装其实很像，真正需要适配的是这一部分。
5 V  ]- L( j$ h* L: O" H
7 h5 i: l( t; ]" T; R华为自己好像发过新闻，ds的670B版本可以在910c的集群上用，但性能只有60%。% \/ d4 }) C! Y# L6 h
# c- X( T  {: g0 R/ O1 k5 J6 k! M$ \
大模型的生态产业链其实挺长的，从芯片、数据，算力底座，网络等等等等。甚至连某些小众的领域都可能成为大模型生态链的瓶颈，比如支持rdma的全速网卡和超越IB网络的路由器。这一方面国内还有很长的路要走，很多的坑要踩……
作者: 唐家山    时间: 2025-2-6 09:59
本帖最后由 唐家山 于 2025-2-7 09:02 编辑 $ e/ m! ?' r6 i- q4 V' F  C
晨枫 发表于 2025-2-6 09:53
  a2 H, B* U% O; L多谢解释。
/ Y  d0 r/ w* o# V; k8 N& M4 P. T5 e6 B: F7 F
那DS如果把模型移植到华为芯片，应该需要重写软件吧？而且无法从原有的CUDA架构下移植？ ...
' T2 ~% ~; `) W! p( y1 C  i: n
' `; r- W& t" t" m& Y
确实需要重写。不过重写软件的代价并不像外界想象的那么高。显卡（计算卡）的硬件架构比较简单，上面用的指令集基本上都是相同或类似的。从CUDA架构移植也不麻烦。真正麻烦的地方，是经常会有一些隐藏的bug需要fix。4 ?5 B! k3 b1 f( F2 m
3 H$ o) w8 X* w# G* m; Q: x
更正：刚才查了一下。各个厂家的GPU指令集在架构设计、编程模型上差别还是挺大的，不能直接移植。这是我想当然了。另外，早期的显卡上的操作比较简单，现在的显卡（计算卡）的操作已经相当复杂了。以后还得学习之后再发言，否则就闹笑话了。
作者: 晨枫    时间: 2025-2-6 10:02
xiejin77 发表于 2025-2-5 19:58
4 C+ [* c+ U$ {7 s% w6 x这部分是DS用来做模型训练、推理的辅助工具软件使用的底层驱动，理论上说，效率可以接受的情况下是不需要 ...
( W# t2 J: N! z2 y) U& A
嗯，不大懂，看来way over my head了，就不去勉强搞懂了。3 @4 v0 U* ^% }1 r+ A9 V3 E

: b% x2 F9 Z& K' m  ?* `多谢解释。
作者: 晨枫    时间: 2025-2-6 10:04
唐家山 发表于 2025-2-5 19:59
- {  u8 Z: |& z0 ^. C5 e确实需要重写。不过重写软件的代价并不像外界想象的那么高。显卡（计算卡）的硬件架构比较简单，上面用的 ...
/ \- v! n) D+ Z. h# S5 p
多谢解释。" h: ~- M4 o& c  T
3 P4 h4 z- C+ X& q5 Q
我用过的语言不多，除了常用的科学计算语言，工控语言用的比较多，各厂家之间基本上无法移植，还不只是语句上的差别，有些架构上就不一样。但看来图形卡的专用语言没有那么不同。
作者: 唐家山    时间: 2025-2-6 19:31
本帖最后由 唐家山 于 2025-2-6 19:56 编辑
4 Q( Z9 p4 l; K+ v: ?  V* N2 Z, c
晨枫 发表于 2025-2-6 10:04* K$ c* i2 f) p8 F7 ]
多谢解释。  {9 l4 {8 X+ X9 G$ w

/ W& |7 P. c0 Q7 A  p+ {) C% c/ Q. q我用过的语言不多，除了常用的科学计算语言，工控语言用的比较多，各厂家之间基本上无法移植 ...

( T/ {* ~' Q, c7 t: t5 C2 ?4 m& U! z! X' j* d
刚才查了一下。各个厂家的GPU指令集在架构设计、编程模型上差别还是挺大的，是我想当然了。另外，早期的显卡上的操作比较简单，现在的显卡（计算卡）的操作已经相当复杂了。以后还得学习之后再发言，否则就闹笑话了。
作者: 大黑蚊子    时间: 2025-2-7 00:43
xiejin77 发表于 2025-2-6 09:584 I* S+ ?' Z- W
这部分是DS用来做模型训练、推理的辅助工具软件使用的底层驱动，理论上说，效率可以接受的情况下是不需要 ...

+ J/ F! i$ u# v5 K: d" dDS训练用的是自己以前买的A100/H800，H100有没有，有多少，印象里DS没说) x8 E$ u* t' t9 c
DS自己也买了很多华为的910B，事实上国内大厂（阿里、腾讯、字节啥的）都大量在买华为的910系列用于训练
9 f+ M, s4 y: S! ?$ f* k5 V, Q买H100以及GB200那些不是不行，涉及到制裁和转运，内部合规都很难，实际采购量很少
6 n8 t* P: l  Y至于特供中国的H20，这货做训练不行，做推理也不行，卖的相当不行，之前WSJ还是谁来着吹说中国要买100万张狗屎H20，后来被证明纯属YY，可能实际采购量连这个数的5%都不到
' u8 ~5 v/ H5 S+ `! O. {. e$ f" ^5 S  N) InVidia一直以来的政策，是消费级显卡不能用来商用，也就是说4090不能用来搞训练啥的。之前各家大厂因为还要从老黄那里买卡，也就捏着鼻子认了买高价货，结果老美一刀切之后，反正特么以后也没生意做，干脆掀桌子，鼓捣出用4090芯片+3090PCB板+魔改48G显存的4090ProMax商用版，一块不到3万人民币，用来跑推理性价比高得出奇。
$ Z3 J6 N" P1 R5 z, c- ?, \2 F于是在市场上就出现了二手4090一万六秒收（这货刚上市的时候卖1万3，用了2年多白嫖还能挣几千块），然后PDD上大把一百块一套的4090手办（4090PCB+全套散热，就是没有芯片和显存，本来是垃圾不值钱，所以能卖多少卖多少）
作者: 晨枫    时间: 2025-2-7 00:59
大黑蚊子 发表于 2025-2-6 10:431 z7 b3 r: z! M4 F/ q" v% @- q
DS训练用的是自己以前买的A100/H800，H100有没有，有多少，印象里DS没说" D! f: f) S7 G6 ^2 O& Z6 `! [
DS自己也买了很多华为的910B，事 ...
  b+ b$ l. v5 l, l/ [
长期看来还是得上国产卡啊。
- c" p1 U8 a* @$ r- Z
6 t8 ^, C8 d) [) G* l不过美国也真是郁闷。中国这蛋糕没得吃舍不得，吃了，结果人家老母鸡变鸭了，防也防不住。
作者: 大黑蚊子    时间: 2025-2-7 01:03
晨枫 发表于 2025-2-7 00:59
3 ]5 H- O# R8 V长期看来还是得上国产卡啊。
) H  y3 b7 A, q8 u$ t0 X. {+ S; h! q7 t3 \' g3 R
不过美国也真是郁闷。中国这蛋糕没得吃舍不得，吃了，结果人家老母鸡变鸭了 ...

& ^# s- w, u4 S# @/ O; S0 x3 b看我这记性，说了一大堆是因为nvlink而起，关键东西忘说了& d: e$ l+ q; U! d% x- |, Q
910B的单芯片性能据说跟H800差不多，但是多芯片及多卡协同效率不太行，只有60%左右，估计还需要不少路要走/ L& E1 i8 Q$ T9 o; E+ C; f* q
之前nVidia被制裁的那个高速网卡子公司的独门秘籍就是以太网数据超高速传输
7 U( v/ c5 E8 i8 x
作者: xiejin77    时间: 2025-2-7 09:31
大黑蚊子 发表于 2025-2-7 01:03
, E( S  a4 c& i8 e2 V% ~看我这记性，说了一大堆是因为nvlink而起，关键东西忘说了
/ i! n$ `6 D/ {" x: F2 G2 `910B的单芯片性能据说跟H800差不多，但是多芯 ...
$ j/ A# P$ S6 v0 g/ |
蚊行的知识面是真全面。6 Z* Z3 |2 _# \- w/ u. k1 y

* b. W1 G; k; Z7 ?6 V0 V, M/ z" @! sRDMA网卡的品牌厂商主要有三大巨头企业，分别是Marvell、intel、Mellanox，其中Marvell是收购的Qlogic品牌，Mellanox被英伟达收购。国内做这个的，巨头是华为。上海有一家还不错的企业，我去年年底的时候跟他们聊过。但我的印象里Mellanox的口碑最好。
6 P9 c: o1 h9 ^0 G8 C, ?7 J: ?6 p
: T" R4 H( Q7 s$ P. |5 X0 v8 V* k$ D但RDMA网卡不是单独发挥作用的，多卡间需要路由器支持。主要的方案是roce2和IB，IB是纯血，搭配SXM的nvlink封装芯片，可以跑满。我印象里，roce2和IB之间有这大约一倍以上的带宽差距。
作者: 大黑蚊子    时间: 2025-2-7 15:36
xiejin77 发表于 2025-2-7 09:31
+ B( m3 e) Z5 `$ u# v' V/ x! n蚊行的知识面是真全面。
9 l# I( d: O& _9 `3 y, n. J
$ f, X! s; f) t, WRDMA网卡的品牌厂商主要有三大巨头企业，分别是Marvell、intel、Mellanox，其中 ...
8 T# v3 R: @+ n: j: e. j4 R' C) j0 a. D
Mellanox的产品好像是nVidia钦定，意思是只有用他们的方案才能达到数据中心卡间互联的预设效率
0 e( a. N. c# T/ w7 `% P1 R" v% F因为这个，中国商务部指责nVidia在收购Mellanox的时候给出的承诺不实



欢迎光临 爱吱声 (http://www.aswetalk.net/bbs/) Powered by Discuz! X3.2