设为首页收藏本站

爱吱声

 找回密码
 注册
搜索
查看: 2420|回复: 27

[信息技术] C++ 比 Octave 慢好多,怎么破?

[复制链接]
  • TA的每日心情
    奋斗
    3 小时前
  • 签到天数: 1180 天

    [LV.10]大乘

     楼主| 发表于 2022-9-23 06:27:09 | 显示全部楼层 |阅读模式
    本帖最后由 雷达 于 2022-9-23 06:29 编辑
    , c1 o( m2 p9 {' W5 D7 ^4 s( b+ F: R. v* W+ O
    做一个数字信号处理的小算法,需要算互相关。
    8 d! ^. a) S7 T6 x2 |  j! p先用 Octave (兼容matlab 那个东东) 做了一下,感觉慢,走通后就用C++ 重写,结果比 Octave 还慢,目测能慢10倍,很不科学啊。: X/ r3 o7 c  Y9 O0 c

    , N  D( C6 ~  ^' qOctave的互相关有现成函数 xcorr,  C++ 需要自己写。互相关是一个一维矢量和一个二维数组里的矢量依次做。矢量里是复数数据,没有用 STL,自己做了个  Re/Im 的struct,其实就是两个四字节 float 。5 i! }/ \# j9 z0 l
    互相关的最基本运算是两个复数的乘法,就是四次 float 乘法再相加,所以本质上影响速度的应该就是 float 乘法和加法。
    ( j4 Z2 L3 j8 Z
    & z. k9 @9 \, _  m0 [( {. nC++ 用的是VS 社区版,估计编译器不给力,但也不至于差这么多啊。; n' J# e% g, t( c+ j3 s  u
    : f3 ]4 h& R2 j- G) a
    高手们给分析分析,  多谢了。5 D8 U7 [  I% D. ^

    评分

    参与人数 3爱元 +18 收起 理由
    helloworld + 4
    MacArthur + 4
    indy + 10 伙呆了

    查看全部评分

    该用户从未签到

    发表于 2022-9-23 07:02:18 | 显示全部楼层
    互相关这种是最适合矢量化的,Octave应该是用SIMD 或者CUDA写了核心的计算部分。所以比没有优化的快很多。我差不多20年前做过类似的二维相关处理,优化过的比老师自己写的快了三四十倍,实验室的小崽子们怨声载道。因为本来等处理完一次数据需要差不多六七个小时,正好打游戏。优化完了之后不到二十分钟就好了。啥也干不了。
    5 t& j3 d! d1 L8 n0 G) X6 o0 F& |你想省事的话用Intel的IPP库,里面有现成的高度优化的互相关函数。或者用CUDA自己写一个。
    9 H* U, d- }! ^. Q你做信号处理很熟的话,这个还可以用FFT来做。应该会更快一些。九十年代很多人这么处理,主要是那时候CPU实在太慢。现在基本用不着了。而且FFT前后处理比较麻烦,加窗什么的。

    点评

    给力: 5.0 油菜: 5.0
    涨姿势: 5.0
    给力: 5 涨姿势: 5
      发表于 2022-9-23 22:31
    油菜: 5 给力: 5 涨姿势: 5
      发表于 2022-9-23 18:40
    油菜: 5 涨姿势: 5
      发表于 2022-9-23 11:16
    给力: 5
      发表于 2022-9-23 09:14

    评分

    参与人数 2爱元 +18 收起 理由
    雨楼 + 8
    colin1992 + 10

    查看全部评分

    回复 支持 1 反对 0

    使用道具 举报

  • TA的每日心情
    奋斗
    3 小时前
  • 签到天数: 1180 天

    [LV.10]大乘

     楼主| 发表于 2022-9-23 08:13:54 | 显示全部楼层
    本帖最后由 雷达 于 2022-9-23 08:15 编辑 3 p1 K* F8 n% y8 i% H/ C
    雷声 发表于 2022-9-23 07:02$ D4 D" \1 b# E6 W+ i" g
    互相关这种是最适合矢量化的,Octave应该是用SIMD 或者CUDA写了核心的计算部分。所以比没有优化的快很多。 ...
    ( C) d  J6 [' X* j: \
      O' G: G+ ~! m5 B
    嗯, 我就是觉得 FFT 反而麻烦,互相关代码本身倒真没有几行。那看来就用 octave 就好了,没必要再用C++重写了。# G0 z9 |1 _/ w9 W, `
    另外,我现在就是用指针数组,如果用 STL 的Vector 会不会更快一些?
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    发表于 2022-9-23 09:18:16 | 显示全部楼层
    Octave/Matlab内部对数值计算做了很多并行和优化。内核甚至是用Fortran写的。你用C++重写,没有做并行优化,真未必比他们的性能好。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2023-8-28 01:10
  • 签到天数: 1748 天

    [LV.Master]无

    发表于 2022-9-23 09:55:04 | 显示全部楼层
    Matlab不是浪得虚名的,要打败它还是要下点功夫才行
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    3 小时前
  • 签到天数: 1180 天

    [LV.10]大乘

     楼主| 发表于 2022-9-23 11:00:38 | 显示全部楼层
    本帖最后由 雷达 于 2022-9-23 11:10 编辑
      V! H6 ]' m. N; y* S
    ! a" Y0 h  @1 x- u: e) X( e7 x+ Z研究了一下,似乎可以用预处理指令对浮点运算做一些优化。这个问题比我最初想象的要复杂得多
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    8 小时前
  • 签到天数: 3040 天

    [LV.Master]无

    发表于 2022-9-23 11:18:11 | 显示全部楼层
    汇编快!
    回复

    使用道具 举报

  • TA的每日心情
    开心
    8 小时前
  • 签到天数: 1615 天

    [LV.Master]无

    发表于 2022-9-23 11:34:49 | 显示全部楼层
    本帖最后由 数值分析 于 2022-9-23 11:48 编辑   G. t# f* d0 d5 V/ N+ b
    0 F1 s& Y, [! j( m
    C++ code 用的是普通乘法?换成sse/avx向量乘法试试?
    & O9 X/ @# ~1 @7 }并且是单线程的?加个openmp并行试试
    / ]9 y5 \/ T1 T5 |3 ?1 P8 m2 o或者调用mkl 库的互相关函数试试
    ' F& }8 v: x7 |1 d2 d! C* T

    点评

    +1: 5.0 给力: 5.0
    涨姿势: 5.0
    给力: 5 涨姿势: 5
      发表于 2022-9-23 22:32
    +1: 5
      发表于 2022-9-23 11:55
    回复 支持 反对

    使用道具 举报

  • TA的每日心情

    2024-2-11 13:31
  • 签到天数: 141 天

    [LV.7]分神

    发表于 2022-9-23 11:43:35 | 显示全部楼层
    马鹿 发表于 2022-9-23 11:18
    ( t0 H* B7 g- f$ y' n* G& F汇编快!
    ; t5 ?: W* z: H8 K% n
    这种问题的优化, 在语言层面没太大意义, c++和汇编没什么本质区别.. T6 u2 D3 [4 g4 S! H8 u- ^
    : ]& \) g) ?# ~5 Q& m8 u4 a. y
    最好还是用高性能的计算库, 比如intel的ipp,或者看看gpu方面有没有类似的库.
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    发表于 2022-9-23 12:59:58 | 显示全部楼层
    涉及矩阵的用blas
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2020-1-3 00:51
  • 签到天数: 71 天

    [LV.6]出窍

    发表于 2022-9-23 14:05:11 | 显示全部楼层
    实际使用中要考虑综合成本/时间。比如用octave /Python 解决起来简单。自己另起炉灶麻烦些。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    发表于 2022-9-23 15:48:12 | 显示全部楼层
    雷达 发表于 2022-9-23 08:13
    ' g( o0 ]( H  H8 @3 Y/ t嗯, 我就是觉得 FFT 反而麻烦,互相关代码本身倒真没有几行。那看来就用 octave 就好了,没必要再用C++ ...

    + A0 J4 Q- c* DSTL对性能优化没什么帮助,只是写起来比较安全而已。
    + g: H- t" f) r, c/ W1 c下面数值分析回答的是对的,要么用avx自己写,要么就凑合用octave得了。
    6 _7 x# q4 K/ ?* U2 B* J8 c买个Ipp库虽然不贵,但是还是要几百刀的吧?
      J- L% K7 m+ F  m  H
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    5 天前
  • 签到天数: 1475 天

    [LV.10]大乘

    发表于 2022-9-23 16:05:15 | 显示全部楼层
    矩阵最简单用eigen,然后enable  avx2以上
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    8 小时前
  • 签到天数: 3040 天

    [LV.Master]无

    发表于 2022-9-23 20:24:06 | 显示全部楼层
    mark 发表于 2022-9-22 22:435 I" }5 k+ M7 c8 U* Z- x5 q/ F
    这种问题的优化, 在语言层面没太大意义, c++和汇编没什么本质区别.
    : H. a" l: c, f5 d, {" X( v. V' G$ T/ J' j0 m
    最好还是用高性能的计算库, 比如inte ...

    7 ]7 B  I( F/ d6 h/ z0 n4 g我不是it的,说汇编是起哄呢
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    发表于 2022-9-23 20:53:40 | 显示全部楼层
    雷声 发表于 2022-9-23 15:489 I0 n2 |7 ?) B2 c$ T# n
    STL对性能优化没什么帮助,只是写起来比较安全而已。7 x* u/ x3 ?; a1 |1 {6 f
    下面数值分析回答的是对的,要么用avx自己写,要么 ...

    ( l) \% x4 u; v* Q' G7 d你觉得在用AVX自己写与用GPU加速的Octave之间,谁有可能性能上超出?(基于中等价位的硬件水平)
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    8 小时前
  • 签到天数: 1615 天

    [LV.Master]无

    发表于 2022-9-23 21:37:24 | 显示全部楼层
    本帖最后由 数值分析 于 2022-9-23 23:50 编辑
    + X; Y% O9 z" C. H! N
    沉宝 发表于 2022-9-23 20:53+ V  o1 J7 \9 t! @
    你觉得在用AVX自己写与用GPU加速的Octave之间,谁有可能性能上超出?(基于中等价位的硬件水平) ...
    9 R+ e( ]' p8 V  F" O7 j1 V% {

    " J( Q* s& ?0 K必然是GPU啊,10来个核心对上千个计算单元。。。
    & c, I0 N: x3 j6 _  g% d/ W- K/ B) i, e: O  ^! u/ {
    有道是 双拳难敌四手 一虎不如群狼
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    发表于 2022-9-26 18:34:55 | 显示全部楼层
    先用性能探查器看下热点在哪里,用前面坛友们的方法针对性优化下,满足了应用需求就收手(心中牢记那句箴言:又不是不能用!
    ( y4 x$ q8 E: H0 c; f5 X. O/ d3 m" Q2 _# h$ h6 n
    不知道vs的社区版带不带性能探查器,不行的话用pro/ent试用几天应该是不违规的,实在不行把C++编译到Linux下,那perf工具可就多了去了
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2020-2-8 10:08
  • 签到天数: 2 天

    [LV.1]炼气

    发表于 2022-9-26 23:30:40 | 显示全部楼层
    mark 发表于 2022-9-23 11:439 t* U- x! B0 E
    这种问题的优化, 在语言层面没太大意义, c++和汇编没什么本质区别.+ w: y( P6 I, S) ?( k. w1 K

      F1 y1 S  X$ @7 W最好还是用高性能的计算库, 比如inte ...

    " F' ]5 O: H. u" e! I. P& w4 H区别还是很大的。编译器的优化还到不了那种程度。7 d. l/ z% |& f8 [
    你说的那些“高性能的计算库”很多估计都是专门的人用汇编手工优化出来的。那个得对要优化的系统非常熟悉的人来干,打个比方那条指令用在哪个地方会导致cache需要加载,这些都必须考虑到
    3 a3 Z8 A6 M2 R- z. y# u
    ) m) v2 C4 D( _+ c当然对于调用这些库的代码来说,一般C和汇编区别不大
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    发表于 2022-10-2 01:38:20 | 显示全部楼层
    现在进展怎么样了?# T( h3 C# L" K
    6 w$ G( V# i5 K! q# o2 [* x
    想了解一下你问题的规模:) I' u6 v9 q! H" D
    1) 你说互相关是一个一维矢量和一个二维数组里的矢量依次做,那么这个二维数组有什么特殊意义吗?需要对所有维度按列操作并返回一个矩阵,还是就是简单的一对一算过去?换一句话,本质上要的是一个1-维互相关算法,还是N-维互相关算法。$ A1 W  N  w5 Y1 C9 e
    2) 矢量和一个二维数组的长度大概是多少?, Q9 M; e9 ^+ Q- [" X0 s, ?2 s. |. ]
    3) Octave 大约跑了多长时间,你心里期望的速度大约是多少?
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    3 小时前
  • 签到天数: 1180 天

    [LV.10]大乘

     楼主| 发表于 2022-10-2 03:04:55 | 显示全部楼层
    本帖最后由 雷达 于 2022-10-2 03:06 编辑
    5 w% |& z. k% E/ R0 m
    沉宝 发表于 2022-10-2 01:38" }2 k; D1 y; G8 z7 o* B5 m& S9 B
    现在进展怎么样了?" \8 c" _0 F# A9 |

    ) o2 E# s) T6 c9 ?想了解一下你问题的规模:

    1 n. Q) I1 T+ |& I. @" w
    : |$ E5 B1 `; I! A$ B& X1 S8 k多谢关注。5 V+ u, @, D" |0 \3 f% e
    规模还比较大,一个至少3万*3万的二维浮点复数矩阵,用一个4000点复数矢量对矩阵的每一个3万点矢量做互相关,重复3万次这种互相关。
    1 r' g6 w- ~& U* l" L- T! K我已经试验成功了 AVX 算浮点内积和 VS 优化, 再加上多核并行,我希望能至少和 octave 打平。但现在手头有其他事,还没有时间改正式代码。
    回复 支持 反对

    使用道具 举报

    手机版|小黑屋|Archiver|网站错误报告|爱吱声   

    GMT+8, 2024-3-29 08:38 , Processed in 0.116380 second(s), 19 queries , Gzip On.

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表