g++ 具有平凡项(零积项)的优化算术表达式
g++ optimizing arihmetic expression with trivial terms (zero-product terms)
我用复杂的算术表达式编写数学代码,用于不同类型的输入,但为了超优化和可读性,我想将它用作宏而不是函数。但是,我无法让 g++ (4.9.2) 以一种我认为很明显并且需要帮助的方式进行优化。
感兴趣的算术运算只在一个位置,但问题是输入变量有很多排列。也就是说,方程变量可以是单例或数组。为了节省内存和 CPU 缓存,我想为每个变体(即数组和单例输入)编码。问题的另一个要素是方程的某些项在某些条件下会丢失,变量可能不仅是单例,而且已知 a priori 在某些情况下恰好为 0,从而导致项方程式是微不足道的。
考虑以下简化的说明性示例
float a[128],b[128],c[128],d[128],e[128],r[128];
float a0, b0, c0, d0, e0;
...
#define ITERATE for (int n=1; n<N; n++)
#define THE_EQ(A,B,C,D,E,F) r[n] = A*(B-C) + D*E + F
...
switch(condition) {
case 1: ITERATE THE_EQ(a[n],b[n],c[n],d[n],e[n],0); break;
case 2: ITERATE THE_EQ( a0 ,b[n],c[n],d[n],e[n],0); break;
case 3: ITERATE THE_EQ( 0 ,b[n],c[n],d[n],e[n],0); break;
case 4: ITERATE THE_EQ(a[n],b[n],c[n],d[n],e[n],0); break;
case 5: ITERATE THE_EQ( a0 ,b[n],c[n], d0 ,e[n],0); break;
case 6: ITERATE THE_EQ( 0 ,b[n],c[n], 0 ,e[n],1); break;
....
} // switch
真正的代码有更复杂的equation/macro和更多的输入变量排列,但上面的代码是我对g++的测试compiler/optimizer。我发现 g++ 没有像我希望的那样进行优化。也就是说,在适当的时候,g++ 不会删除琐碎的算术运算。
例如,在情况 3 中,我希望最终的微代码没有任何 b[n] - c[n]
相关操作。对于情况 6,我希望数组 r[n]
中的元素简单地设置为 1
,根本不进行任何算术运算。不幸的是,两者都不是。 :(
确实发生的优化是 AVX 矢量化和使用 VXORPS
生成零值。但是对于最佳生成的 0,g++ 仍然会进行琐碎的 0*(b[n]-c[n])
和 0*e[n]
操作。
证人:
; case 6: ITERATE THE_EQ(0,b[n],c[n],0,e[n],1); break;
0x400778 vxorps xmm1,xmm1,xmm1 ; generate 0
...
0x4007a0 vmovaps ymm0,YMMWORD PTR [rsi+rax*1]
0x4007a5 vmulps ymm2,ymm1,YMMWORD PTR [rdx+rax*1] ; 0*e[n]
0x4007aa vsubps ymm0,ymm0,YMMWORD PTR [rcx+rax*1] ; b[n]-c[n]
0x4007af vmulps ymm0,ymm0,ymm1 ; (b[n]-c[n])*0
0x4007b3 vaddps ymm0,ymm0,ymm2 ; 0*(b[n]-c[n])+0*e[n]
0x4007b7 vaddps ymm0,ymm0,ymm3 ; ....+1
0x4007bb vmovaps YMMWORD PTR [rdi+rax*1],ymm0
0x4007c0 add rax,0x20
0x4007c4 cmp rax,0x200
0x4007ca jne 0x4007a0 <main()+128>
显然,这不是最优的。是否有一种技术(通过 PRAGMA 或编译标志)会鼓励 g++ 放弃那些琐碎的算术运算?或者除了硬编码 60 多个不同的表达式之外,还有其他方法可以达到我想要的优化级别。
命令是
g++-4.9 -Wall -fexceptions -O3 -g -march=corei7-avx main.cpp
使用 g++ 4.9.2
/* Maybe fold x * 0 to 0. The expressions aren't the same
when x is NaN, since x * 0 is also NaN. Nor are they the
same in modes with signed zeros, since multiplying a
negative value by 0 gives -0, not +0. */
gcc 中的优化受一些条件的保护。 -ffast-math
是让 gcc 相信您不关心这些情况的最简单方法。
我用复杂的算术表达式编写数学代码,用于不同类型的输入,但为了超优化和可读性,我想将它用作宏而不是函数。但是,我无法让 g++ (4.9.2) 以一种我认为很明显并且需要帮助的方式进行优化。
感兴趣的算术运算只在一个位置,但问题是输入变量有很多排列。也就是说,方程变量可以是单例或数组。为了节省内存和 CPU 缓存,我想为每个变体(即数组和单例输入)编码。问题的另一个要素是方程的某些项在某些条件下会丢失,变量可能不仅是单例,而且已知 a priori 在某些情况下恰好为 0,从而导致项方程式是微不足道的。
考虑以下简化的说明性示例
float a[128],b[128],c[128],d[128],e[128],r[128];
float a0, b0, c0, d0, e0;
...
#define ITERATE for (int n=1; n<N; n++)
#define THE_EQ(A,B,C,D,E,F) r[n] = A*(B-C) + D*E + F
...
switch(condition) {
case 1: ITERATE THE_EQ(a[n],b[n],c[n],d[n],e[n],0); break;
case 2: ITERATE THE_EQ( a0 ,b[n],c[n],d[n],e[n],0); break;
case 3: ITERATE THE_EQ( 0 ,b[n],c[n],d[n],e[n],0); break;
case 4: ITERATE THE_EQ(a[n],b[n],c[n],d[n],e[n],0); break;
case 5: ITERATE THE_EQ( a0 ,b[n],c[n], d0 ,e[n],0); break;
case 6: ITERATE THE_EQ( 0 ,b[n],c[n], 0 ,e[n],1); break;
....
} // switch
真正的代码有更复杂的equation/macro和更多的输入变量排列,但上面的代码是我对g++的测试compiler/optimizer。我发现 g++ 没有像我希望的那样进行优化。也就是说,在适当的时候,g++ 不会删除琐碎的算术运算。
例如,在情况 3 中,我希望最终的微代码没有任何 b[n] - c[n]
相关操作。对于情况 6,我希望数组 r[n]
中的元素简单地设置为 1
,根本不进行任何算术运算。不幸的是,两者都不是。 :(
确实发生的优化是 AVX 矢量化和使用 VXORPS
生成零值。但是对于最佳生成的 0,g++ 仍然会进行琐碎的 0*(b[n]-c[n])
和 0*e[n]
操作。
证人:
; case 6: ITERATE THE_EQ(0,b[n],c[n],0,e[n],1); break;
0x400778 vxorps xmm1,xmm1,xmm1 ; generate 0
...
0x4007a0 vmovaps ymm0,YMMWORD PTR [rsi+rax*1]
0x4007a5 vmulps ymm2,ymm1,YMMWORD PTR [rdx+rax*1] ; 0*e[n]
0x4007aa vsubps ymm0,ymm0,YMMWORD PTR [rcx+rax*1] ; b[n]-c[n]
0x4007af vmulps ymm0,ymm0,ymm1 ; (b[n]-c[n])*0
0x4007b3 vaddps ymm0,ymm0,ymm2 ; 0*(b[n]-c[n])+0*e[n]
0x4007b7 vaddps ymm0,ymm0,ymm3 ; ....+1
0x4007bb vmovaps YMMWORD PTR [rdi+rax*1],ymm0
0x4007c0 add rax,0x20
0x4007c4 cmp rax,0x200
0x4007ca jne 0x4007a0 <main()+128>
显然,这不是最优的。是否有一种技术(通过 PRAGMA 或编译标志)会鼓励 g++ 放弃那些琐碎的算术运算?或者除了硬编码 60 多个不同的表达式之外,还有其他方法可以达到我想要的优化级别。
命令是
g++-4.9 -Wall -fexceptions -O3 -g -march=corei7-avx main.cpp
使用 g++ 4.9.2
/* Maybe fold x * 0 to 0. The expressions aren't the same
when x is NaN, since x * 0 is also NaN. Nor are they the
same in modes with signed zeros, since multiplying a
negative value by 0 gives -0, not +0. */
gcc 中的优化受一些条件的保护。 -ffast-math
是让 gcc 相信您不关心这些情况的最简单方法。