MPI_Scatter 用法

MPI_Scatter usage

我正在尝试修改我的程序以使代码看起来更好。现在我正在使用 MPI_Send 和 MPI_Recv,但我正在尝试使其与 MPI_Scatter 一起使用。我有一个名为 All_vals 的数组,我试图将 Sub_arr_len 等份发送给每个奴隶。 因此,在我首先找到我应该发送给每个从属的值的数量之后,我必须发送和接收值的数量,然后发送和接收值。我正在尝试将那些 send/recv 更改为 MPI_Scatter 并考虑这样一种情况,即当我有 20 个数字但我有 3 个进程时,值的数量不能被分成相等的部分。所以slave应该有20/3=6个值,而master应该有剩下的20-2*6=8.
这是我要编辑的部分:

int master(int argc, char **argv){
...
for (i=0; i<ntasks; i++)
    {
    Sub_arr_len[i]=Num_vals/ntasks;      //Finding the number of values I should send to every process             
    printf("\n\nIn range %d there are %d\n\n",i,Sub_arr_len[i]);
    }

    for(i=1;i<ntasks;i++) {
        Sub_len = Sub_arr_len[i];
        MPI_Isend(&Sub_len,1, MPI_INTEGER, i, i, MPI_COMM_WORLD, &request);
        MPI_Wait(&request, &status);
        Sub_arr_start += Sub_arr_len[i-1];
        printf("\r\nSub_arr_start = %d ",Sub_arr_start);
        MPI_Isend(&All_vals[Sub_arr_start],Sub_len, MPI_INTEGER, i, i, MPI_COMM_WORLD, &request);
        MPI_Wait(&request, &status);
    }
...
}  


int slave(){
MPI_Irecv(&Sub_arr_len, 1, MPI_INTEGER, 0, myrank, MPI_COMM_WORLD, &request);
    MPI_Wait(&request,&status);
    printf("\r\nSLAVE:Sub_arr_len = %d\n\n",Sub_arr_len);
    All_vals = (int*) malloc(Sub_arr_len * sizeof(MPI_INTEGER));

    MPI_Irecv(&All_vals[0], Sub_arr_len, MPI_INTEGER, 0, myrank, MPI_COMM_WORLD, &request);
    MPI_Wait(&request,&status);
}

我正在尝试制作分散的东西,但我做错了,所以如果有人帮助我构建它,我会很高兴。

对于MPI_Scatter,涉及的每个等级必须接收相同数量的元素,包括根。通常根进程是分散操作的正常参与者并“接收”他自己的块。这意味着您还需要为根进程指定一个接收缓冲区。您基本上有以下选择:

  1. 在根上使用MPI_IN_PLACE作为recvbuf,这样根就不会向自己发送任何东西。将其与从根部散布原始发送缓冲区的尾部相结合,使得该“尾部”具有许多可被进程数整除的元素。例如。对于 20 个元素,scatter &All_vals[2] 总共有 18 个元素,每个元素 6 个(再次包括 root)。然后根可以使用 All_vals[0-7].
  2. 用一些不做任何事情的元素填充发送缓冲区,使其可以被进程数整除。
  3. 使用MPI_Scatterv将不等数量的元素发送到每个等级。 Here is a good example 如何正确设置发送计数和位移

最后一个选项有一些明显的优势。它在进程之间创建最小的负载不平衡,并允许所有进程使用相同的代码。如果适用的话,第二个方案很简单,而且负载均衡还是不错的。