[解決済み] MPI_ScatterとMPI_GatherはC言語からどのように使用するのですか？

質問内容

これまでのところ、私のアプリケーションは、整数のリストを含むtxtファイルを読み込んでいます。これらの整数は、マスタープロセス、すなわちランク0のプロセッサによって配列に格納される必要があります。これは問題なく動作しています。

さて、プログラムを実行すると、マスタープロセスかどうかをチェックするif文があり、マスタープロセスなら MPI_Scatter コマンドを実行します。

私の理解では、これは数字で配列を細分化し、スレーブプロセス、すなわちランク > 0 のすべてに渡します。しかし、私はどのように MPI_Scatter . スレーブプロセスはどのようにサブアレイを取得するのでしょうか？マスター以外のプロセスにサブアレイで何かをするように指示するにはどうすればよいですか？

マスタープロセスが配列から要素を送り出し、スレーブがその合計をマスターに返し、マスターがすべての合計を足し合わせてプリントアウトする方法を示す簡単な例をどなたか教えてください。

これまでの私のコード

#include <stdio.h>
#include <mpi.h>

//A pointer to the file to read in.
FILE *fr;

int main(int argc, char *argv[]) {

int rank,size,n,number_read;
char line[80];
int numbers[30];
int buffer[30];

MPI_Init(&argc, &argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &size);

fr = fopen ("int_data.txt","rt"); //We open the file to be read.

if(rank ==0){
printf("my rank = %d\n",rank);

//Reads in the flat file of integers  and stores it in the array 'numbers' of type int.
n=0;
while(fgets(line,80,fr) != NULL) {
  sscanf(line, "%d", &number_read);
  numbers[n] = number_read;
  printf("I am processor no. %d --> At element %d we have number: %d\n",rank,n,numbers[n]);
  n++;
}

fclose(fr);

MPI_Scatter(&numbers,2,MPI_INT,&buffer,2,MPI_INT,rank,MPI_COMM_WORLD);

}
else {
MPI_Gather ( &buffer, 2, MPI_INT, &numbers, 2, MPI_INT, 0, MPI_COMM_WORLD); 
printf("%d",buffer[0]);
}
MPI_Finalize();
return 0;
}

解決方法は？

これはMPIを初めて使う人によくある誤解で、特に集団操作では、ブロードキャスト( MPI_Bcast を呼び出すことで、他のプロセッサに何らかの形でデータをプッシュすることを期待しています。 ほとんどのMPI通信は、送信側と受信側の両方でMPIコールを行う必要があります。

特に MPI_Scatter() と MPI_Gather() (そして MPI_Bcast や、その他多数)は コレクティブ 操作によって呼び出される必要があります。 すべて のタスクのうち、Communicatorのタスクの コミュニケータ内の全てのプロセッサが同じ呼び出しを行い、操作が実行されます。 (scatterとgatherがパラメータの1つとして、すべてのデータが行き来する"root"プロセスを要求するのはそのためです）。 このようにすることで、MPI実装は通信パターンを最適化する余地が多くあります。

そこで、簡単な例を挙げてみましょう( 更新 を追加し、ギャザーを追加しました)。

#include <mpi.h>
#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    int size, rank;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    int *globaldata=NULL;
    int localdata;

    if (rank == 0) {
        globaldata = malloc(size * sizeof(int) );
        for (int i=0; i<size; i++)
            globaldata[i] = 2*i+1;

        printf("Processor %d has data: ", rank);
        for (int i=0; i<size; i++)
            printf("%d ", globaldata[i]);
        printf("\n");
    }

    MPI_Scatter(globaldata, 1, MPI_INT, &localdata, 1, MPI_INT, 0, MPI_COMM_WORLD);

    printf("Processor %d has data %d\n", rank, localdata);
    localdata *= 2;
    printf("Processor %d doubling the data, now has %d\n", rank, localdata);

    MPI_Gather(&localdata, 1, MPI_INT, globaldata, 1, MPI_INT, 0, MPI_COMM_WORLD);

    if (rank == 0) {
        printf("Processor %d has data: ", rank);
        for (int i=0; i<size; i++)
            printf("%d ", globaldata[i]);
        printf("\n");
    }

    if (rank == 0)
        free(globaldata);

    MPI_Finalize();
    return 0;
}

実行すると、次のようになります。

gpc-f103n084-$ mpicc -o scatter-gather scatter-gather.c -std=c99
gpc-f103n084-$ mpirun -np 4 ./scatter-gather
Processor 0 has data: 1 3 5 7 
Processor 0 has data 1
Processor 0 doubling the data, now has 2
Processor 3 has data 7
Processor 3 doubling the data, now has 14
Processor 2 has data 5
Processor 2 doubling the data, now has 10
Processor 1 has data 3
Processor 1 doubling the data, now has 6
Processor 0 has data: 2 6 10 14