MPI并行编程

程序员文章站 2022-07-12 21:34:20

...

1.MPI简介

（回顾并行编程的四种模式）

SIMD-单指令多数据处理器是“锁步”：每个处理器对不同数据同步执行单指令。

SPMD-单程序多数据处理器的异步运行一个程序的个人副本。

MIMD-多指令多数据处理器异步运行：每个处理器都有自己的数据和自己的指令。

MPMD-多程序多数据处理器异步运行：每个处理器都有自己的数据和自己的程序。

（1）分布式内存和共享内存

分布式内存指的是多处理器计算机系统中，每个处理器都有自己的私有内存。计算任务只能对本地数据进行操作，如果需要远程数据，计算任务必须与一个或多个远程处理器通信。与此相反，共享内存多处理机提供了可供所有处理器使用的单个内存空间。

①分布式内存：每个进程有自己的地址空间，所以对每个进程来说数据是本地的；数据共享通过显式消息传递实现（通过网络）。---如：MPI

对于分布式内存系统，发送方进程发出一个发送调用，而接收方进程发出一个相应的接收调用。

②共享内存：共享内存是由多个程序同时访问的内存，其目的是提供它们之间的通信或避免冗余副本。共享内存系统可以使用：

UMA（统一内存访问 uniform memory access）：所有处理器共享内存的一致

NUMA（非统一内存访问non-uniform memory access）：内存访问时间取决于内存位置相对于处理器

COMA（cache-only memory architecture）：每个节点的处理器的本地存储器用作缓存，而不是作为实际主存。

共享内存中，所有线程可以访问的全局地址空间。数据共享通过/读写相同的内存位置的实现。

（2）什么是MPI

Message Passing Interface ：消息传递接口

MPI是由一组来自学术界和工业界的研究人员建立在各种并行计算体系结构设计的一个标准化的和便携式的消息传递系统。该标准定义了一个核心库例程的语法和语义，这些库例程对于广大用户用C，C++和Fortran编写可移植的消息传递程序很有用。

MPI为消息传递定义了一个标准的API接口。标准包括：一组核心函数的语法和语义；标准不包括：实施细节和运行时细节（代码存在于多少进程）。MPI提供了C／C++和Fortran绑定。

（3）为什么使用MPI？

标准化Standardized：并行编程的事实标准。

可移植性Portability：几乎所有平台都可以使用MPI实现。

可伸缩性Scalability：在某种意义上，它不受可以访问相同内存空间的处理器数量的限制。

流行性广泛性Popularity：许多库是基于MPI，如PETSc，MPE，ScaLAPACK，PLAPACK等。

（4） MPI的标准中包括什么？

点对点通信；集群操作；进程组、通信上下文和进程拓扑；环境管理和调查；过程创建和管理；其他功能。

编程结构：Initialization and Termination、Getting Communicator Information


# include "mpi.h"
int main (int argc, char *argv[]){
MPI_Init (&argc, &argv);
MPI_Comm_size (COMM, &p);
MPI_Comm_rank (COMM, &id);
Communicate & Compute;
MPI_Finalize( );
return 0;
}

Communicator：Encapsulate all of these ideas in order to provide the appropriate scope for all communication operations。

可被看做一组有序的进程，每个进程有一个独有的rank，是运行背景。

MPI_COMM_WORLD，默认的communicator，包含所有进程，它是MPI定义的允许程序里所有进程运行期间互相通信的通信者，或者是点对点通信，又或者是集合通信。然而对于一些应用，可能需要在选定的一个子进程组里进行通信。

通信者有两类：内部通信者（intra-communicator）和互联通信者（inter-communicator）。内部通信者处理通信者个体里的进程间的通信，而互联通信者处理内部通信者之间的通信。A process can belong to multiple communicators.本质上来说，内部通信者是MPI_COMM_WORLD的进程的子集。我们主要专注于内部通信者。需要新的通信者的原因经常是因为要处理矩阵的行、列或子块等需求。这些通信者通常和一个虚拟拓扑关联－－比笛卡尔拓扑常用－－来辅助并行操作的实现。此外，通信者的使用，经常和虚拟拓扑一起，通常增强了程序的可读性和可维护性。

1）点对点通信：点对点通信是MPI中最基本的通信形式，它允许程序通过一个特定的communicator将消息从一个进程发送到另一个进程。源进程发送消息到目的地的过程；通信发生在一个communicator中；目的地的过程是通过它在通信子的rank。

注意：“Completion完成”意味着可以安全地访问消息传递中使用的内存位置。对于发送者：发送变量在完成后可以重复使用。对于接收者：接收到的变量现在可以使用。

MPI通信方式的不同在于，接收端的完成需要什么条件——通信模式可以阻塞或非阻塞。

阻塞：函数调用的返回意味着完成；

非阻塞：从调用返回而不等待任务完成。

**阻塞通信模式：

①标准模式：由MPI来决定传出的消息是否会被缓冲。

MPI可以缓冲区发送消息。在调用相应的的接收之前，发送调用可以完成。

MPI不能缓冲区发送消息。直到匹配的接收被发送，数据已被移动到接收方时，发送调用才会完成。标准模式发送是non-local非本地的：发送操作的成功完成可能取决于相应接收的发生。

②缓冲模式：无论是否已有对应的接收发送操作都可以启动。

发送可以在匹配接收之前完成。

它是本地的：完成并不取决于匹配接收的发生。如果冲空间不足，会出现错误。可用的缓冲区空间的数量是由用户控制。想要缓冲模式有效，由用户来分配的缓冲区可能是必须的。

③同步模式：Send can start whether or not a matching receive was posted。

发送只有当匹配的接收发布，且接收操作开始接收发送端同步发送的消息时才会完成。这种模式是非本地的。

④ready mode：只有当匹配接收已经发布时，才可以开始发送。发送不取决于匹配的接收的状态，而仅仅表明发送缓冲区可以重复使用。

**非阻塞通信模式：重叠的通信和计算

非阻塞发送（接收）的开始调用启动发送（接收）的操作，但不完成它。因此，在缓冲区可以安全地重新使用之前，发送/接收就将返回。完成通信需要单独的发送/接收完成调用，确认数据已经转移。非阻塞接收的使用也可避免系统缓存和内存到内存的复制。

把非阻塞通信分为三个部分：

初始化非阻塞传输->做一些不涉及传输中的数据的其他工作->等待非阻塞通信完成.

函数的句法结构：例如 MPI_Isend 函数int MPI_Isend(const void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request *request)

2）集群通信：一对多多对一多对多

集群通信的三中类型：数据移动 Data movement•集体计算Collective computation•同步Synchronization

All collective communications are blocking

集群通信与点对点通信的对比：

a.更简洁的程序：一个集体的操作可以代替多个点对点的操作

b.优化的集体通信通常比相应的点对点通信速度更快

Data movement（看图）

①Broadcast copies data from the memory of one processor to that of other processors —— One to all operation；

②Gather copies data from each process to one process, where it is stored in rank order—— One to all operation；

③Scatter:Typically data is in an array on the root process and we want to send a different portion of the array to each worker process (often including the root)；

④Gather-to-all：The block of data sent from the j-th process is received by every process and placed in the j-th block of the buffer recvbuf；

⑤All-to-all：The j-th block sent from process i is received by process j and is placed in the i-th block of recvbuf。

Collective computation

①Reduce：MPI reduction collects data from each process, reduces them to a single value, and store it in the memory of one process；

②MPI allreduce collects data from each process, reduces them to a single value, and store it in the memory of EVERY process；

③Scan performs a prefix reduction on data distributed across the group. The operation returns, in the receive buffer of the process with rank i, the reduction of the values in the send buffers of processes with ranks 0,…,i(inclusive).

（5）并行程序设计parallel programs

①分解。将要执行的计算和由该计算操作的数据分解成小任务。

②通信。协调任务执行所需的通信是确定了的，并定义了适当的通信结构和算法。

③聚集。在设计的前两个阶段中定义的任务和通信结构将根据性能要求和实现成本进行评估。如果有必要，将任务组合成更大的任务，以提高性能或降低开发成本。

④映射。每个任务被分配给处理器，试图满足最大化处理器利用率和最小化通信成本的竞争目标。映射可以指定静态或在运行时确定的负载均衡算法。

白话补充~~

MPI是分布式计算的基础接口架构，他有很多实现，比如intelMPI openMPI等等，而这些具体实现了这些接口里面的内容，比如一些通信协议。MPI有几个很重要的概念rank, group, communicator, type, pack, spawn, window, 理解了这些概念MPI就算入门了。

group是MPI一个很重要的概念，一台电脑可以属于多个group，group的正真强大体现在可以随时随地的组合任意group，然后利用gourp内，和group间的communicator，可以很容易实现复杂科学计算的中间过程，比如奇数rank一个group，偶数另一个group，或者拓扑结构的group，这样可以解决很多复杂问题，另外MPI还有一个默认的全局的group，他就是comm world，一般简单的应用有了这一个group已经足够了。

rank就是任意group内的一个计算单元，利用rank我们可以很轻松的实现client server的架构，比如rank＝0是server其他就是client。

communicator就是各种通信，比如一对一，一对多，多对一，其中多往往代表着一个group, 在传输过程中tag还是很有用的可以用来区别不同的任务类型，一般都是先解析tag，然后再解析具体的数据内容，这里要有一个信封和信内容的差别的概念，理解了这样的差别，可以很好的扩展程序。

type是MPI的自定义类型，由于通常编程的时候常用struct 数组和离散的变量，这些东西不能直接进行通信，然后MPI同样有一套这样的定义，我们可以转化成MPI的格式，这样就可以很*的通信了。

Pack，就是把离散的数据打包起来，方便传送，其实这个作用和type很类似，如果你不想很麻烦的定义type直接打包发送。

spawn是区分MPI一代和二代的一个重要的标志，有了spawn，就可以在运行过程中自动的改变process的数量，可能复杂的软件才有这样的需求。

window远程的控制同一个文件，只有在网络条件很好的时候用这个才有意义，否则会让软件效率变得很糟糕。

2.API总结

<点对点>


MPI_Send(//标准模式
void* data,//starting address of the data to be sent
int count,
MPI_Datatype datatype,
int destination,
int tag,
MPI_Comm comm)


MPI_Recv(


void* data,//starting address of buffer to store message
int count,
MPI_Datatype datatype,
int source,
int tag,
MPI_Comm comm,
MPI_Status* status)

buffered mode: MPI_BSend

Synchronous mode : MPI_Ssend

Ready mode : MPI_Rsend

<集合通信> ——都是blocking的

三种类型：数据移动、集合计算、同步

数据移动：


int MPI_Bcast(//one to all 操作
void* buffer,
int count,
MPI_Datatype datatype,
int root,
MPI_Comm comm)



int MPI_Gather(//one to all 操作

const void* sendbuf,
int sendcount,
MPI_Datatype sendtype,
void* recvbuf,//address of receive buffer (significant only at root)

int recvcount,
MPI_Datatype recvtype,
int root,//rank of receiving process

MPI_Comm comm)

gather 例：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,sbuf[3],*rbuf,i;
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);
        for(i=0;i<3;i++)
                sbuf[i]=rank*10+i;//每一个进程都有一个sbuf
        if(rank==0)
                rbuf=(int*)malloc(sizeof(int)*3*size);//只有root里才分配内存
        MPI_Gather(sbuf,3,MPI_INT,rbuf,3,MPI_INT,0,MPI_COMM_WORLD);
        if(rank==0)
        {
                printf("Process 0 receives:");
                for(i=0;i<size*3;i++)
                printf("%d",rbuf[i]);
                putchar('\n');
        }
        MPI_Finalize();
        return 0;
}


int MPI_Scatter (
void * sendbuf , // pointer to send buffer
int sendcount , // items to send per process
MPI_Datatype sendtype , // type of send buffer data
void * recvbuf , // pointer to receive buffer
int recvcount , // number of items to receive
MPI_Datatype recvtype , // type of receive buffer data
int root , // rank of sending process
MPI_Comm comm )

scatter例：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,*sbuf,rbuf[3],i;
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);
        if(rank==0)
        {

                sbuf=(int*)malloc(sizeof(int)*3*size);//只有root里才分配内存

                for(i=0;i<size*3;i++) sbuf[i]=i+1;
        }
        MPI_Scatter(sbuf,3,MPI_INT,rbuf,3,MPI_INT,0,MPI_COMM_WORLD);//每个进程都有一个rbuf
                printf("Process %d receives:",rank);
                for(i=0;i<3;i++)
                printf("%d ",rbuf[i]);
                putchar('\n');

        MPI_Finalize();
        return 0;
}


int MPI_Allgather (
void * sendbuf , // pointer to send buffer
int sendcount , // number of items to send
MPI_Datatype sendtype , // type of send buffer data
void * recvbuf , // pointer to receive buffer
int recvcount , // items to receive per process
MPI_Datatype recvtype , // type of receive buffer data
MPI_Comm comm )

allgather例：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,sbuf[3],*rbuf,i;
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);
        for(i=0;i<3;i++)
                sbuf[i]=rank*10+i;

                rbuf=(int*)malloc(sizeof(int)*3*size);
        MPI_Allgather(sbuf,3,MPI_INT,rbuf,3,MPI_INT,MPI_COMM_WORLD);

                printf("Process %d receives:",rank);
                for(i=0;i<size*3;i++)
                printf("%d",rbuf[i]);
                putchar('\n');
        free(rbuf);
        MPI_Finalize();
        return 0;
}


int MPI_Alltoall(
const void *sendbuf,
int sendcount,
MPI_Datatype sendtype,
void *recvbuf,
int recvcount,
MPI_Datatype recvtype,
MPI_Comm comm)

all-to-all:


int main(int argc, char** argv){
int rank, size, *sbuf, *rbuf, i;
MPI_Init(&argc, &argv);
MPI_Comm_size(MPI_COMM_WORLD, &size);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
sbuf = (int*)malloc(size * 3 * sizeof(int));
rbuf = (int*)malloc(size * 3 * sizeof(int));
for (i = 0; i < size * 3; i++)
sbuf[i] = rank * 10 + i;
printf("Before exchange, process %d has ", rank);
for (i = 0; i < size * 3; i++)
printf("%d ", sbuf[i]);
putchar('\n');
MPI_Alltoall(sbuf, 3, MPI_INT, rbuf, 3, MPI_INT, MPI_COM
M_WORLD);
printf("After exchange, process %d has ", rank);
for (i = 0; i < size * 3; i++)
printf("%d ", rbuf[i]);
putchar('\n');
MPI_Finalize();
free(sbuf);
free(rbuf);
return 0;
}

集合计算：


MPI_Reduce(
void* send_data,
void* recv_data,
int count,
MPI_Datatype datatype,
MPI_Op op,//reduce操作类型
int root,
MPI_Comm communicator)

reduce例1：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,sbuf[3],rbuf[3],i;
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);
        for(i=0;i<3;i++)
                sbuf[i]=rank*10+i;
        printf("Process %d has:",rank);
        for(i=0;i<3;i++) printf("%d",sbuf[i]);
        putchar('\n');
        MPI_Reduce(sbuf,rbuf,3,MPI_INT,MPI_SUM,0,MPI_COMM_WORLD);
        if(rank==0)
{
        printf("Total=");
        for(i=0;i<3;i++)
        printf("%d",rbuf[i]);
        putchar('\n');
}

        MPI_Finalize();
        return 0;
}

reduce例2（max location）：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
typedef struct
{
        int val;
        int rank;
}DATATYPE;
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,i;
        DATATYPE sbuf[3],rbuf[3];
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);

        srand(time(NULL)+rank);

        printf("Process %d has",rank);
        for(i=0;i<3;i++)
        {
        sbuf[i].val=rand()%100;
        sbuf[i].rank=rank; printf("%d ",sbuf[i].val);
        }
        putchar('\n');
        MPI_Reduce(sbuf,rbuf,3,MPI_2INT,MPI_MAXLOC,0,comm);
        if(rank==0)
        {
        printf("max value and location:");
        for(i=0;i<3;i++)
        printf("value=%d,location=%d\n",rbuf[i].val,rbuf[i].rank);
        }
       MPI_Finalize();
        return 0;
}


MPI_Allreduce(
void* send_data,
void* recv_data,
int count,
MPI_Datatype datatype,
MPI_Op op,
MPI_Comm communicator)


int MPI_Scan(
const void* sendbuf,
void* recvbuf,
int count,
MPI_Datatype datatype,
MPI_Op op,
MPI_Comm comm)

scan例：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc, char** argv)
{
        MPI_Comm comm = MPI_COMM_WORLD;
        int size,rank,sbuf[3],rbuf[3],i;
        MPI_Init(&argc, &argv);
        MPI_Comm_size(comm, &size);
        MPI_Comm_rank(comm, &rank);
        for(i=0;i<3;i++) sbuf[i]=rank*10+i;
        printf("Process %d has:",rank);
        for(i=0;i<3;i++) printf("%d",sbuf[i]); putchar('\n');
        MPI_Scan(sbuf,rbuf,3,MPI_INT,MPI_SUM,MPI_COMM_WORLD);
              printf("Process %d has results:",rank);
                for(i=0;i<3;i++)
                printf("%d ",rbuf[i]);
                putchar('\n');
        MPI_Finalize();
        return 0;
}

completion、non-blockong、reduce

编译 mpicc **.c -o **

运行 mpirun -np 5 ./** //-machinefile nodefile your-exe-program parameters-if-any

1.基本概念

MPI是分布式计算的基础接口架构，他有很多实现，比如intelMPI openMPI等等，而这些具体实现了这些接口里面的内容，比如一些通信协议。

MPI有几个很重要的概念rank, group, communicator, type, pack, spawn, window, 理解了这些概念MPI就算入门了。

rank就是任意group内的一个计算单元，利用rank我们可以很轻松的实现client server的架构，比如rank＝0是server其他就是client。

Pack，就是把离散的数据打包起来，方便传送，其实这个作用和type很类似，如果你不想很麻烦的定义type直接打包发送。

spawn是区分MPI一代和二代的一个重要的标志，有了spawn，就可以在运行过程中自动的改变process的数量，可能复杂的软件才有这样的需求。

window远程的控制同一个文件，只有在网络条件很好的时候用这个才有意义，否则会让软件效率变得很糟糕。

communicator：

可被看做一组有序的进程，每个进程有一个独有的rank，是运行背景。

通信者有两类：内部通信者（intra-communicator）和互联通信者（inter-communicator）。内部通信者处理通信者个体里的进程间的通信，而互联通信者处理内部通信者之间的通信。本质上来说，内部通信者是MPI_COMM_WORLD的进程的子集。我们主要专注于内部通信者。

需要新的通信者的原因经常是因为要处理矩阵的行、列或子块等需求。这些通信者通常和一个虚拟拓扑关联－－比笛卡尔拓扑常用－－来辅助并行操作的实现。此外，通信者的使用，经常和虚拟拓扑一起，通常增强了程序的可读性和可维护性。

并行排名：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
#define RANDOM_MAX 20
typedefstructNode{
int owner;
int number;
}Node;
void sort_node(Node*arr,int size){
int i, j;
for(i=0; i<size-1; i++){
for(j=0; j<size-1-i; j++){
if(arr[j].number > arr[j+1].number){
Node t = arr[j];
				arr[j]= arr[j+1];
				arr[j+1]= t;
}
}
}
}
int main(int argc,char** argv){
	MPI_Comm comm = MPI_COMM_WORLD;
int size, rank;
	MPI_Init(&argc,&argv);
	MPI_Comm_size(comm,&size);
	MPI_Comm_rank(comm,&rank);
int i, number,*arr_number=NULL,*sbuf=NULL, range;
Node*arr_node=NULL;
//	srand((unsigned)time(NULL));
//	number = rand() % RANDOM_MAX;
	number = size-rank-1;
if(0== rank){
		arr_number =(int*) malloc(sizeof(int)* size);
}
	MPI_Gather(&number,1, MPI_INT, arr_number,1, MPI_INT,0, comm);
if(0== rank){
		arr_node =(Node*) malloc(sizeof(Node)* size);
		memset(arr_node,0,sizeof(arr_node));
for(i=0; i<size; i++){
Node node ={i, arr_number[i]};
			arr_node[i]= node;
}
		sort_node(arr_node, size);
		sbuf =(int*) malloc(sizeof(int)* size);
		memset(sbuf,0,sizeof(int));
for(i=0; i<size; i++){
			sbuf[arr_node[i].owner]= i;
}
}
	MPI_Scatter(sbuf,1, MPI_INT,&range,1, MPI_INT,0, MPI_COMM_WORLD);
	printf("(process, range, number) : (%d, %d, %d)\n", rank, range, number);
if(0== rank){
		free(arr_node);
		free(arr_number);
		free(sbuf);
}
	MPI_Finalize();
return0;
}

点对点互发：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<string.h>
#include<mpi.h>
int main(int argc,char** argv)
{
int rank,size,token,source,dest;
	MPI_Init(&argc,&argv);
	MPI_Comm_size(MPI_COMM_WORLD,&size);
	MPI_Comm_rank(MPI_COMM_WORLD,&rank);


	source=rank==0?size-1:rank-1;
	dest=(rank+1)%size;


	token=100;
if(rank==0){
	 MPI_Ssend(&token,1,MPI_INT,dest,1,MPI_COMM_WORLD);
	 printf("Process %d sends token to %d.\n",rank,dest);
	 MPI_Recv(&token,1,MPI_INT,source,1,MPI_COMM_WORLD,MPI_STATUS_IGNORE);
	 printf("Process %d receives token from %d.\n",rank,source);
}
else{
	 MPI_Recv(&token,1,MPI_INT,source,1,MPI_COMM_WORLD,MPI_STATUS_IGNORE);
	 printf("Process %d receives token from %d.\n",rank,source);
	 MPI_Ssend(&token,1,MPI_INT,dest,1,MPI_COMM_WORLD);
	 printf("Process %d sends token to %d.\n",rank,dest);
}
	MPI_Finalize();
return0;
}

积分：


#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<math.h>
#include<mpi.h>
#define PI 3.14159265358979
#define ROOT 0
int main(int argc,char** argv){
time_t s=0, e=0;///时间统计
///MPI初始化
	MPI_Comm comm = MPI_COMM_WORLD;
int size, rank;
	MPI_Init(&argc,&argv);
	MPI_Comm_size(comm,&size);
	MPI_Comm_rank(comm,&rank);
int j;
double a=0, b=100*PI;///区间，单位为弧度
double*arr_res=NULL;///保存计算结果数组
double part_len=(b-a)/size;///每一小段的长度
double sum_local=0, sum=0;///每一进程的计算结果和最终计算结果
double width=0.000001;///每一小段的宽度，即计算精度
///在根进程中申请结果数组
if(ROOT == rank){
		s = clock();
		arr_res =(double*) malloc(sizeof(double)*size);
}
///每一段求积分
double begin=rank*part_len, end=(rank+1)*part_len;
for(; begin<end; begin+=width){
		sum_local += fabs(cos(begin)*width);
//	sum_local += cos(begin)*width;
}
///打印每一段的积分结果
	printf("Process %d integrate is : %lf\n", rank, sum_local);
///每一段将积分结果发到根进程
	MPI_Gather(&sum_local,1, MPI_DOUBLE, arr_res,1, MPI_DOUBLE, ROOT, comm);
///根进程计算最终结果
if(ROOT == rank){
for(j=0; j<size; j++)
			sum += arr_res[j];
		printf("cos(x) integarte is %lf\n", sum);
		free(arr_res);
		e = clock();
		printf("time: %ldms\n",(e-s)/1000);
}
///MPI结束
	MPI_Finalize();
return0;
}

maximum：

average：


// Creates an array of random numbers. Each number has a value from 0 - 1
float*create_rand_nums(int num_elements){
float*rand_nums =(float*)malloc(sizeof(float)* num_elements);
assert(rand_nums != NULL);
int i;
for(i =0; i < num_elements; i++){
rand_nums[i]=(rand()/(float)RAND_MAX);
}
return rand_nums;
}


// Computes the average of an array of numbers
float compute_avg(float*array,int num_elements){
float sum =0.f;
int i;
for(i =0; i < num_elements; i++){
sum += array[i];
}
return sum / num_elements;
}


int main(int argc,char** argv){
if(argc !=2){
fprintf(stderr,"Usage: avg num_elements_per_proc\n");
exit(1);
}
int num_elements_per_proc = atoi(argv[1]);
srand(time(NULL));
MPI_Init(NULL, NULL);
int world_rank;
MPI_Comm_rank(MPI_COMM_WORLD,&world_rank);
int world_size;
MPI_Comm_size(MPI_COMM_WORLD,&world_size);


float*rand_nums = NULL;
if(world_rank ==0){
rand_nums = create_rand_nums(num_elements_per_proc * world_size);
}
float*sub_rand_nums =(float*)malloc(sizeof(float)*
num_elements_per_proc);
assert(sub_rand_nums != NULL);
MPI_Scatter(rand_nums, num_elements_per_proc, MPI_FLOAT,
sub_rand_nums, num_elements_per_proc, MPI_FLOAT,
0, MPI_COMM_WORLD);


float sub_avg = compute_avg(sub_rand_nums,
num_elements_per_proc);
float*sub_avgs = NULL;
if(world_rank ==0){
sub_avgs =(float*)malloc(sizeof(float)* world_size);
assert(sub_avgs != NULL);
}
MPI_Gather(&sub_avg,1, MPI_FLOAT, sub_avgs,1,
MPI_FLOAT,0, MPI_COMM_WORLD);
if(world_rank ==0){
float avg = compute_avg(sub_avgs, world_size);
printf("Avg of all elements is %f\n", avg);
float original_data_avg =
compute_avg(rand_nums, num_elements_per_proc * world_size);
printf("Avg computed across original data is %f\n", original_data_avg);
}
if(world_rank ==0){
free(rand_nums);
free(sub_avgs);
}
free(sub_rand_nums);
MPI_Barrier(MPI_COMM_WORLD);
MPI_Finalize();
}

矩阵乘法：

法1


#include<stdlib.h>
#include<stdio.h>
#include<time.h>
#include<mpi.h>
#define R1 1000
#define C1 1000
#define R2 1000
#define C2 1000
#define ROOT 0
void print_(int*);///输出结果
void format(int*,int*,int);///格式化结果
void save_to_file(int*);///保存到文件
int main(int argc,char** argv){
time_t s=0, e=0;
    MPI_Comm comm = MPI_COMM_WORLD;
int size, rank;
    MPI_Init(&argc,&argv);
    MPI_Comm_size(comm,&size);
    MPI_Comm_rank(comm,&rank);
int i, j, k, count;
int matrix1[R1][C1];
int each_col = C2 / size;///每个进程有 C2/size列
int column[each_col][R2];///分配给每一个进程 有each_col行，R2列，转置以后的
int*matrix2=NULL;///矩阵2
int*rbuf=NULL;///存储计算结果
int*rbuf1=NULL;///存储最终结果
///给第一个矩阵设置值
    count =1;
for(i=0; i<R1; i++){
for(j=0; j<C1; j++){
            matrix1[i][j]= count;
}
}
if(rank == ROOT){
		s = clock();
///第二个矩阵申请内存
        matrix2 =(int*)malloc(sizeof(int)*R2*C2);
///第二个设置值
        count=1;
for(i=0; i<R2*C2; i++){
            matrix2[i]=count;
}
///申请内存
        rbuf =(int*) malloc(sizeof(int)*R1*C2);
		rbuf1 =(int*) malloc(sizeof(int)*R1*C2);
}
    MPI_Scatter(matrix2, R2*each_col , MPI_INT, column, R2*each_col, MPI_INT, ROOT, comm);
//执行矩阵乘法
int result[R1][each_col];
for(i=0; i<R1; i++){
for(j=0; j<each_col; j++){
            result[i][j]=0;
for(k=0; k<C1; k++){
                result[i][j]+= matrix1[i][k]*column[j][k];
}
}
}
    MPI_Gather(result, R1*each_col, MPI_INT, rbuf, R1*each_col, MPI_INT, ROOT, comm);
if(ROOT == rank){
///转置，使结果格式化
		format(rbuf, rbuf1, each_col);
///打印结果到屏幕
///print_(rbuf1);
///输出结果到文件
		save_to_file(rbuf1);
		free(matrix2);
		free(rbuf);
		free(rbuf1);
		e = clock();
		printf("time: %ld ms\n",(e-s)/1000);
}
    MPI_Finalize();
return0;
}
void save_to_file(int* rbuf1){
int i, j;
FILE*fpt;
	fpt = fopen("out1","w");
for(i=0; i<R1; i++){
		fprintf(fpt,"%d", rbuf1[i*C2]);
for(j=1; j<C2; j++)
			fprintf(fpt," %d", rbuf1[i*C2+j]);
		fprintf(fpt,"\n");
}
	fclose(fpt);
}
void format(int* rbuf,int* rbuf1,int each_col){
int count =0, i, j, k;
for(i=0; i<R1; i+=each_col){
for(k=0; k<R1; k++){
for(j=i; j<i+each_col; j++){
				rbuf1[k*R1+j]= rbuf[count++];
}
}
}
}
void print_(int* rbuf1){
int i, j;
for(i=0; i<R1; i++){
for(j=0; j<C2; j++){
			printf("%d ", rbuf1[i*C2+j]);
}
		printf("\n");
}
}

上一篇：不等式

下一篇：货仓选址

MPI并行编程

Python Socket编程之多线程聊天室

多种编程语言的常用按键和语法

ASP.NET MVC下的四种验证编程方式[续篇]

Android开发经验谈：并发编程（线程与线程池）（推荐）

详解在Javascript中进行面向切面编程

深入理解JS异步编程-Promise

Shell编程中的特殊变量之进程状态变量介绍

Shell 编程：Bash空格的那点事

shell 编程中空格的使用方法

Shell编程 Bash引号的那点事