如何将包含数组的结构传递给 CUDA 中的内核？

Question

在下面的代码中，我在结构中有一个数组，我需要将其传递给内核函数。我似乎找不到正确的方法。我尝试查看有关 SO 的其他帖子，但不太了解他们的方法。

在我的实际代码中，我收到两个结构，作为指针，作为调用内核的函数的参数。因此，我需要将这些'argument structs'的内容复制到'GPU memory structs'并传递给内核。

#include <stdio.h>
#include <stdlib.h>

typedef struct{
    int *pass;
    int element;
}Pass;

__global__ void hello(int *a, int *b, Pass *p){

    int i = blockIdx.x * blockDim.x + threadIdx.x;
    if(i < *b)
        a[i] = p -> pass[i] + p -> element;
}

int main(){

    int *a_host, b_host = 5;
    int *a_gpu, *b_gpu;
    Pass *p, *p_gpu;

    a_host = (int*)malloc(sizeof(int) * 5); 
    cudaMalloc(&a_gpu, 5 * sizeof(int));

    cudaMalloc(&b_gpu, sizeof(int));
    cudaMemcpy(b_gpu, &b_host, sizeof(int), cudaMemcpyHostToDevice);

    p = (Pass*)malloc(sizeof(Pass));
    p -> pass = (int*)malloc(5 * sizeof(int));

    for(int i = 0;i < 5;i++)
        p -> pass[i] = i;
    p -> element = 5;

    cudaMalloc(&p_gpu, sizeof(Pass));
    cudaMemcpy(p_gpu, p, sizeof(Pass), cudaMemcpyHostToDevice);

    int numBlocks = 1;
    int threadPerBlock = 512;


    hello<<<numBlocks, threadPerBlock>>>(a_gpu, b_gpu, p_gpu);

    cudaMemcpy(a_host, a_gpu, 5 * sizeof(int), cudaMemcpyDeviceToHost);

    int i;
    for(i = 0;i < 5;i++)
        printf("a[%d]: %d\n", i, a_host[i]);

    cudaFree(p_gpu);
    cudaFree(a_gpu);
    cudaFree(b_gpu);

    free(p);
    free(a_host);

    return(0);
}

Answer 1

我们在这个问题出现的前 24 小时内看到了三个不同的代码。这个答案解决了最终的演变。

您遇到的潜在问题是此类操作：

cudaMalloc(&p_gpu, sizeof(Pass));
cudaMalloc(&p_gpu -> pass, 5 * sizeof(int));

第二个cudaMalloc是非法的。这是试图从主机取消引用并将值分配给设备内存中的指针。将导致段错误。

在设备上分配包含指向其他内存分配的指针的结构的正确过程如下：

为结构指针将指向设备上的每个数组或对象分配内存
将这些分配分配给主机内存
将主机内存中的完整初始化结构复制到设备内存

在这个问题的代码中，这可能是这样的：

// p_hgpu is the device structure copy in host memory
// p_gpu is the device structure copy in device memory
Pass *p_gpu, *p_hgpu;
p_hgpu = (Pass*)malloc(sizeof(Pass));
p_hgpu->element = p->element;
cudaMalloc(&(p_hgpu->pass), sizeof(int) * 5);
cudaMemcpy(p_hgpu->pass, p->pass, sizeof(int) * 5, cudaMemcpyHostToDevice);

// copy p_hgpu to the device
cudaMalloc(&p_gpu, sizeof(Pass));
cudaMemcpy(p_gpu, p_hgpu, sizeof(Pass), cudaMemcpyHostToDevice);

虽然这很简单，但它包含一些微妙之处，如果您对指针及其在 C++ 中的使用有很好的了解，这些细节可能是不言自明的。在这种情况下，这可能是拼图的缺失部分。

如何将包含数组的结构传递给 CUDA 中的内核？

How to pass struct containing array to the kernel in CUDA?

c

arrays

cuda