1、简介
cudaMalloc() 是 CUDA 编程中用于在 GPU 显存(device memory)上分配空间的函数,类似于 C 语言中的 malloc(),但是它分配的是 显卡显存,而不是 CPU 内存。
cudaMalloc() 函数的原型为:
cudaMalloc (void** devPtr, size_t size);
其中,有两个参数。第二个参数很简单,就是要分配的显存的大小。第一个参数,和molloc函数不同,它是二级指针。
这里,就有个疑问,为什么第一个参数是二级指针?
2、为什么第一个参数是二级指针?
这个很容易造成疑惑,特别是对于新手。因为在C语言中,在CPU中,如果我申请一块内存,我是用以下的代码:
int * p
p = malloc (19 * sizeof(int));
相当于我为p这个指针变量,申请了一个19*int的内存空间。malloc返回的就是这个空间的第一个地址,也就是p变量。
在GPU分配内存中,我们的代码就变成了:
int *p;
cudaMalloc ((void**) & p, 19*sizeof(int));
可以看到,送给cudaMalloc的指针p,再次取了一次地址。之所以需要这样做,是因为cudaMalloc和malloc不一样,malloc返回的就是地址。
而cudaMalloc是需要修改指针p的值,那如果我们把指针p当形参传进去,则修改不了指针p的值,需要把指针p的指针传进去,才能修改指针p的值。所以,cudaMalloc的第一个形参需要是指针的指针。
再用通俗易懂的例子,解释一下:
void func (int *ptr)
{
ptr = new int;
}
int *p;
func(p);
上述代码运行后,p的值依旧为空,不会发生改变。因为这个时候,p是一个指针变量,把指针变量传给ptr,其实是当成形参传进去,C语言的规则是会复制一份给ptr。p和ptr是相互独立的,所以p即使是指针变量,也不会发生任何改变。
我们修改代码如下:
void func (int **ptr)
{
*ptr = new int;
}
int *p;
func(&p);
则运行之后,p的地址就会发生变化。因为输入给func函数的是p这个指针变量的地址,在func中是直接对p这个指针变量的地址进行操作,那肯定p变量就会改变。
同理,在cudaMalloc中,如果要修改指针变量,那么传入的就必须是指针变量的地址。也就是要传入指针的指针。