趋动科技的GPU池化方案怎样实现cudaMallocHost在没有GPU的client端调用

在没有GPU的client端调用cudaMallocHost函数是不可行的，因为该函数需要通过GPU来分配内存。如果想要实现GPU池化方案，可以考虑以下几个步骤：

1. 在GPU端创建一个内存池，通过cudaMalloc函数来分配一定大小的内存空间。

2. 创建一个GPU池管理模块，用于管理GPU池中的内存。

3. 在client端调用GPU池管理模块提供的分配内存的接口，该接口会从GPU池中申请一定大小的内存，并返回一个指针给client。

4. 在client端使用完内存后，调用GPU池管理模块提供的释放内存的接口，该接口会将内存归还给GPU池。

5. 如果GPU池中的内存不够用了，可以通过cudaMalloc函数再次分配一定大小的内存空间，然后将该内存加入到GPU池中。

需要注意的是，GPU池化方案需要在GPU端实现，client端只是调用GPU池管理模块提供的接口来申请和释放内存。