PyTorch CUDA 接口调用指南：快速入门与最佳实践

要调用 CUDA 接口，需要使用 PyTorch 中的 torch.cuda 模块。在使用 PyTorch 时，建议先检查是否支持 CUDA，可以使用以下代码：

import torch

if torch.cuda.is_available():
    device = torch.device('cuda')          
    print('CUDA is available')
else:
    device = torch.device('cpu')
    print('CUDA is not available')

这段代码将检查是否支持 CUDA，如果支持，则将设备设置为 CUDA，否则设置为 CPU。接下来，可以使用 device 变量来指定在 CUDA 上运行的张量和模型。

例如，如果要将张量 x 移动到 CUDA 设备上：

x = x.to(device)

如果要在 CUDA 上计算：

y = x + 2

就会自动在 CUDA 上进行计算。注意，如果在 CUDA 上计算，需要确保所有相关的张量都在 CUDA 上。可以使用 tensor.device 属性检查张量所在的设备：

print(x.device)

输出结果应该是 cuda:0。如果有多个 CUDA 设备，则可以使用 torch.cuda.device() 方法来选择设备：

device = torch.device('cuda:1')

这将选择第二个 CUDA 设备。最后，需要在程序结束时释放 CUDA 设备的资源，可以使用以下代码：

torch.cuda.empty_cache()