提高LeNet模型GPU占用率的几种方法

可以考虑以下几种方式来提高GPU占用率：

增加batch size：通过增加batch size，可以将更多的数据同时送入GPU进行计算，从而提高GPU的利用率。但是需要注意，如果batch size过大，可能会导致GPU显存不足而出现错误。
使用更复杂的模型：使用更复杂的模型可以增加计算量，从而提高GPU的利用率。但是需要注意，过于复杂的模型可能会导致训练过程过慢或者过拟合的问题。
使用更高效的优化器：PyTorch提供了多种优化器，例如Adam、SGD等，这些优化器的效率不同。可以尝试使用更高效的优化器来提高训练速度和GPU利用率。
使用更高效的硬件：如果条件允许，可以尝试使用更高效的GPU或者使用多个GPU并行计算。这样能够进一步提高GPU占用率和训练速度。

以下是LeNet模型代码：

class LeNet(nn.Module):
    def __init__(self):
        super(LeNet,self).__init__()
        self.conv1 = nn.Sequential(
            nn.Conv2d(in_channels=1,out_channels=6,kernel_size=5,stride=1,padding=2),
            nn.BatchNorm2d(6),
            nn.ReLU(),
            nn.AvgPool2d(kernel_size=2,stride=2),
            nn.Dropout(p=0.2)
        )

        self.conv2 = nn.Sequential(
            nn.Conv2d(in_channels=6,out_channels=16,kernel_size=5,stride=1),
            nn.BatchNorm2d(16),
            nn.ReLU(),
            nn.AvgPool2d(kernel_size=2,stride=2),
            nn.Dropout(p=0.2)
        )

        self.conv3 = nn.Sequential(
            nn.Conv2d(in_channels=16,out_channels=120,kernel_size=5),
            nn.BatchNorm2d(120),
            nn.ReLU(),
            nn.Dropout(p=0.2)
        )

        self.fc1 = nn.Sequential(
            nn.Linear(120,84),
            nn.BatchNorm1d(84),
            nn.ReLU(),
            nn.Dropout(p=0.2)
        )

        self.fc2 = nn.Linear(84,10)

    def forward(self,x):
        x = self.conv1(x)
        x = self.conv2(x)
        x = self.conv3(x)
        x = x.view(x.size()[0],-1)
        x = self.fc1(x)
        x = self.fc2(x)
        return x