如何在pytorch里lenet中使用Early stopping

Early stopping是一种用于防止模型过拟合的技术，它可以在训练过程中监控模型的性能，并在模型的性能不再提高时停止训练，从而避免过拟合。

在pytorch里，使用Early stopping可以通过以下步骤实现：

定义Early stopping类

class EarlyStopping:
    def __init__(self, patience=10, delta=0, path='checkpoint.pt'):
        self.patience = patience
        self.delta = delta
        self.path = path
        self.counter = 0
        self.best_score = None
        self.early_stop = False

    def __call__(self, val_loss):
        if self.best_score is None:
            self.best_score = val_loss
            self.save_checkpoint(val_loss)
        elif val_loss > self.best_score + self.delta:
            self.counter += 1
            print(f'EarlyStopping counter: {self.counter} out of {self.patience}')
            if self.counter >= self.patience:
                self.early_stop = True
        else:
            self.best_score = val_loss
            self.save_checkpoint(val_loss)
            self.counter = 0

    def save_checkpoint(self, val_loss):
        torch.save({'val_loss': val_loss}, self.path)

该类中包含了一些用于实现Early stopping的方法。其中，__init__方法用于初始化Early stopping类的参数，包括等待的步数（patience）、变化的最小程度（delta）和保存模型的路径（path）。__call__方法用于在每一次验证后调用，以检查模型的性能是否有所提高。如果没有提高，就将计数器增加，并检查是否达到了等待的步数。如果是，就将early_stop标记为True，表示需要停止训练。如果模型的性能有所提高，则保存最佳模型，并将计数器重置为0。

在训练过程中使用Early stopping

在训练过程中，可以使用Early stopping来监控模型的性能，并在需要时停止训练。具体实现如下：

early_stopping = EarlyStopping(patience=10, delta=0.001)

for epoch in range(num_epochs):
    train_loss = 0
    for batch_idx, (data, target) in enumerate(train_loader):
        optimizer.zero_grad()
        output = model(data)
        loss = criterion(output, target)
        loss.backward()
        optimizer.step()
        train_loss += loss.item()
    train_loss /= len(train_loader)

    val_loss = 0
    for batch_idx, (data, target) in enumerate(val_loader):
        output = model(data)
        loss = criterion(output, target)
        val_loss += loss.item()
    val_loss /= len(val_loader)

    early_stopping(val_loss)
    if early_stopping.early_stop:
        print("Early stopping")
        break

在每个epoch之后，都会计算训练集和验证集的损失，并调用Early stopping类的__call__方法来检查模型的性能是否有所提高。如果需要停止训练，就会打印出“Early stopping”的信息，并跳出循环。

在评估模型性能时使用最佳模型

在训练结束后，可以使用保存的最佳模型来评估模型的性能。具体实现如下：

# 加载最佳模型
checkpoint = torch.load('checkpoint.pt')
model.load_state_dict(checkpoint['model_state_dict'])

# 评估模型性能
test_loss = 0
correct = 0
total = 0
with torch.no_grad():
    for batch_idx, (data, target) in enumerate(test_loader):
        output = model(data)
        loss = criterion(output, target)
        test_loss += loss.item()
        _, predicted = output.max(1)
        total += target.size(0)
        correct += predicted.eq(target).sum().item()

print('Test Loss: {:.3f} | Test Acc: {:.3f}'.format(test_loss/len(test_loader), 100.*correct/total))

在该代码中，首先加载保存的最佳模型，然后使用测试集来评估模型的性能。在评估过程中，通过计算损失和准确率来衡量模型的性能。最终打印出模型的测试损失和准确率